A los pies del viaducto, a la altura del numero 21 de la Calle Segovia, se encuentra el único vestigio que queda de la fuente de los Caños Viejos. El escudo en piedra más antiguo de la Ciudad de Madrid.
La fuente de los Caños Viejos se encontraba originalmente en la confluencia de la calle Rollo con el Estudio de la Villa o Estudio Público de Humanidades de la Villa de Madrid. Esta fuente de abastecía de un antiguo viaje de agua que surtía a varias fuentes.
Con trazas de Diego Sillero, alarife de la Villa, la fuente fue trasladada en 1588, cuando se abrió la nueva calle Segovia. El cantero Pedro de Nares y el alarife Alonso Carrero se encargaron del traslado y la adosaron a la Casa del Pastor.
La fuente se ubicó en un muro de sillería de granito, con un escudo con las armas de Madrid tallado en piedra en altorrelieve. Está fechado a principios del siglo XVII, pero es posible que sustituyese en su momento a uno anterior. Esto lo convierte en el escudo más antiguo conservado de la capital.
Para 1848 el pilón de la fuente ya había desaparecido y la llegada del Canal de Isabel II conllevó a la destrucción de la fuente. No obstante, se conservaron el muro y el escudo, así como la Casa del Pastor, que se mantuvo en uso hasta 1940.
LA LLEGADA DEL CANAL DE ISABEL II CONLLEVÓ LA DESTRUCCIÓN DE LA FUENTE
El estado de ruina de la Casa del Pastor hizo que en 1976 se derribara el inmueble, pero se respetó de nuevo el muro y el escudo. En 1988 los arquitectos Francisco de Asís Cabrero, Carlos de Riaño y José Cabrero proyectaron un nuevo edificio que integraba todos estos elementos históricos.
En 1990 se levantó el nuevo inmueble, también denominado Casa del Pastor, en honor a la desaparecida construcción, en el que quedaban integrados el muro y el escudo. El proyecto arquitectónico ha sido reconocido con varios galardones.