Esta casa fuerte fue edificada en el siglo XV por don Pedro López de Ayala, a quien pertenecen los escudos del patio. Forma parte de la muralla porque defendía la desaparecida Puerta de San Martín (derribada en 1883).
Más tarde, hacia el año 1500, fue vendida a la familia de la Hoz, que dotó a la casa de su llamativa fachada en cuya entrada y dinteles de los balcones podemos ver el escudo. La fachada en forma de picos o diamantes le da un aspecto intimidatorio y, de acuerdo con la tradición popular, sirvió para que dejasen de llamarla “la casa del judío” o “la casa del verdugo” según las diferentes versiones. Cuenta también la sabiduría popular que la forman 365 picos y que en uno de ellos podría estar escondido un tesoro.