El convento de los padres Carmelitas se encuentra en el barrio de San Marcos, más concretamente en la alameda que hay junto al Santuario de la Fuencisla. Se construyó sobre el antiguo convento trinitario de Santa María de Rocamador (1208) que quedó vacío en el siglo XVI al mudarse sus ocupantes a otro lugar. Se dio la circunstancia de que por aquel entonces había fallecido Juan de Guevara, dejando fondos para la fundación de un convento en Segovia. Su viuda hizo las gestiones necesarias para que los carmelitas descalzos vinieran y se instalaran en el solar que ella había comprado. Con ellos vino San Juan de la Cruz, quien tomó parte muy activa en esta fundación, de la que fue prior; aunque esto no le impedía arrimar el hombro en los trabajos físicos más duros de la construcción.
Aquí pasó varios años, en los que coincidió con Santa Teresa de Jesús, de hecho en este cenobio se guardan partes de sus restos que fueron repartidos entre Segovia y Úbeda, donde murió. Se encuentran en un espectacular sepulcro de mármol y bronce que el Papa Juan Pablo II, gran admirador de San Juan, visitó cuando vino por estas tierras en 1982.

La entrada es muy curiosa con una bonita escalera que conduce a lo alto de la iglesia. Sin embargo cuando entramos en ella, tenemos la impresión de estar en un edificio moderno debido al retablo, que es de 1982; las capillas laterales nos sacan de nuestro error. Abajo se encuentra el claustro, rodeado de las instalaciones en las que se pueden hacer ejercicios espirituales.

Uno de sus grandes atractivos es el enclave en que se halla este convento, que incluye una gran huerta y dos pequeñas ermitas. Junto a una de ellas aún se conserva el ciprés (ya seco) que plantó con sus propias manos, en lo alto de las peñas grajeras, el Santo, en un lugar al que le gustaba subir para meditar, lo cual no es raro, porque las vistas desde allí son simplemente alucinantes.