Esta pequeña iglesia de un solo ábside es la que da nombre al barrio de San Marcos que tuvo gran importancia en el Medievo. Es con toda seguridad una de las abuelas de los templos segovianos, porque se encuentra en una de las zonas que siempre han tenido población aunque los papeles no hablen de ella hasta el siglo XII. Toda una superviviente, es la única que nos ha llegado de las varias que hubo en este arrabal. Ha sufrido las reformas que le trajo el paso del tiempo sin perder totalmente su origen románico como podemos ver desde el exterior en sus dos portadas y su figura típica del románico primitivo, que mostraba templos pequeños, con poca altura pero robustos y capaces de permanecer en pie a lo largo de los siglos. La torre medieval se añadió posteriormente a su construcción; presenta dos grandes ventanas por cada lado que muestran el campanario.
Su interior, decorado en estilo barroco, como tantas de sus hermanas en la ciudad, viste el típico enlucido de esa época que no sólo aportaba más luz sino que recordemos, era una medida higiénica porque, en aquel entonces, la pestilencia de los enterramientos era insoportable. De su pasado románico da fe la pila bautismal.
Es la única en Segovia que ha conseguido mantener el muro protector que solía preceder a casi todas las iglesias y que hoy nos puede parecer un estorbo por impedirnos una visión más amplia; esto contribuye a que pase desapercibida. Suele estar cerrada, aunque en Semana Santa es una de las cofradías que sale en procesión y ver subir o bajar el Cristo de San Marcos esos días por la Cuesta de los Hoyos teniendo de fondo el Pinarillo y la ciudad es algo inolvidable.
Cuenta la tradición que las mozas casaderas que metan su mano en la cerradura de esta iglesia el día de San Marcos, 25 de abril, por si hay alguna interesada, acabarán con su soltería.