Este santuario, convertido hoy día en Basílica Menor de La Soledad, es uno de los más bellos y notables de Oaxaca debido a su arquitectura y decoración artística, erigido en el lugar donde antiguamente se construyó una ermita dedicada a San Sebastián.

Esta obra se encomendó al ilustre capellán Fernando Méndel. mismo que obtuvo del Virrey Tomás Antonio Manrique de la Cerda, la autorización) correspondiente para la edificación del templo cuya obra dirigió el fraile y arquitecto Sebastián de San Phelipe en 1682, pero al terminarse el dinero destinado para esta magna tarea tuvieron que recurrir a la ayuda del arcediano Pedro Otálora y Carvajal, quien, con sus propios recursos, vio terminada la obra en 1689 y consagrada el 6 de septiembre de 1690 por el obispo Isidro Zarina y Cuenca.

En este mismo año se empezó a construir el convento anexo que se terminó en 1697 y en él se alojaron cinco monjas capuchinas traídas del convento de Santa Mónica de Puebla entre los años de 1697 a 1867, fecha en que fueron exclaustradas a raíz de la aplicación de las Leyes de Reforma. Este ex-convento ha servido de asiento al Hospicio de la Vega y posteriormente a la Escuela de Artes y Oficios. La portada del templo mide 24 metros de altura y está dividida en tres cuerpos en donde resaltan los relieves escultóricos de mayor mérito en toda la ciudad, debido a sus variados estilos de columnas clásicas, ya que los dos primeros cuerpos ostentan los estilos dórico y jónico, mientras en el tercero se distingue el salomónico. En las hornacinas podemos contar doce estatuas en muy buen estado. En la parte central sobresale la Virgen del Calvario y las de San Pedro, San Pablo, San Agustín y Santa Mónica. En la parte superior están La Magdalena, luego un arcángel, San Cristóbal y Santa Bárbara, y en el remate superior la Virgen de la Asunción.

La fachada es de cantera amarilla y parece estar sobrepuesta al macizo de la construcción que es de cantera verde. Este exquisito gusto arquitectónico hizo al historiador José Antonio Gay expresar: "Los arcos atrevidos, las bóvedas soberbias de los detalles, así como la grandiosidad del pensamiento que se manifiesta en el conjunto, hacen de este templo uno de los mejores de Oaxaca".

El interior de la nave tiene la forma de una cruz latina y se adorna con varios retablos que contribuyen a dar lucidez al altar principal donde resalta majestuosa la imagen de la Virgen de La Soledad, con su esplendorosa corona de más de dos kilos de peso en oro y 600 diamantes incrustados.

Dignos de consideración son las pinturas que representan a María Magdalena, Santa Margarita, Santa Teresa, Santa Catarina y San. Benito Abad. Algunos cuadros que adornan la sacristía tienen la firma del pintor Isidro de Castro.

Al progresista arzobispo Eulogio G. Gillow se debe la ornamentación interna del dorado de todas las molduras, vitrinas de arte nuevo, el gran camarín de la Virgen y la pavimentación de mármol que se realizó a fines del siglo pasado. El jardincito del lado oriente se construyó en 1881 y hoy se conoce como ..Jardín Sócrates". En este lugar se expenden, las exquisitas y famosas nieves de Oaxaca.