Sus orígenes probablemente se remontan a principios del siglo XIV. Tuvo una iglesia, ya desaparecida, de la que apenas quedan unos pocos restos en la entrada.
Lo que sí se ha conservado es el magnífico claustro, realizado en el siglo XVI y costeado por los Duques de Béjar, cuyos blasones, junto a los de la orden franciscana, aparecen entre los arcos. En una de sus esquinas campea un soberbio magnolio con más de cien años de edad, que forma parte de la extraordinaria colección de árboles monumentales que atesora Béjar en distintos lugares (Cedro de la Francesa, El Bosque de Béjar…).
En la actualidad, el convento alberga dependencias municipales además de las interesantes colecciones de arte, pintura y curiosidades que custodia el Museo Legado Valeriano Salas. Este ilustre bejarano y viajero incansable, entre otras cosas, creó y dirigió la revista “Geografía Española” y fue fundador, junto a otros colaboradores, de la Asociación Española de Amigos de los Castillos.
En una de las salas del museo está instalada la antigua botica de la farmacia La Bola, con muebles y botamen del siglo XIX.