Erstmals im Jahr 1570 wird ein „Jud Baruch zu Mühringen“ genannt. Im Jahr 1722 zählte die Gemeinde 19 Familien mit 47 Personen und wuchs bis ins 19. Jahrhundert stark an. Mühringen war als religiöser Mittelpunkt von großer Bedeutung. Dort war der Sitz des Rabbinates, das von seiner Ausdehnung und seiner Personenzahl her das größte in Südwestdeutschland war. Viele bekannte Rabbiner gingen aus ihm hervor.

Die erste Synagoge wurde 1728 erbaut. 1810 wurde am selben Platz eine neue, große Synagoge eingeweiht, die für 500 Personen eingerichtet war. 75 Jahre später wurde sie renoviert und modernisiert. 1846 erreichte die jüdische Bevölkerungszahl ihren Höchststand mit 512 Personen, das waren über hundert Familien.

Im Jahr 1900 waren es nur noch 130 jüdische Einwohner. Da die Abwanderung der Familien in die Städte weiter voranging, wurde 1913 der Sitz des Rabbiners nach Horb verlegt. 1933 lebten noch 45 jüdische Menschen in Mühringen. 12 Männer und Frauen wurden 1941 und 1942 deportiert und ermordet.

Die Synagoge wurde in der Nacht vom 8. auf den 9. November 1938 im Inneren demoliert und angezündet. Das Gebäude blieb erhalten und diente während des Krieges der Oberndorfer Rüstungsfirma Mauser als Lager für Gewehrschäfte.

Schließlich wurde das Gebäude 1960 abgebrochen. Heute befindet sich dort ein Parkplatz mit einem unscheinbaren Gedenkstein.