Der Friedhofsplatz etwas oberhalb des Dorfes am Waldrand gelegen, gehörte zunächst dem Freiherrn von Münch, der für jede Beerdigung Geld bekam. 1870 verkaufte er das Grundstück der jüdischen Gemeinde. Es befinden sich über 500 Grabstellen auf dem Friedhof. Viele Grabsteine wurden während der Nazizeit zerstört, umgeworfen, zerbrochen und die Grabplatten herausgebrochen.

Eine Besonderheit sind die Gräber von verstorbenen jüdischen Patienten aus Sanatorien in Schömberg. Calmbach und Neuenbürg. Von 1915 bis 1934 wurden in Mühlen mindestens acht Menschen aus Polen, Russland, Lettland, Österreich und anderen Herkunftsorten beerdigt.