Der wohl bereits im 7. Jahrhundert gegründete Ort wird erstmals um 961 bis 983 erwähnt und gehörte zum Besitz der Grafen von Comburg-Rothenburg, die Güter an das Kloster Comburg stifteten. Daneben waren im Mittelalter die Schenken von Limpurg und Haller Stadtadelsfamilien begütert. Im 16. Jahrhundert erwarb die Reichsstadt Hall schrittweise fast alle Herrschaftsrechte. Fast der gesamte Ort wurde 1670 durch eine Feuersbrunst zerstört. Die Margarethenkapelle ist erstmals 1504 erwähnt, Sitz der evangelischen Pfarrei wurde Sulzdorf erst 1837 (zuvor war dies Anhausen). Auch Sulzdorf erlitt bei Kriegsende 1945 schwere Zerstörungen. Im Zuge der Gemeindereform wurde der Ort 1972 mit den Weilern Anhausen, Buch, Dörrenzimmern, Hohenstadt, Jagstrot, Matheshörlebach und Neunbronn nach Schwäbisch Hall eingemeindet.