An dem wüsten Studentenleben, das dort herrschte, nahm er keinen Anteil. Viel lieber erging er sich in dem romantischen Rauhthale bei Jena in der Betrachtung des Stilllebens in der Natur. Er schrieb später darüber:„Die innige Freude, welche ich bei meinen einsamen Spaziergängen durch das Rauhthal an dem Aufmerken auf die mich umgebenden Naturgegenstände, an der genaueren Betrachtung und Beobachtung derselben finden lernte, war mir bis dahin noch unbekannt gewesen. Ich sah die Schöpfung und ihren Urheber in einem neuen Lichte.“ Hier ruht der Keim zu der späteren Schnepfenthaler Lebensregel, daß die sittliche und auch geistige Entwickelung zu führen sei: „Vom Sichtbaren zum Unsichtbaren.“
Ende 1764 kehrte Salzmann ins Elternhaus zurück, wo er bis 1768 blieb und den Unterricht seiner jüngeren Geschwister übernahm. Im Jahre 1768 ward er Pfarrer in dem Dorfe Rohrborn bei Erfurt, wo er sich der vierzehnjährigen Tochter des Pfarrers Schnell zu Schloß-Vippach vermählte. Von seinem Gehalte, 80 Thaler, konnte er nicht mit Familie leben, umsomehr nicht, als er nach dem Tode seiner Schwiegereltern seine beiden Schwägerinnen zu sich ins Haus nahm. Er war deshalb gezwungen, nebenbei Ackerbau zu treiben, und er that dieses mit solcher Umsicht und solchem Erfolge, daß er den Dorfbewohnern auch in dieser Hinsicht ein Vorbild war.
1772 ward Salzmann Prediger in Erfurt. Wegen seiner freieren religiösen Ansichten ward er von seinen Amtsgenossen vielfach angefeindet, so daß er 1781 in das von Basedow 1774 gegründete Philanthropin zu Dessau als Religionslehrer und Liturg eintrat. Mit Eifer und Liebe widmete er sich dem Erziehungswesen, in dem er sich bald eingearbeitet hatte. Von Dessau aus machte er auch die Bekanntschaft des Volksmannes und Pädagogen Eberhard von Rochow, dessen Schule zu Rekahn ihn sehr befriedigte. Obgleich er in Dessau Mitleiter des Philanthropins war und mit gleichgesinnten Pädagogen nach philanthropischen Grundsätzen arbeitete, so fand er sich doch nicht ganz befriedigt. Er beschloß, selbst eine Erziehungsanstalt zu gründen, an die er folgende Anforderungen stellte: Dieselbe solle 1) auf dem Lande liegen, 2) von einem Oberhaupte einheitlich geleitet, und 3) die Zöglinge soviel als möglich als Familienglieder behandelt werden.
Salzmann kaufte deshalb in der Nähe von Waltershausen im Gothaischen ein Landgut, wozu ihm der Herzog Ernst II. von Gotha, ein Urenkel Ernst des Frommen, des Pädagogen unter den Fürsten, 4000 Thaler schenkte. Hier gründete er im März 1784 seine Erziehungsanstalt Schnepfenthal.
Schwere Sorgen suchten ihn oft, namentlich anfangs, heim; doch im Vertrauen auf Gottes Beistand begann er sein Werk. Die Anstalt war zwar da, aber keine Zöglinge. Salzmann entschloß sich nun, einen begabten Knaben unentgeltlich aufzunehmen. Die Wahl fiel auf Karl Ritter, den Sohn eines verstorbenen Arztes in Quedlinburg, der 1788 mit seinem ältesten Bruder und seinem bisherigen Erzieher Guts-Muths in die Anstalt eintrat. Karl Ritter war also der erste Schüler Schnepfenthals und ist auch ihr berühmtester geworden. Seine geographischen Werke sind weltbekannt; er ist der Vater der vergleichenden Erdbeschreibung. Später fanden sich noch mehrere Schüler ein, ja die Schnepfenthaler Anstalt ward bald eine der gesuchtesten Deutschlands. Zehn Jahre nach der Gründung, im Jahre 1794, zählte sie außer des Gründers zahlreicher Familie und einer ganzen Anzahl Lehrer gegen 60 Schüler, die sämtlich mit der größten Liebe zu ihrem Vater Salzmann aufblickten. Im Jahre 1803 zählte Salzmanns Anstalt 61 Zöglinge, welche Anzahl erst seit den napoleonischen Kriegen (1809) sank, weil von jetzt an der Geist Pestalozzis die allgemeine Aufmerksamkeit an sich fesselte, und die durch den Krieg bedingte Verarmung vieler Eltern das hohe Kostgeld nicht erschwingen konnte; in diesem Jahre hatte die Anstalt bloß 36 Zöglinge. Sie ist das einzige philanthropische Institut, das noch blüht, und das im Jahre 1884 die hundertjährige Jubelfeier seines Bestehens begehen konnte.
Tüchtige Lehrkräfte wirkten an der Salzmannschen Anstalt. Es seien genannt Guts-Muths, der Erzvater der Turnerei und Verfasser nachstehender Schriften: „Gymnastik für die Jugend“, „Spiele zur Übung und Erholung des Körpers“, „Turnbuch“, „Handbuch der Geographie“, „Methodik der Geographie“; Blasche, Verfasser der „Anleitung zu Papparbeiten“ und anderer Schriften für den Handfertigkeitsunterricht; Glaz, später Konsistorialrat in Wien; Lenz, der später Vater des durch seine naturhistorischen Schriften bekannten Harald Otmar Lenz und Rektor des Weimarer Gymnasiums ward; André, Bechstein, die drei Brüder Ausfeld, Märker, Weißenborn. Märker, Lenz und Weißenborn wurden sogar Salzmanns Schwiegersöhne, was viel dazu beitrug, daß die Anstalt zu Schnepfenthal trotz ihrer Vergrößerung den Familiencharakter behielt.
Im Unterrichte wurden in Schnepfenthal im allgemeinen die bekannten philanthropischen Grundsätze durchführt. Die geistige Entwickelung des Kindes galt als oberster Grundsatz; in zweite Linie trat erst die materielle Aneignung gewisser Stoffgebiete. Das Ziel, das sich Salzmann bei der Erziehung der Jugend setzte, war nach seinen eigenen Worten: „Gesunde, verständige, gute und frohe Menschen zu bilden, sie dadurch in sich selbst glücklich zu machen und zu befähigen, zur Förderung des Wohles ihrer Mitmenschen kräftig mitzuwirken.“ Deshalb ward vor allen Dingen auf Weckung und Schärfung der eigenen Beobachtung in der umgebenden Natur, auf Bildung und Übung des Verstandes und somit auf die Selbständigkeit des Urteils abgesehen.
Fast dreißig Jahre wirkte Salzmann selbst an seiner Anstalt, die er als ein Vater leitete. Im Jahre 1809 nach langem Genusse ungestörter Gesundheit ward er von der Gicht befallen, welche die Kraft seines Lebens allmählich erschöpfte. Er starb am 31. Oktober 1811, nachdem ihm seine Gattin, mit der er vierzig Jahre in glücklicher und kinderreicher Ehe gelebt hatte, und die ihm eine treue Gehilfin seines Lebenswerkes gewesen, bereits 1810 vorangegangen war. Einer seiner Zeitgenossen widmete ihm bei seinem Hinscheiden folgende Worte: „Die Anstalt zu Schnepfenthal hat einen großen Verlust zu beklagen. Den sie verloren, halten wir für der Besten Einen, denn gleich sehr war er ausgezeichnet durch Eigenschaften des Geistes und des Herzens. Eindringend und scharf war sein Blick, ruhig und besonnen sein unermüdliches Wirken, schnell sein Entschluß und groß seine Selbstbeherrschung. Wohlthätigkeit und Milde hat er stets geübt, dabei aber nie der Eitelkeit und der Ruhmsucht Raum gegeben. Sein Auftreten war einfach, aber würdig; es kennzeichnete den Vater und Regierer eines großen Hauswesens. Die ihm Untergebenen leitete er durch Blicke und Worte; Strafen, um seine Autorität zu stützen, bedurfte er nie.“ Nach dem Willen des bescheidenen Mannes schmückt nur ein Fliederbusch sein Grab. Der Dichter Welker rief ihm nach:
„Nicht eingeengt in dumpfumschlossnen Räumen,
Nein frei, wie einst dich die Natur erzog,
Schläfst du hier, Deutschlands edler Pädagog,
Im grünen Hain bei deinen Lieblingsbäumen.
Und was du früh gesehn in holden Träumen,
Es war kein Wahn der schmeichelnd dich betrog;
Denn als dein Geist dem Irdischen entflog,
Stand's herrlich da mit Frucht und Blütenkeimen.