Miller, figlio del pastore evangelico Johann Michael Miller (1722–1774), nacque a Jungingen, oggi parte della città di Ulm. Dal 15 ottobre 1770 studiò teologia all’Università di Göttingen, dove contribuì a fondare il Göttinger Hainbund. Attraverso questo gruppo letterario, fondato nel 1772, Miller conobbe Matthias Claudius, Gottfried August Bürger, Ludwig Christoph Heinrich Hölty, Johann Heinrich Voss e Friedrich Gottlieb Klopstock. (tutti poeti molto frequentati musicalmente da Beethoven) Nel 1774 accompagnò Klopstock da Gottinga ad Amburgo. Nel 1774 e nel 1775 studiò a Lipsia.

Durante i suoi anni a Gottinga, Miller scrisse principalmente canzoni popolari, molte delle quali furono musicate in vita e si trovano ancora oggi in diversi libri di canzoni. “Die Zufriedenheit”, la sua poesia più popolare, fu messa in musica da Wolfgang Amadeus Mozart, Ludwig van Beethoven e Christian Gottlob Neefe. Il tono particolare così come il suono dei suoi versi semplici erano ben noti agli scrittori contemporanei, come Friedrich Schiller, Johann Wolfgang von Goethe e Karl Philipp Moritz, e autori delle generazioni successive, come Eduard Mörike e Friedrich Rückert.

Dopo essere tornato nella città natale pubblicò nel 1776 il romanzo sentimentale “Siegwart. Eine Klostergeschichte”, su cui aveva già iniziato a lavorare a Gottinga – un grande successo che, per numero di ristampe divenne uno dei più venduti romanzi dell’epoca. Dal 1776 al 1777 apparve il Briefwechsel dreyer Akademischer Freunde, un romanzo epistolare, un tempo descritto come “un esempio della diversità delle correnti intellettuali… nell’Età dei Lumi”. Miller fu in contatto con molti intellettuali contemporanei del periodo dell’Illuminismo, come Friedrich Nicolai e Friedrich Maximilian Klinger. I suoi ultimi romanzi non riuscirono a ripetere il sorprendente successo del debutto. È certo che al più tardi nel 1790 cessò di lavorare come autore. Dopo gli anni da studente a Gottinga, Miller fu attivo a Ulm e dintorni: dal 1780 in poi come parroco, dal 1781 come insegnante nel liceo locale e dal 1783 come predicatore della cattedrale nella cattedrale di Ulm. Nel 1804 divenne consigliere concistoriale, nel 1809 diacono distrettuale e nel 1810 consigliere spirituale e diacono nella stessa città.

Miller si unì alla Massoneria il 13 ottobre 1774 presso la loggia Zum goldenen Zirkel a Göttingen. L’11 dicembre 1776 fu eletto compagno di mestiere. Nel 1775 aiutò a fondare la loggia Zur goldenen Kugel ad Amburgo. Per lungo tempo fu relatore presso la loggia Asträa zu den 3 Ulmen di Ulm (chiusa nel periodo 1795-1807). Johann Martin Miller morì ad Ulm all’età di sessantaquattro anni, il 21 giugno 1814. Un breve saggio autobiografico, scritto nel 1793 e pubblicato su un periodico di grande diffusione è una delle principali fonti sulla sua vita.