グーテンベルクはドイツのマインツの貴族の家系に生まれた。父はフリーレ・ゲンスフライシュ・ツア・ラーデン、母はエルゼ・ヴューリヒであった。父フリーレが1427年ごろにグーテンベルク屋敷と呼ばれた住居を手にいれて、そこで暮らしたことから、一族は以降「ツム・グーテンベルク」という名前も名乗るようになる。13世紀以降、グーテンベルク一族は冶金業と商業に従事していた。父母の間には長男フリーレ（後に市参事会員）、長女エルゼが生まれ、次男として生まれたのがヨハネスであった。（グーテンベルクの人生についてはほとんど知られていなかったが、19世紀にアロイス・キュッペル（Aloys Küppel）博士が初めて本格的な研究を行い、以降、教会や市の記録をもとにしてグーテンベルク一族の研究が進められた。）
当時のマインツでは市民と貴族の間で争いが繰り返されていた。そのあおりでグーテンベルク一家は1411年以降、他の貴族たちと同じように、何度もマインツを離れてエルトヴィル・アム・ラインへ逃れることを余儀なくされた。そのころ、ヨハネスがエルフルト大学に学んだ可能性もある。1419年に父フリーレが世を去り、一家がマインツに戻ることができたのはようやく1430年になってからであった。成人したヨハネスは金属加工の腕を磨き、貨幣鋳造職人としてその手腕を高く評価されていたが、母方の祖父が貴族でないという理由で貨幣鋳造業ギルドへの加入が認められなかった。ヨハネス（以下グーテンベルク）は1433年に母がなくなってから、兄姉との関係がうまくいっていなかったようで、それが原因なのか1434年以降ストラスブールに移り住んでいる。
家族とも生まれ故郷とも訣別した孤独なグーテンベルクはストラスブールで金属活字の研究に打ち込んだ。1439年ごろのストラスブールの裁判記録からグーテンベルクがすでに出資者をつのって印刷事業を行っていたころがわかる。1444年、再びマインツに戻ったグーテンベルクは手に入れた屋敷を自宅兼印刷所として商業印刷事業を開始した。当初はドイツ語の詩や贖宥状などいわゆる「端物印刷」で生活費を稼いでいたようである。
1450年ごろ、グーテンベルクはヨハン・フスト（Johann Fust）なる人物から事業資金をえることに成功した。フストは設備費として800グルデンを貸し付け、二人は共同事業者として新規事業を立ち上げた。彼らが新技術をアピールするために選んだプロジェクトがラテン語聖書の印刷・販売であった。このころ、グーテンベルクは自宅附属の印刷所だけでなく、フストの資金で設立した新しい印刷所の二ヶ所で印刷を行っていたことがわかっている（このことを明らかにしたのは19世紀の研究者カール・ジアツコ (Karl Dziatzko) である）。またその頃フストがペーター・シェッファー（Peter Shöffer von Gernsheim、1430年ごろ-1467年）という青年をグーテンベルクのもとに連れてきた。シェッファーはパリ大学の卒業生で写字生の経験があり、グーテンベルクのもとで印刷術を学んだ（シェッファーはフストの娘クリスティーナと結婚して婿になり、印刷業をビジネスとして成功させることになる）。
後に「グーテンベルク聖書」（「四十二行聖書」）と呼ばれる最初の印刷聖書は1455年に完成した。これと前後してフストがグーテンベルクを訴えるという事態が起きた。ゲッティンゲン大学に保管されている『ヘルマスペルガー文書』によれば、フストは以下のように主張している。すなわち、フストが印刷所の設備のためにグーテンベルクに二回にわけて1600グルデンの資金を貸与したが、グーテンベルクは聖書の印刷事業のために貸し付けた資金を別の用途に使っていて、返済の意志がない。であるため貸与金額に利子をつけて2026グルデンの返済を要求するというものであった。裁判所はフストの訴えを認め、グーテンベルクに借金の返済を命じた。しかしグーテンベルクは十分な所持金を持っていなかったため、グーテンベルクの印刷機と活字、印刷中の聖書などがすべて抵当としてフストの手に渡った。
グーテンベルクはこの決定にも落胆することなく、再び資金を集めて自宅の印刷所で書籍の印刷を続け、『カトリコン』（1460年ごろ）などの印刷を行っている。ただ、グーテンベルクには印刷日時や印刷者の名前を書物に入れるという発想がなかったため、直接的な年代の確定が困難であった。一方でグーテンベルクを追い出す形になったフストとシェッファーは事業を順調に発展させ、1457年8月15日に出版した『マインツ詩篇』は世界で初めて奥付（コロフォン）に印刷日と印刷者名（フストとシェッファー）を入れた書籍として歴史に残ることになる。
ちなみにかつてグーテンベルクの印刷とされていた『三十六行聖書』については、現代の研究者はグーテンベルクから活字セットをもらいうけたバンベルクのアルブレヒト・プフィスター (Albrecht Pfister) の工房で1460年ごろ製作されたと考えている。
1462年、マインツで勃発した対立する司教同士の争いにより、アドルフ2世大司教に従う軍勢がマインツの略奪を行い、フストとシェーファーの印刷工房が被害にあったことから、工場の印刷工が各地に分散し、それによって活版印刷技術は各地に広まったという事実もある。
グーテンベルクも自宅と印刷所を失った。すべてを失ったかに見えたグーテンベルクであったが、印刷術考案の功績を讃えて1465年にアドルフ大司教の宮廷に従者として召し抱えられる栄誉を得た。グーテンベルクがひっそりと世を去ったのは三年後の1468年のことであった。