Pravim imenom Angelo Giuseppe Roncalli rođen je 25. studenog 1881. godine u selu Sotto il Monte nedaleko od talijanskog grada Bergama. Djetinjstvo je proveo u rodnom selu. Sa 12 godina ušao je u sjemenište u Bergam, a sa 19 godina odlazi u Papinsko sjemenište u Rimu. Nakon odsluženja vojnog roka 1904. godine zaređen je za svećenika i preuzima službu tajnika bergamskog biskupa. Za vrijeme Prvog svjetskog rata bio je sanitetski podnarednik a zatim vojni kapelan.

Godine 1920. papa Benedikt XV. postavlja ga za predsjednika misijskog apostolata za Italiju. Pet godina kasnije papa Pio XI. imenuje ga biskupom i šalje kao vizitatora u Bugarsku kako bi pomogao većoj povezanosti katolika različitih obreda među sobom. Dužnost mu je bila ujedno uspostaviti odnose poštovanja s pripadnicima pravoslavne vjere. Nakon desetogodišnje službe u Bugarskoj poslan je kao diplomata u Tursku. Kao apostolski delegat za Tursku i Grčku za vrijeme njemačke okupacije Grčke biskup Roncalli je pribavljao grčkom stanovništvu pomoć i spriječio deportaciju grčkih Židova u logore smrti.

Papa Pio XII. imenovao ga je 1944. godine apostolskim nuncijem u Francuskoj, a 1953. kardinalom i patrijarhom u Veneciji. Kao nuncij u Parizu zauzimao se za njemačke ratne zarobljenike u Francuskoj.

Kardinal Roncalli postaje nasljednikom pape Pia XII. 1958. godine. Uzeo je ime papa Ivan XXIII. a papinsko geslo bilo je "Posluh i mir".

Umro je 3. lipnja 1963. godine. Blaženim je proglašen 3. rujna 2000. godine, a svetim 27. travnja 2014. godine.