O życiu Jana, późniejszego papieża, wiemy niewiele. Urodził się w Toskanii. Żył na przełomie V i VI wieku, doświadczając tego, co dla Półwyspu Apenińskiego przyniosły próby integracji z barbarzyńskimi plemionami. Stary rzymski porządek upadł, a na jego gruzach powstawały nowe barbarzyńskie królestwa. Był to czas zamętu i niepokojów, nie tylko politycznych, ale i religijnych – jedności Kościoła zagrażały panosząca się herezja arianizmu i konflikty ze wschodnim chrześcijaństwem. Nasilenie sporów nastąpiło po soborze chalcedońskim, gdy wschodni monofizyci odmówili przyjęcia soborowych kanonów. W tym czasie na tron Piotrowy został wybrany Jan, cieszący się powszechnym uznaniem. Szacunkiem darzyli go najwięksi chrześcijańscy intelektualiści epoki, m.in. słynny filozof Boecjusz.