Secondo il Liber Pontificalis, era nato in Grecia ed era un filosofo; tuttavia, ciò è incerto, ed è contestato dai moderni storici occidentali che sostengono che gli autori del Liber Pontificalis lo abbiano confuso con quello del contemporaneo Xystus, che era uno studente greco del pitagorismo.
Sisto II ripristinò le relazioni con le chiese africane e orientali che erano state interrotte dal suo predecessore per la questione del battesimo eretico sollevata dall’eresia Novatianesimo.
Nelle persecuzioni sotto l’imperatore Valeriano nel 258, numerosi vescovi, preti e diaconi furono messi a morte. Papa Sisto II fu una delle prime vittime di questa persecuzione e fu decapitato il 6 agosto. Fu martirizzato insieme a sei diaconi: Januarius, Vincentius, Magnus, Stephanus, Felicissimus e Agapitus. Lorenzo di Roma, il suo diacono più noto, subì il martirio il 10 agosto, quattro giorni dopo il suo vescovo.
Sixtus è ritenuto da alcuni l’autore dello scritto pseudo-ciprianico Ad Novatianum, sebbene questa opinione non abbia trovato un’accettazione generale. Un’altra composizione scritta a Roma, tra il 253 e il 258, è generalmente accettata come sua.