Ved Pave Gregor IV's død i slutningen af Januar 844 valgtes Sergius, kardinal-diakon ved Kirken San Martino ai Monti, til ny pave for årene 844-847, hvor han efterfulgtes af Leo IV (847-855).

Sergius var af en romersk adelig slægt, i familie med de senere paver Hadrian II (867-872) og Stefan V (885-891). Han var tidligt blevet forældreløs og Pave Leo III (795-816) sørgede for hans uddannelse og sendte ham i præsteskole, hvor han blev ordineret præst. Også de følgende paver favoriserede ham, Pave Stefan IV (816-817) udnævnte ham til ærkediakon, Pave Paschalis I (817-824) til kardinalpræst ved San Martino ai Monti og under Pave Gregor IV (827-844) blev han udnævnt til ærkepræst ved samme kirke (som også benævntes San Silvestro).

Sergius valgtes til pave af flertallet, men en lille mindretal fra det folkelige parti støttede diakonen Giovanni, der blev valgt til (mod)pave Johannes. Hans tilhængere førte ham til Lateranet, hvor han indtog pavetronen. Adelen mobiliserede nu deres styrker og drog ud til Basilica di San Martino ai Monti, hvor Sergius havde søgt tilflugt, og de udråbte ham til pave og førte ham i triumf til Lateranet, hvor Johannes' tilhængere flygtede i panik og Johannes selv blev fængslet og dømt til døden, en dom som Sergius ændrede til forvisning og anbringelse i et kloster. Den dag faldt der megen sne i Rom og det tog man for et godt varsel for den nye pave.

Straks efter blev Sergius paveviet i San Pietro uden at afvente Kejserens accept af valget. Dette tog Kejser Lothar I meget ilde op og i foråret 845 sendte han sin søn Ludwig til Rom. På vejen ned gennem Italien plyndrede hæren flittigt, men det lykkedes Pave Sergius at formilde Ludwig, som han modtog med stor pragt på trappen foran San Pietro, efter at en modtagelseskomité havde mødt ham udenfor byen og arrangeret at hæren slog lejr udenfor murene.

Paven omfavnede Ludwig og førte ham ind i kirken og opnåede at få en erklæring fra ham om Pavens overherredømme over kirkegodserne. Den 15. Juni 845 kronede Pave Sergius II så Ludwig til Konge af Italien og udnævnte samtidig Drogo, Biskoppen af Metz, til apostolsk vikar i Gallien og Germanien.

Pave Sergius var en mand med megen diplomatisk sans, som man kan se af det tidligere og af denne episode, som imidlertid eksisterer i flere versioner: Kong Ludwig ønskede efter kroningen, at romerne skulle sværge ham troskab, men Paven fik dette afværget ved at fastslå, at en sådan troskabsed ikke kunne aflægges til en konge, men kun til selve Kejseren.

Paven havde dog også dårlige egenskaber, han var selvglad og kolerisk, meget glad for mad og for sin familie, som han favoriserede og især broderen Benedetto, som var biskop af Albani, udnyttede sin stilling lidt for meget. Desuden veg han ikke bort fra at sælge bispedømmerne for at få penge i kassen.

I slutningen af 845, begyndelsen af 846 drog Kong Ludwig hjem igen med sin hær og sidst i August 846 overfaldt araberne Rom. De kom med en stor hær med en flåde på 75 skibe, som ankrede op ved Tiberens munding og den 25. August nåede de til Rom, hvor den Aurelianske Mur på byens østside holdt stand, men hvor det lykkedes dem at indtage Borgo-området omkring Peterskirken istedet. Både San Pietro og San Paolo fuori le Mura blev plyndret ved denne lejlighed og mange pilgrimme, der havde logi i nærheden, blev dræbt.

Hverken Kongen over Italien Ludwig eller Kejser Lothar I kom romerne til undsætning, men det lykkedes dem alligevel at besejre araberne ved Civitavecchia og fjenden blev slået tilbage til havet, hvor et stort uvejr tilintetgjorde deres flåde.

Pave Sergius' prestige led føleligt under denne prøvelse, som romerne så som en straf fra Gud over Pavens simoni og nepotisme. Og Kejseren, som havde glimret med sit fravær, forsøgte at pynte på situationen ved over hele riget at samle penge ind til opbygning af alle de ødelagte kirker og kirkegodser. Yderligere erklærede han araberne krig og de blev nu slået helt væk fra Syditalien. Kejseren opmuntrede også Paven til at iværksætte bygningen af en mur omkring Peterskirken, dette projekt gennemførtes under den næste Pave Leo IV og går idag under navnet "Den Leoninske Mur".

Med de hærgede kirkegodser udenfor Rom fulgte hungersnød og fattigdom i byen, hvor desuden flere områder lå forsvarsløse hen nu, hvor forsvarsværkerne var blevet ødelagt.

Under disse forhold døde Pave Sergius II den 27. Januar 847 i Rom. Han efterfulgtes af Pave Leo IV (847-855).