Tra il 1489 e il 1491 studiò teologia e diritto canonico a Pisa. Il 9 marzo 1492 vestì nella Badia di Fiesole le insegne cardinalizie; il 22 marzo entrò in Roma e l'indomani fu ammesso all'udienza del papa. Il mese successivo tornava a Firenze per la morte del padre; ma in luglio entrava in conclave per l'elezione del nuovo papa.

Riuscito il cardinale spagnolo Borgia, al quale era avverso e inviso, si ritirò di nuovo a Firenze. La signoria del fratello Piero volgeva a male; quando venne la catastrofe 9 novembre 1494) il cardinale Giovanni cercò scampo, fuggendo vestito da frate minore. Falliti tutti i tentativi e caduta l'illusione di un prossimo ritorno dei Medici a Firenze, partì per un lungo viaggio attraverso la Germania, i Paesi Bassi e la Francia. Tornò in Italia nel maggio del 1500. La mutata situazione politica gli consigliò di prendere dimora a Roma. Il suo palazzo presso Sant'Eustachio (Palazzo Madama) divenne il luogo di convegno dei maggiori letterati, artisti, studiosi che erano a Roma.

L'anno 1503 segna una data importante nella vita del cardinale Giovanni de' Medici: per la morte di Piero egli si trovava a essere capo della famiglia, la cui sorte dipendeva perciò tutta da lui. Nello stesso anno saliva al trono pontificio Giulio II. La fortuna dei Medici non poteva risorgere se non con una mutazione politica generale; egli l'attese con fiducia, sperando sempre. I rapporti con papa Giulio erano molto rari: quel vecchio impetuoso era troppo pieno dei suoi vasti disegni per badare a qualche altra cosa. Quando nell'agosto del 1511 il papa si ammalò e parve in pericolo di morte, il cardinale de' Medici, fu, tra quelli che cominciavano a prepararsi la successione, il più attivo. Poi il papa guarì; ed egli ebbe la legazione a Bologna (1 ottobre 1511). Anche per le pretese su Firenze le cose mutavano: la repubblica fiorentina s'era dichiarata per il concilio scismatico di Pisa convocato dal re di Francia contro il papa; a questo non restava dunque che favorire i Medici. Come legato papale presso l'esercito spagnolo, Giovanni parve spesso al focoso Giulio II fiacco e senza iniziativa, ma riuscì a giustificarsi e a conservare l'ufficio.

Un grave rovescio fu per lui personalmente la battaglia di Ravenna (11 aprile 1512) quando fu preso prigioniero dai Francesi e trasportato a Milano. Peggiorando sempre la situazione dei Francesi, essi volevano condurlo in Francia come ostaggio per negoziare con il papa, ma al passaggio del Po, nel disordine, il cardinale riuscì a fuggire, riparando a Ravenna. Ora, papa Giulio aveva capito che per indebolire i Francesi in Italia occorreva sopprimere la repubblica di Firenze, cioè aiutare i Medici. Il cardinale Giovanni entrò in Toscana con le truppe del Cardona e presenziò al feroce sacco di Prato. Il 14 settembre 1512 egli rientrò in Firenze, dove un moto della fazione medicea aveva, senza spargimento di sangue, rimessa al potere la signoria dei Medici. Egli e il fratello Giuliano s'adoperarono a spegnere odi e rancori, a mostrarsi concilianti e indulgenti per guadagnarsi il favore popolare; nel popolo restavano però irriducibili repubblicani e la città non aveva pace. Si scoperse anzi un complotto contro i Medici, quando giunse la notizia che Giulio II era morto (23 febbraio 1513) e il cardinale si recò prontamente al Conclave. Non aveva competitori temibili e riuscì eletto senza contrasti. Poiché non era che diacono, il nuovo papa Leone X, ricevette, il 13 marzo 1513, l'ordinazione sacerdotale, e il 17 quella episcopale; il 19 fu incoronato, in una cerimonia che ebbe solennità e magnificenza mai viste.

I suoi precedenti di cardinale e i primi atti del suo pontificato facevano sperare ai Romani che il suo regno sarebbe stato di pace e tutto diverso da quello del defunto papa. Egli si propose tre obiettivi politici: conservare l'integrità e l'indipendenza dello Stato pontificio; ricostituire, possibilmente senza altre guerre, l'equilibrio tra gli Stati italiani e la pace con esclusione degli stranieri; rimettere saldi i Medici a Firenze.

Uno dei suoi primi atti fu la prosecuzione del Concilio lateranense, convocato dal suo predecessore: sperava con esso di metter fine allo scisma che covava a Pisa. La sconfitta che gli Svizzeri dello Sforza inflissero ai Francesi presso Novara, il 6 giugno 1513 gli giovò. Cominciarono a far atto di sottomissione i cardinali Carvajal e Sanseverino; seguirono quasi tutti i dissidenti e il pericolo di scisma svanì. La lega santa contro i Francesi, ch'egli aveva rinnovato a Malines il 5 aprile 1513, continuando la politica del predecessore, era stata utile. Ora si trattava di destreggiarsi nel nuovo orientamento di Luigi XII, che si avvicinava all'Inghilterra, già nemica.

Il 1514 fu, rispetto alla politica con le grandi potenze, tutto un anno di tentennamenti e di sforzi per contenere le ambizioni dell'imperatore Massimiliano, del re di Francia, dei Veneziani e degli Sforza, con l'urgenza del compito di rafforzare i Medici a Firenze e in Italia. I membri della famiglia che potevano servire e dovevano essere aiutati erano Giulio, suo cugino, figlio di Giuliano, già avviato per la carriera ecclesiastica (il futuro papa Clemente VII); Giuliano suo fratello minore; Lorenzo suo' nipote, figlio di Piero.

Giulio ebbe legittimata la nascita con il riconoscimento della validità di un presunto matrimonio segreto tra Giuliano e Fioretta, del quale si stese anche documento; poi fu nominato cardinale e messo arcivescovo a Firenze. Giuliano, eletto patrizio romano, fu nominato generale delle milizie della Chiesa, titolo puramente onorifico, e sposò Filiberta di Savoia, divenendo così zio di Francesco I re di Francia. Lorenzo, anch'egli patrizio romano, fu, appena ventunenne, messo a capo dello Stato fiorentino.

Il 10 gennaio 1515 moriva Luigi XII e prendeva la corona di Francia Francesco I, ben altrimenti ambizioso e audace. Contro le sue pretese su Milano doveva formarsi una nuova grande lega tra papa, imperatore, Milano, Genova, gli Svizzeri. In principio di febbraio se ne redassero i patti preliminari, da ratificarsi entro due mesi. La ratifica non venne, non piacendo alcune clausole del papa (l'acquisto di Parma e Piacenza) agli altri contraenti. La loro azione fu fiacchissima quando nel settembre Francesco avanzò su Milano.

Dopo la battaglia di Marignano (13-14 settembre) Leone diede saggio della sua sottile intelligenza: contro il parere dei suoi consiglieri iniziò trattative con il re di Francia. Queste culminarono nell'incontro di Bologna (11-15 dicembre), nel quale si concluse tra pontefice e re il concordato, che riconosceva i diritti della Chiesa gallicana, e che durerà quasi immutato fino alla Rivoluzione Francese. Il 18 agosto 1516 gli articoli erano solennemente firmati.

Dalla vittoria francese a Marignano sorse la guerra d'Urbino: avendo Francesco Maria Della Rovere mancato agli obblighi assunti, si doveva punirlo e togliergli il dominio, anche se i Medici avevano avuto benefici da lui che li aveva ospitati esuli e aiutati. In principio del giugno 1516 il ducato era facilmente conquistato dalle forze papali e il 18 agosto ne era investito Lorenzo, nipote del papa e già signore di Firenze. La presa d'Urbino piacque poco al re di Francia e a Carlo (dal 23 gennaio re di Spagna e di Napoli), che a Noyon il 13 agosto avevano fatto pace per la difesa comune dei loro domini.

Il 1517 fu un anno tragico nel pontificato di Leone. Nel febbraio Francesco Maria Della Rovere rioccupava, aiutato da parecchi principi italiani, il suo ducato d'Urbino. L'11 marzo a Cambrai Francesco I e Carlo I, insieme con l'imperatore Massimiliano, stipulavano un trattato per la difesa contro il turco minaccioso, il quale era insieme una conferma e un'amplificazione delle intese di Noyon contro il papa. Nell'aprile si scopriva una trama ordita dal cardinale Alfonso Petrucci per uccidere il papa. Il cardinale, degradato, sconsacrato e affidato al braccio secolare, fu ucciso tra tormenti. Intanto dal febbraio al settembre si trascinava senza fortuna la guerra per il recupero di Urbino. Finì per la mediazione franco-spagnola: il Della Rovere otteneva oltre 100.000 scudi quali arretrati dovutigli per le milizie, era assolto da tutte le pene ecclesiastiche comminategli durante la guerra e aveva facoltà di trasportare a Mantova la sua artiglieria e la ricchissima collezione di manoscritti creata da Federico da Montefeltro.

Mentre si facevano disegni per respingere i Turchi minaccianti l'oriente d'Europa, scoppiò a Wittenberg lo scandalo delle indulgenze. Leone X non comprese appieno la portata della reazione di Lutero. Il 3 febbraio 1518 ordinò a Gabriele della Volta, rappresentante generale degli Eremitani, di impedire a Lutero di diffondere le sue dottrine. Nel marzo si avviò il processo contro Lutero e in luglio lo si citò a Roma. Dopo i tentativi di pacificazione, fatti per mezzo del cardinale Caetano e poi dal cameriere segreto von Miltitz nel 1518 e 1519, il papa affidava al dotto bibliotecario pontificio Gerolamo Aleandro e al professore Giovanni Eck di Ingolstadt la pubblicazione e l'esecuzione della bolla di condanna Exsurge Domine. Così egli vedeva sorgere improvviso un nuovo scisma.

Nel 1519 gli si presentò la grande questione della successione all'impero. Il 12 gennaio Massimiliano era morto: i due più audaci aspiranti alla corona imperiale erano Carlo I di Spagna, nipote del defunto, e Francesco I di Francia: tutti e due pericolosi per il papa come aspiranti all'egemonia in Italia. Leone favorì in tutti i modi la candidatura di un principe tedesco, il quale per la sua debolezza non potesse far disegni di là dai confini della Germania.

Il 4 maggio 1519 frattanto moriva a Firenze Lorenzo, lasciando una figlia, Caterina, la futura regina di Francia. Il papa cercò di rassegnarsi a quella morte che mandava in rovina tutti i suoi vasti propositi politici. Il consolidamento dei Medici resterà da fare a Clemente VII, che, per ora cardinale Giulio, è messo a capo della signoria fiorentina. Intanto, per le notizie che giungevano dalla Germania, dove per le intemperanze di Francesco I i voti si volgevano su Carlo I, e per le minacce che lo stesso re di Francia faceva al papa per il possesso di Urbino, incorporato nello Stato pontificio dopo la morte di Lorenzo, Leone si mise a sostenere Carlo di Spagna, che il 28 giugno riuscì eletto all'unanimità col nome di Carlo V.

Dopo la Dieta di Worms, dove Lutero si era dichiarato apertamente ribelle, papa e imperatore avevano comune l'interesse della difesa contro il pericolo di uno scisma. L'intesa tra Leone X e Carlo V, stipulata segretamente nei primi mesi del 1521 e rivolta contro Francesco I che chiedeva i possessi del re di Spagna (Navarra e Fiandre), culminò nell'ostilità aperta. I Francesi occuparono Parma e Piacenza; gli imperiali-pontifici attaccarono Milano. Nel pomeriggio del 24 novembre arrivò a Roma la notizia che i Francesi avevano perduta Milano. Il papa ne fu felice e ordinò grandi apparati per solennizzare la vittoria. La mattina del 26 fu colto da malore, e le sue condizioni peggiorarono rapidamente; nella notte tra il l e il 2 dicembre spirò. La sua fine così repentina fece parlare di avvelenamento, che l'esame necroscopico escluse in modo assoluto. Numerosi apparvero i nemici a insultare la sua memoria. Colui che aveva fatto ogni cosa con magnificenza fu sepolto in modo quasi miserabile.

Fu grande amico degli studi e delle arti e predilesse soprattutto l'umanesimo e la letteratura. Proseguì il rinnovamento di Roma, iniziato dal predecessore, e con liberalità unica protesse letterati e poeti, dei quali amò sempre circondarsi. Arricchì la biblioteca vaticana di numerosi cimeli bibliografici. Amò anche le cerimonie fastose, le riunioni mondane, il teatro, la musica, in modo che parve spesso sconveniente per chi sedeva sulla cattedra di S. Pietro.