Figlio secondogenito del granduca Ferdinando III di Toscana e di Luisa Maria Amalia di Borbone-Napoli, Leopoldo visse la sua prima giovinezza nei territori del Sacro Romano Impero, dove il padre si era rifugiato dopo l'invasione napoleonica. Divenne principe ereditario "in pectore" del Granducato di Toscana nel 1800, alla morte del fratello maggiore Francesco Leopoldo. Seguì il genitore in esilio dapprima a Vienna e poi, del 1803, a Salisburgo, dove Ferdinando ottenne come compensazione per i territori perduti l'area dell'ex arcivescovato. Leopoldo nel marzo del 1805 venne costretto ad abbandonare anche questa città per l'incalzare della nuova guerra tra Austria e Francia rivoluzionaria e per questo si trasferì a Würzburg, dove la famiglia si stabilì in quello che era l'antico palazzo vescovile. Durante questi tormentati anni, Leopoldo riuscì a studiare molto con tutori tedeschi ed italiani, mostrando una particolare predilezione per le materie letterarie.
Rientrò a Firenze il 15 settembre 1814, dopo la prima abdicazione di Napoleone, bene accolto dai sudditi anche per la politica del padre, che non effettuò epurazioni o vendette verso coloro che avevano collaborato col governo francese. Il giovane erede al trono si fece amare dai toscani anche per il carattere mite e il comportamento informale, tanto che fu simpaticamente soprannominato "Broncio" a causa del labbro inferiore leggermente sporgente che gli dava una perenne aria triste (mentre in realtà al giovane principe non difettava la spiritosaggine) e "Canapone" per il colore sbiadito dei suoi capelli biondi.
Intanto completò i propri studi già avviati all'estero seguendo lezioni di giurisprudenza, arte e letteratura, occupandosi persino di agricoltura per la quale dimostrerà sempre una grande attenzione. Si pose come obbiettivo personale la raccolta, lo studio e la riordinazione di tutti gli scritti di Galileo Galilei e pubblicò un'edizione delle poesie di Lorenzo de' Medici da lui personalmente curata, fatto che gli valse la nomina a membro dell'Accademia della Crusca.
Nel 1817 Leopoldo sposò Maria Anna Carolina di Sassonia, alla quale fu particolarmente legato e dalla quale ebbe tre figlie. Con la moglie a partire dal 1819 intraprese un lungo viaggio in Europa toccando tappe come Monaco di Baviera, Dresda, Praga, Vienna e Venezia. Il suo primo contatto con gli affari di stato avvenne nell'ottobre del 1822 quando venne chiamato a Verona a prendere parte col padre ai lavori per il congresso della Santa Alleanza.
Alla morte del padre il 18 giugno 1824, Leopoldo II assunse il potere e subito dimostrò di voler essere un sovrano indipendente, appoggiato in questo dal ministro Vittorio Fossombroni, che seppe sventare una manovra dell'ambasciatore austriaco conte di Bombelles per influenzare l'inesperto granduca. Questi non solo confermò i ministri che aveva nominato il padre, ma diede subito prova della sua sincera voglia di impegnarsi con una riduzione della tassa sulla carne e un piano di opere pubbliche che prevedeva la continuazione della bonifica della Maremma (tanto da essere ricordato dai Grossetani con un monumento scultoreo collocato in Piazza Dante), l'ampliamento del porto di Livorno, la costruzione di nuove strade, un primo sviluppo delle attività turistiche (allora chiamate "industria del forestiero") e lo sfruttamento delle miniere del granducato.
Dal punto di vista politico, il governo di Leopoldo II fu in quegli anni il più mite e tollerante negli stati italiani: la censura, affidata al dotto e mite Padre Mauro Bernardini da Cutigliano, non ebbe molte occasioni di operare e molti esponenti della cultura italiana del tempo, perseguitati o che non trovavano l'ambiente ideale in patria, poterono trovare asilo in Toscana, come accadde a Giacomo Leopardi, Alessandro Manzoni, Guglielmo Pepe, Niccolò Tommaseo. Alcuni scrittori e intellettuali toscani come Francesco Domenico Guerrazzi, Giovan Pietro Vieusseux e Giuseppe Giusti, che in altri stati italiani avrebbero sicuramente passato dei guai, poterono operare in tranquillità. È rimasta celebre la risposta del granduca all'ambasciatore austriaco che si lamentava che "in Toscana la censura non fa il suo dovere", al quale ribatté con stizza "ma il suo dovere è quello di non farlo!". Unico neo in tanta tolleranza e mitezza fu la soppressione della rivista "L'Antologia" di Giovan Pietro Vieusseux, avvenuta nel 1833 per le pressioni austriache e comunque senza ulteriori esiti civili o penali per il fondatore.
Il mite governo granducale fece sì che in Toscana non vi fossero in quegli anni moti o sedizioni e le attività cospirative erano limitate solo alla città di Livorno e di minima importanza: gli unici atti repressivi furono nel 1830 la soppressione del giornale "L'Indicatore Livornese" e la condanna del Guerrazzi a sei mesi di confino a Montepulciano per aver pronunciato un'orazione in memoria di Cosimo Del Fante. La tranquillità del Granducato era sottolineata anche da intellettuali come Niccolò Tommaseo e Giuseppe Giusti, che dedicò una simpatica satira al granduca ("Il re travicello") che fece in un primo tempo infuriare il destinatario, ma che poi fu presa simpaticamente dallo stesso interessato.
I moti del 1831, che sconvolsero i due ducati emiliani e le legazioni dello Stato Pontificio, non ebbero seguito in Toscana, nonostante che qualche patriota cercasse di suscitarne: l'unica preoccupazione di ordine pubblico presa fu quella di presidiare meglio la frontiera settentrionale per evitare sconfinamenti di sobillatori.
Nel 1832 moriva la granduchessa Maria Anna Carolina, lasciando nello sconforto il granduca che, per assicurare la successione, si risposò l'anno successivo con la Principessa Maria Antonietta di Borbone, nozze da cui nel 1835 doveva nascere Ferdinando, il sospirato erede al trono.
Nel 1839 e nel 1841 Leopoldo II diede il permesso per fare svolgere i "Congressi degli scienziati italiani" a Pisa e Firenze, nonostante le minacce del governo austriaco e le proteste di quello pontificio; nel frattempo il governo granducale pianificava un forte sviluppo della rete ferroviaria, che negli anni successivi avrebbe visto la nascita della "Ferrovia Leopolda" (Firenze-Pisa-Livorno; con la diramazione da Empoli a Siena) e della "Ferrovia Maria Antonia" (Firenze-Prato-Pistoia-Lucca), mentre rimasero a livello progettuale la "Ferrovia Ferdinanda" (Firenze-Arezzo) e la "Ferrovia Maremmana" (Livorno-confine del Chiarone).
Particolarmente ammirevole e destinato a rimanere nel cuore dei fiorentini (almeno fino al 1849) fu il comportamento del granduca in occasione della grande alluvione del 3 novembre 1844, quando il sovrano non fece mancare la sua presenza al momento dei soccorsi, aprendo le porte di Palazzo Pitti agli sfollati, impegnandosi personalmente nei soccorsi su una barca e recandosi in visita anche nelle zone più periferiche colpite dal disastro.
Nel 1847 il granduca di Toscana dovette affrontare una grave crisi con i sovrani dei due ducati emiliani: in quell'anno entrarono in vigore alcune clausole del Congresso di Vienna del 1815 e del Trattato di Firenze del 1844 che assicuravano sì al granducato lorenese l'annessione di quasi tutto l'ex Ducato di Lucca, ma allo stesso tempo stabilivano che alcune vecchie enclaves toscane in Lunigiana passassero sotto i Borbone di Parma e gli Asburgo-Este di Modena. Se a Lucca fu facile sedare il malcontento dei cittadini con una visita del bonario granduca, lo stesso non accadde nei comuni destinati alla cessione. In Toscana si arrivò a chiedere la guerra ai due stati vicini, cosa impensabile per il mite Leopoldo, che cercò di evitare la cessione offrendo forti somme di denaro ai due duchi. L'offerta fu respinta e le cessioni furono effettuate per le pressioni austriache, dato che il governo di Vienna non poteva permettersi focolai di disordini in tempi che già si preannunciavano calamitosi.
In quel 1847, nell'ambito del processo riformatore suscitato in Italia dall'elezione di Papa Pio IX, Leopoldo II si distinse per l'impegno riformatore: il 6 maggio veniva concessa la libertà di stampa e il 4 settembre veniva creata una Guardia Civica. Nello stesso periodo il Granducato di Toscana, lo Stato Pontificio e il Regno di Sardegna firmavano i Preliminari della Lega doganale, da tutti salutata come premessa di future maggiori integrazioni.
Il 17 febbraio 1848, pochi giorni prima di Carlo Alberto di Sardegna, Leopoldo II concedeva la Costituzione, che si distingueva dalle altre per il concedere pieni diritti ai cittadini di tutte le religioni e il 18 marzo nasceva il primo governo costituzionale toscano, presieduto da Francesco Cempini. Pochi giorni dopo, mentre i due duchi emiliani erano costretti alla fuga dalle insurrezioni, Leopoldo II riannetteva alla Toscana i comuni ceduti in Lunigiana, l'Alta Garfagnana estense e l'ex ducato di Massa e Carrara, le cui popolazioni avevano chiesto di essere toscane, secondo il principio che ogni popolo era libero di decidere la propria sorte.
Il 21 marzo il Granduca suscitava l'entusiasmo popolare decidendo di inviare le poche truppe regolari toscane, affiancate da volontari, a combattere in alta Italia a fianco dei Sardi contro gli Austriaci. Mentre il piccolo esercito granducale si dirigeva verso Pietrasanta e San Marcello Pistoiese, Leopoldo II sostituiva la bandiera lorenese con il tricolore italiano con sovrapposto lo stemma granducale e aderiva personalmente al prestito di guerra.
L'atteggiamento patriottico del granduca iniziò a cambiare verso la metà dell'anno, quando furono chiari gli atteggiamenti espansionistici del Regno di Sardegna e nell'agosto, in seguito a dei violentissimi tumulti avvenuti a Livorno, quando fu costretto a licenziare il governo moderato di Gino Capponi per affidare l'incarico ai democratici Guerrazzi e Giuseppe Montanelli che inaugurò una politica ultrademocratica.
Il 30 gennaio 1849 Leopoldo II abbandonava Firenze per rifugiarsi prima a Siena (e per fingersi malato, ebbe l'idea di ricevere i delegati fiorentini a letto, in camicia da camera e papalina) e poi a Porto Santo Stefano. In questa località accettò e rifiutò più volte l'offerta dell'ambasciatore piemontese Villamarina di riprendere il potere con l'esercito del Regno di Sardegna, fin quando, convinto dalla sua corte a preferire l'Austria, riparò a Gaeta, sotto la protezione di Ferdinando II delle Due Sicilie.
L'esilio durò fino ad aprile, quando dopo la disfatta di Carlo Alberto a Novara, i moderati toscani rovesciarono il governo Guerrazzi per evitare un'invasione austriaca e richiamarono il granduca, sperando che avrebbe mantenuto le riforme.
La speranza fu vana: il tenente-feldmaresciallo d'Aspre scese da Parma con 18'000 uomini, prese e saccheggiò Livorno e poi occupò Firenze.
Alcuni mesi più tardi Leopoldo II sbarcò a Viareggio, ma ebbe la pessima idea di venire scortato da truppe austriache e in divisa da generale asburgico: era la fine della naturale e sentita simpatia che i toscani avevano avuto per il mite sovrano.
Nell'aprile 1859, nell'imminenza della guerra franco-piemontese contro l'Austria, Leopoldo II proclamò la neutralità, ma ormai il governo granducale aveva i giorni contati: in Firenze la popolazione rumoreggiava e le truppe davano segni di insubordinazione.
Il 27 aprile 1859, verso le quattro, davanti a una grande folla tumultuante per le strade di Firenze e all'aperto rifiuto dell'esercito di obbedire al proprio Sovrano, Leopoldo II, per evitare guai peggiori a se stesso ed al suo Stato, partì in carrozza da Palazzo Pitti, uscendo per la porta di Boboli, verso la strada di Bologna.
La pacifica rassegnazione al corso della storia (il Granduca non pensò mai a una soluzione di forza) e le modalità del commiato, con pochi effetti personali caricati in poche carrozze e con attestazioni di simpatia al personale di corte, fecero sì che Leopoldo riacquistasse l'antica stima da parte dei suoi ormai ex sudditi: la famiglia granducale fu salutata dai fiorentini, levantisi il cappello al passaggio, con il grido "Addio babbo Leopoldo!" e accompagnata con tutti i riguardi da una scorta fino alle Filigare, ormai ex dogana con lo Stato Pontificio. Alle sei pomeridiane di quello stesso giorno, il Municipio di Firenze constatò l’assenza di alcuna disposizione lasciata dal sovrano e nominò un governo provvisorio.
Rifugiatosi presso la corte viennese, l'ex granduca abdicò ufficialmente solo il successivo 21 luglio; da allora visse in Boemia, recandosi a Roma nel 1869, dove morì il 28 gennaio 1870, in via delle Tre Cannelle. Sepolto inizialmente nella chiesa dei Sant'Apostoli, nel 1914 la sua salma fu poi trasportata a Vienna per essere sepolta nel mausoleo degli Asburgo, la Cripta dei Cappuccini.