Una prima sezione di mineralogia e geologia fu costituita nel Museo di Fisica e Storia Naturale, quando il Granduca Pietro Leopoldo donò al Museo di via Romana minerali, rocce, gemme e pietre lavorate, collezionate dai Medici fin dalla prima metà del Cinquecento. Nel 1878 la Sezione di Mineralogia e Geologia del Museo fu trasferita nella sede attuale, dove fu istituito nel 1880 il Museo e Laboratorio di Mineralogia. La consistenza numerica dei campioni (circa 50.000) e l'alto valore scientifico e storico delle collezioni ne fanno uno dei più importanti musei in ambito internazionale. Raccoglie campioni di tutte le classi di minerali provenienti da tutto il mondo. Particolarmente rappresentate sono le località dell'Impero Austro-Ungarico e italiane. La raccolta comprende inoltre campioni provenienti da località estrattive ormai in disuso, pezzi unici per valore scientifico ed aspetto estetico, meteoriti storiche e recenti, con relativa documentazione, cristalli di notevoli dimensioni, come il topazio di 151 kg e il berillo acquamarina di 98 kg, pepite, gemme naturali e sintetiche. La collezione viene continuamente arricchita con l'acquisizione di nuovi campioni.

Di particolare rilievo è la raccolta delle pietre lavorate, che comprende coppe, tabacchiere, tazze, vasetti e altri oggetti, di manifattura essenzialmente italiana ed europea, provenienti dalle collezioni granducali. Spiccano, fra gli altri, la "navicella" e il bicchiere in quarzo ialino, due testine di cane (una in onice e una in ametista) di origine azteca, un vasetto con coperchio in talco.

Da un punto di vista storico-scientifico merita di essere segnalata la Collezione Giovanni e Ottaviano Targioni Tozzetti. Si tratta di una collezione geo-mineralogica con reperti provenienti dall'Italia e dal Centro Europa, che fu costituita da Giovanni Targioni Tozzetti a partire dalla collezione di Pier Antonio Micheli nella seconda metà del Settecento, poi rimaneggiata dal figlio Ottaviano. La collezione è corredata da 12 volumi manoscritti con la descrizione dettagliata di ogni esemplare, la località di provenienza e le notizie sull'acquisizione. Riveste particolare importanza storica per lo studio delle Scienze della Terra, in quanto formatasi in un momento di evoluzione della disciplina.