In una relazione del 1751, Tommaso Perelli, direttore della Specola di Pisa, aveva indicato la collina di Arcetri come il luogo più adatto per impiantarvi una specola. Tuttavia la sua idea rimase incompiuta. Soltanto nel secolo successivo fu costruito, proprio ad Arcetri, un osservatorio, inaugurato il 27 ottobre 1872. Il trasferimento della ricerca astronomica dalla "Specola" di via Romana, ormai ritenuta inadeguata per l'infelice posizione, alla collina di Arcetri fu favorito e organizzato dall'astronomo Giovanni Battista Donati. Il luogo ha un evidente significato simbolico, essendo legato alla memoria di Galileo Galilei che, proprio ad Arcetri, nella villa "Il gioiello", trascorse gli ultimi anni della sua vita.

Il nuovo Osservatorio dipendeva dall'Istituto di Studi Superiori. Alla fine del secolo XIX, l'osservatorio subì una ristrutturazione e ne fu migliorata l'attrezzatura strumentale. Antonio Abetti, nominato direttore, provvide a un completo restauro degli strumenti. Nel 1920 suo figlio Giorgio fu incaricato dell'insegnamento di Astrofisica. Le Officine Galileo, nel 1924, costruirono una Torre Solare, inaugurata l'anno successivo, che consentiva di effettuare avanzati studi di fisica solare. Nel 1954 successe alla direzione dell'Osservatorio Guglielmo Righini, con il quale nasce ad Arcetri la Radioastronomia solare. Nel 1956 fu installato il primo radiotelescopio. Negli ultimi decenni, la ricerca in Arcetri è proseguita a livelli di eccellenza nei vari settori dell'astronomia e dell'astrofisica utilizzando anche strutture astronomiche situate all'estero e gestite dall'Osservatorio fiorentino.

La collezione storica di apparati astronomici comprende, tra i vari strumenti, telescopi (di notevole importanza quello di Giovan Battista Amici), orologi a pendolo e obiettivi astronomici. La maggior parte dei testi antichi e dei documenti d'archivio sono stati affidati in deposito all'Istituto e Museo di Storia della Scienza.

L'Osservatorio dispone di un'aula didattica attrezzata con sistemi di proiezione, macchina per visualizzare i raggi cosmici, calcolatori, spettroscopio, sistema planetario in scala, carte del cielo. Gestisce inoltre, in collaborazione con la Fondazione Scienza e Tecnica e l'Istituto e Museo di Storia della Scienza, il planetario della città di Firenze.