La chiesa, iniziata nel 1268, venne terminata durante la seconda metà del Quattrocento (1476); trasformata durante il XVI ed il XVII secolo, nel 1771 fu per gran parte distrutta da un incendio e pertanto ricostruita, nelle sue forme attuali, entro il 1775. L’immane rogo risparmiò della struttura originale solo l’esterno, la sacrestia e le cappelle Corsini – progettata in età barocca da Pier Francesco Silvani – e Brancacci. La decorazione ad affresco della cappella Brancacci, affidata a Masolino e a Masaccio, fu intrapresa probabilmente nel 1424 ma si interruppe intorno al 1427-1428 quando Masaccio lasciò Firenze per Roma. Rimasta incompiuta, l’opera fu portata a compimento, dopo il 1480, da Filippino Lippi. Il ciclo, uno dei più importanti della pittura italiana, rappresenta la storia della salvezza umana che il sacrificio di Cristo ha reso possibile e che la chiesa realizza attraverso Pietro. Nei suoi affreschi Masaccio dette un saggio mirabile di applicazione della prospettiva al cui studio egli si dedicò, in quegli stessi anni, unitamente a Brunelleschi e Donatello e che, in seguito, verrà teorizzata e messa in pratica, fra gli altri, da Leon Battista Alberti e Piero della Francesca.

In questo stesso periodo la chiesa fu anche luogo privilegiato per la messa in scena di episodi del Nuovo Testamento, in occasione dei quali erano applicati i cosiddetti "ingegni", cioè complessi meccanismi e sistemi di illuminazione destinati a vivacizzare queste sacre rappresentazioni. Dell’Ascensione, che si rappresentava presso Santa Maria del Carmine, e di altre simili manifestazioni si trova menzione nelle descrizioni quattrocentesche del prelato russo Abramo di Soudzal e ancora nel Cinquecento in opere del Vasari (Vita del Cecca e Vita di Filippo Brunelleschi) e di Niccolò Fabbrini. Queste fonti costituiscono una rara testimonianza delle applicazioni tecniche dell'epoca a fini scenografici.

Da sottolineare, infine, come, sin dagli anni del soggiorno padovano di Galileo, la casa di famiglia si trovasse proprio in uno dei quartieri di pertinenza della chiesa di Santa Maria del Carmine. Vi risiedevano probabilmente la sorella Virginia Galilei col marito Benedetto Landucci e la madre Giulia Ammannati, che proprio in quella chiesa fu seppellita nel 1620.