Auteur prolifique, considéré comme un écrivain romantique par ses contemporains, il s'essaye avec succès à l'écriture théâtrale et à la poésie dès 1825. Mais il est plus connu du grand public par sa bibliographie romanesque. Citons la Vénus d'Ille (1837), Colomba (1840) et bien entendu Carmen (1845). Il fut également le premier traducteur en France d'auteurs russes comme Pouchkine, Gogol et Tourgueniev.
Ses qualités littéraires lui valent d'être élu en 1844 membre de l'Académie française. Prosper Mérimée fait aussi montre de son goût pour l'histoire. Il publie La Jacquerie (1828) et la Chronique du règne de Louis IX (1829). Grâce à cet intérêt, et malgré son inexpérience en matière d'architecture, il est nommé inspecteur général des Monuments historiques en 1834 par Adolphe Thiers (1797-1877), alors ministre de l'Intérieur (1832-1836). Chaque année, il part ainsi en tournée d'inspection à travers la France en véritable "marathonien du patrimoine". Il choisit de sauver et restaurer, selon l'urgence (Vézelay) ou la valeur architecturale (Carcassonne, Saint-Savin-sur-Gartempe), s'intéressant surtout aux monuments datant de l'Antiquité à la Renaissance. En 1841, il est l'initiateur de la première loi sur la protection de monuments historiques permettant le classement des édifices. Il est le premier à mettre en oeuvre des procédures de sauvegarde de monuments et de sites, cela, sans beaucoup de crédits et devant une opinion publique largement indifférente et l'hostilité des propriétaires locaux. C'est à lui que nous devons la notion de patrimoine telle que nous l'envisageons aujourd'hui. Ses voyages lui permettent également de faire d'importantes découvertes archéologiques comme le site mégalithique de la vallée de la Cauria en Corse. Aussi, fort de ses compétences, se lance t-il dans l'écriture de nombreuses études d'historien d'art et d'essais historiques, comme les Études sur l'histoire romaine (écrites à partir de 1843).