A los veinte años, Charpentier marchó a Roma. Allí permaneció tres años y se relacionó, en especial, con Giacomo Carissimi, considerado entonces el mayor compositor romano de la época. Carissimi, autor de cantatas y motetes, era famoso sobre todo por los dramas religiosos (u oratorios), interpretados en el oratorio de la Archiconfraternità de San Crocifisso, en la iglesia de San Marcello. Charpentier recordará la lección, ya que compondrá numerosos oratorios en latín y será, además, el único compositor francés de la época que se dedique con tanta asiduidad al género. Sus primeras piezas en este terreno están influenciadas por el estilo de su veterano colega, tanto en los temas tratados (Abraham, el juicio final, el juicio de Salomón) como en la escritura propiamente dicha. Pero en la obra de Charpentier encontramos también otras influencias romanas, como las de Bonifazio Graziani o Francesco Foggia. Nuestro compositor se sintió también evidentemente impresionado por las grandes composiciones policorales que podían escucharse entonces en las iglesias de Roma. Tal como hizo con el célebre Jephté de Carissimi, copió aplicadamente la Missa Mirabiles elationes maris sexdecimis vocibus de Francesco Beretta, a las que añadió sus Remarques sur les Messes à 16 parties d’Italie, donde hizo un análisis crítico. Unos años después compuso él mismo una Misa para cuatro coros, caso único en Francia.

En Roma, Charpentier encontró también a un compatriota, Charles Coypeau d’Assoucy, que trazó un retrato poco halagüeño del compositor, inspirado ciertamente por el despecho de haber sido desdeñado algunos años más tarde por Molière. Según él, se trataba de un individuo “extraño”, con los “ventrículos del cerebro muy dañados”, un “loco lamentable” que, “en Roma, necesitó de [su] pan y [su] compasión”: tales fueron los términos con que describió a su rival. Para contrapesar estas evidentes calumnias nos harían falta otros testimonios. Por desgracia, la discreción de Charpentier durante toda su vida no dio lugar a ellos.