W IV wieku św. Ambroży, biskup Mediolanu, wprowadził śpiew antyfonalny, podczas którego chór śpiewa naprzemienne wersety psalmu lub hymnu. W V wieku św. Grzegorz Wielki, papież Rzymu, ujednolicił liturgię i ustanowił system ośmiu trybów muzycznych. System ten, znany jako chorał gregoriański, stał się na wieki podstawową formą muzyki w Kościele katolickim.
W średniowieczu zaczęły się rozwijać różne inne formy muzyki kościelnej, takie jak dramaty liturgiczne, polifonia i muzyka organowa. Polifonia, podczas której śpiewa się jednocześnie dwie lub więcej linii muzycznych, zyskała na znaczeniu w XII wieku.
W XVI wieku Marcin Luter zapoczątkował reformację protestancką. Doprowadziło to do rozwoju różnych stylów muzyki kościelnej, takich jak chorały luterańskie i śpiew anglikański. Gatunki te pozostają dziś ważnymi elementami kultu chrześcijańskiego.
W XIX i XX wieku ponownie wzrosło zainteresowanie badaniem i wykonawstwem dawnej muzyki kościelnej, takiej jak chorał gregoriański i dzieła Palestriny. Nastąpił także zalew nowej muzyki sakralnej skomponowanej w różnych stylach.