Wyrażenie to prawdopodobnie wywodzi się ze starożytnego Rzymu, gdzie było używane w odniesieniu do bogini uważanej za opiekunkę miasta. Z czasem został przyjęty przez uniwersytety jako symbol opiekuńczej i edukacyjnej roli, jaką odegrały w życiu swoich studentów.
Choć nikomu nie można przypisać „napisania” tego wyrażenia, zostało ono spopularyzowane w XIX wieku przez uniwersytety, które przyjęły je jako swoje oficjalne motto lub część szkolnej pieśni.
Tak więc, choć nie ma jednego autora, określenie „Alma Mater” jest używane od wieków i stało się uniwersalnym symbolem roli uniwersytetu w życiu studentów.