Leopold urodził się w Augsburgu w Niemczech, studiował muzykę na Uniwersytecie Benedyktyńskim w Salzburgu. Po ukończeniu studiów został skrzypkiem w orkiestrze dworskiej księcia-arcybiskupa Salzburga. W 1747 ożenił się z Anną Marią Pertl i z tej pary urodziło się siedmioro dzieci, z których najmłodszym był Wolfgang Amadeusz.
Leopold był surowym, ale kochającym ojcem i nauczycielem. Zaczął uczyć muzyki Wolfganga w młodym wieku, a Wolfgang szybko wykazał się ogromnym talentem. Leopold zabrał Wolfganga i jego starszą siostrę Marię Annę na kilka tras koncertowych po Europie, które odniosły ogromny sukces.
W 1763 roku Leopold został mianowany nadwornym kompozytorem księcia-arcybiskupa Salzburga. Było to prestiżowe stanowisko, które dało Leopoldowi możliwość komponowania szerokiej gamy muzyki, w tym oper, symfonii i muzyki kameralnej. Leopold nadal komponował i nauczał muzyki aż do swojej śmierci w 1787 roku.
Dziś Leopold jest pamiętany jako jeden z najbardziej wpływowych nauczycieli muzyki wszechczasów. Był mistrzem gry na skrzypcach i opracował szereg metod nauczania, które są stosowane do dziś. Metody nauczania Leopolda opierały się na przekonaniu, że muzyka powinna zarówno sprawiać przyjemność, jak i uczyć. Zachęcał swoich uczniów do pilnych ćwiczeń, ale dbał też o to, aby nauka muzyki była dla nich dobrą zabawą.
Leopold wywarł ogromny wpływ na rozwój muzyczny Wolfganga Amadeusza Mozarta. Wolfgang wiele się nauczył od swojego ojca i stał się jednym z największych kompozytorów wszechczasów. Dziedzictwo Leopolda jest nadal żywe dzięki jego muzyce i metodom nauczania. Jest inspiracją dla muzyków i pedagogów na całym świecie.