Wilson urodził się 23 czerwca 1947 roku w rezerwacie Indian Sioux w Południowej Dakocie. Był synem pełnokrwistej Siuksów i irlandzkiego ojca. Wilson wychował się w rezerwacie i już w młodym wieku zaczął grać na gitarze. Był pod wpływem tradycyjnej muzyki swojego ludu, a także rock and rolla lat pięćdziesiątych i sześćdziesiątych XX wieku.
Po ukończeniu szkoły średniej Wilson przeprowadził się do Minneapolis w stanie Minnesota. gdzie założył zespół o nazwie Sugarloaf ze swoim szwagrem Craigiem Fullerem i innym piosenkarzem i autorem tekstów Michaelem Omartianem.
Grupa odniosła pewien sukces i nagrała dwa albumy dla RCA Records, zanim rozpadła się w 1971 roku.
Po rozpadzie Sugarloaf Wilson przeprowadził się do Los Angeles w Kalifornii, gdzie założył Pure Prairie League w 1972 r.
Zespół szybko zyskał rzeszę fanów i w latach 70. wydał wiele udanych albumów.
Do ich najpopularniejszych piosenek zalicza się „ Amie” , „Upadłe anioły” i „ Pozwól mi cię dziś wieczorem kochać „.
W 1979 roku Wilson opuścił Pure Prairie League i rozpoczął karierę solową.
Wydał dwa albumy solowe, „Jeff Wilson” (1981) i „Nigdy nie bądź taki sam” (1983), ale nie odniosły one takiego sukcesu jak jego praca z Pure Prairie League.
Wilson nadal koncertował i występował w latach 80. i 90., ale pod koniec lat 80. jego stan zdrowia zaczął się pogarszać. Zdiagnozowano u niego raka gardła i przeszedł kilka rund leczenia.
12 grudnia 1991 roku Jeff Wilson zmarł na raka gardła w wieku 44 lat .
Pozostawił żonę, dwie córki i dwóch synów.