Urodził się 10 czerwca 1952 roku w Jacksonville na Florydzie i zaczął grać na gitarze w młodym wieku. W 1971 roku dołączył do zespołu Molly Hatchet z Jacksonville i koncertował z nimi do 1980 roku.
Po opuszczeniu Molly Hatchet McKinney założył zespół Andy McKinney and the Road Hawgs, który w latach 80. wydał dwa albumy.
Pracował także jako muzyk sesyjny i pojawił się na albumach takich artystów jak Gregg Allman i Dickey Betts.
W ostatnich latach McKinney mieszka w Jacksonville na Florydzie i okazjonalnie nadal gra muzykę.