Za najwcześniejszego prekursora fortepianu uważa się powszechnie cymbały, instrument strunowy z trapezową płytą rezonansową i młotkami, którymi gracz uderza w struny w dłoniach.
Pod koniec XVII wieku włoski wytwórca instrumentów Bartolomeo Cristofori udoskonalił cymbały, dodając mechanizm wykorzystujący dźwignie, młotki i tłumiki do uderzania w struny. Mechanizm ten pozwolił na większą kontrolę i ekspresję w grze, umożliwiając produkcję nut o zróżnicowanej dynamice i barwie. Cristofori nazwał swój wynalazek „gravicembalo col fortepian e forte”, co oznacza „klawesyn z cichym i głośnym dźwiękiem”.
W XVIII wieku inni twórcy instrumentów zaczęli eksperymentować z projektem Cristofori i wprowadzili dalsze udoskonalenia i modyfikacje. W 1711 roku Cristofori dokonał kolejnego znaczącego ulepszenia, dodając mechanizm zwany „wychwytem”, który umożliwiał młotkom szybki powrót do pierwotnego położenia po uderzeniu w struny, umożliwiając graczowi szybkie powtarzanie nut.
Termin „pianoforte”, będący połączeniem słów „piano” (miękki) i „forte” (głośny), zaczął być szerzej używany w XVIII wieku do opisania tych nowych instrumentów. Ostatecznie skrócono je do „fortepianu”.
Gottfried Silbermann, niemiecki konstruktor instrumentów, wniósł kilka ważnych wkładów w rozwój fortepianu w XVIII wieku. Udoskonalił mechanizm działania, ulepszył pudło rezonansowe i struny oraz wprowadził zamiast drewnianej obudowy zastosowanie drewnianej ramy, co zaowocowało solidniejszym i stabilniejszym instrumentem.
Na początku XIX wieku angielski producent fortepianów John Broadwood wprowadził dalsze ulepszenia fortepianu, wprowadzając nowy typ mechanizmu działania, który był bardziej responsywny i trwały. Eksperymentował także z różnymi materiałami na struny, płyty rezonansowe i ramy, aby poprawić brzmienie i trwałość instrumentu.
Mniej więcej w tym samym czasie francuski producent fortepianów Sébastien Érard opracował mechanizm podwójnego wychwytu, który pozwolił na jeszcze szybsze powtarzanie nut. Wprowadził także zastosowanie metalowych ram, co zapewniało większą wytrzymałość konstrukcyjną i pozwalało na większe napięcie strun, co skutkowało głośniejszym i mocniejszym dźwiękiem.
W XIX i XX wieku w fortepianie wprowadzono wiele innych innowacji i udoskonaleń, takich jak dodanie pedałów w celu podtrzymania i wytłumienia dźwięku, dodanie większej liczby oktaw i rozwój różnych mechanizmów działania.
Dlatego pierwszy fortepian nie był pojedynczym wynalazkiem, ale raczej stopniową ewolucją i udoskonalaniem wcześniejszych instrumentów smyczkowych, przy udziale wielu twórców instrumentów na przestrzeni kilku dziesięcioleci.