Jēkabpils muzeja pirmsākumi cieši saistīti ar Jēkabpils valsts vidusskolu. Tur, sākot ar 1920. gada 8. martu, darbojās novadpētniecības pulciņš, saukts arī par “Dzimtenes senatnes pētīšanas pulciņu”. Sākotnēji bija iecerēts no savāktajiem materiāliem izveidot tikai vēstures kabinetu skolā, kas kalpotu vienīgi skolas vajadzībām. Tomēr savākto materiālu bija tik daudz, ka blakus vēstures kabinetam veidojās arī neliels muzejs, ko pāris reizes nedēļā atvēra apmeklētājiem. 

Toreiz tas bija vienīgais muzejs Latgalē. Tuvākie muzeji bez Rīgas muzejiem bija Jelgavā un vēlāk arī Cēsīs.

Līdzekļi muzejam radās no nelielas ieejas maksas un novadpētniecības pulciņa biedru rīkotajām vēsturiskā satura teātra izrādēm.

1941. gada 1. janvārī muzeju atdalīja no skolas, tam piešķīra algotus darbiniekus - direktoru un apkopēju, paredzēja līdzekļus citām vajadzībām. Muzejs bija pakļauts Valsts Centrālā Vēstures muzeja virsvadībai. 

1960. gadā muzeja vadību pārņem Valentīns Cirsis, kurš muzejā strādā līdz 1994. gada 8. februārim. Direktora V. Cirša vadībā tiek iekārtota izstāžu zāle bijušajā pareizticīgo baznīcā, kura gan 1995.gadā atkal bija jānodod baznīcai. Jau 1993.gadā V. Cirsis uzsāk darbu pie Krustpils pils pārņemšanas no padomju armijas, lai tur iekārtotu muzeju.

Kopš 1994. gada muzeju vada direktore I. Berķe. 1996. gada 6. septembrī muzejs pārceļas no savām vecajām telpām Brīvības ielā 171 uz jaunām, daudz plašākām, taču muzeja vajadzībām neizremontētām un neiekārtotām telpām pilī. Kopš šī laika lēnām turpinās Krustpils pils apgūšana, izpēte, restaurācija, ekspozīciju iekārtošana un izstāžu organizēšana.