Vaitkuškio pavadinimas atsirado apytiksliai XVI a., manoma, kad iki to vietovė vadinosi Antakalniu arba Deltuvos Antakalniu, rašoma informaciniame stende. Vaitkuškio dvaras formavosi nuo XVI iki XVIII a., dabar likę tik jo fragmentai. Jonas Eustachijus Kosakovskis buvo paskutinis dvaro savininkas.

Sprendžiant pagal aprašymus, rūmai buvo pailgo stačiakampio plano, trijų dalių, centrinė dalis buvo dviaukštė, o į abi puses nuo jos stovėjo siauresni vieno aukšto sparnai. Dvaro inventoriuje rašoma, kad rūmuose buvo 9 patalpos rūsyje ir 25 patalpos antžeminėje pastato dalyje.