Når det gjelder fossilprotokollen, trakk New York den korte enden av pinnen: Empire State er rik på små, marine boligvirvelløse dyr som dateres til de tidlige Paleozoic Era, hundrevis av millioner av år siden, men gir et virtuelt blankt når det kommer til dinosaurer og megafauna-pattedyr. (Du kan klandre New Yorks relative mangel på sedimenter akkumulert i løpet av mesozoikum og kenozoikum Eras.) Likevel, dette er ikke å si at New York var helt blottet for forhistorisk liv, noen kjente eksempler som du kan finne på følgende lysbilder. (Se en liste over dinosaurer og forhistoriske dyr oppdaget i hver amerikansk stat.)
For litt over 400 millioner år siden, i løpet av silur periode, var store deler av Nord-Amerika, inkludert staten New York, under vann. Det offisielle statsfossilet i New York, Eurypterus, var en type marine virvelløse dyr kjent som en havsskorpion, og var en av de mest fryktede undersjøiske rovdyrene før utviklingen av forhistoriske haier og kjempe marine krypdyr. Noen eksempler av Eurypterus vokste til nesten fire meter lange, dvergende den primitive fisken og virvelløse dyr de byttet på.
Det er ikke et kjent faktum, men forskjellige dinosaur fotavtrykk har blitt oppdaget i nærheten av byen Blauvelt, i New Yorks Rockland County (ikke så langt fra New York City). Disse sporene dateres til sent trias periode, for rundt 200 millioner år siden, og inkluderer noen forferdelige bevis for å rive pakker med Coelophysis (en dinosaur som er mest kjent for sin utbredelse i fjerntliggende New Mexico). I påvente av at det foreligger avgjørende bevis på at disse fotavtrykkene virkelig ble lagt ned av Coelophysis, foretrekker paleontologer å tilskrive dem til en "ichnogenus" kalt Grallator.
I 1866, under byggingen av en mølle i New York, oppdaget arbeidere de nesten fullstendige restene av et fem tonn Amerikanske Mastodon. "Cohoes Mastodon", som det har blitt kjent, vitner om det faktum at disse kjempene forhistoriske elefanter streifet over New Yorks vidunderlige flokker, så sent som for 50 000 år siden (uten tvil sammen med deres nære samtid pleistocen epoke, the Ull mammut).
Som mange andre stater i det østlige USA, var New York relativt lun, geologisk sett, helt til den sene Pleistocene-epoken - da den ble krysset av alle slags megafauna-pattedyr, alt fra mammuter og mastodoner (se tidligere lysbilder) til slike eksotiske slekter som Giant Short-Faced Bear og Giant Beaver. Dessverre ble de fleste av disse pattedyrene i stor størrelse utryddet på slutten av den siste istiden, og ga etter for en kombinasjon av menneskelig predasjon og klimaendringer.