Среди ископаемых грызунов насчитывается не менее 10 целиком вымерших семейств и более 250 родов. Однако общее количество видов сравнительно не велико. Это связано с особенностями накопления и сохранения остатков грызунов, большей частью мелких и легко разрушающихся.

С другой стороны, основные местонахождения их связаны с территориями древних открытых ландшафтов в области современных субтропических и умеренных широт. Поэтому трудно выяснить с желательной полнотой время возникновения, историю расселения и филогенетические взаимоотношения между отдельными современными группами. Это особенно относится к фауне наиболее древних эпох, для которых, при огромной протяженности их во времени, дошедшие до нас отдельные находки дают возможность делать лишь самые предварительные филогенетические и палеофаунистические выводы.

Лишь начиная с конца миоцена, особенно для лучше изученных ископаемых грызунов Азии, Европы и Северной Америки, эти выводы приобретают достаточную достоверность. Тем не менее, значение палеонтологических находок огромно, в частности - для познания истории фауны грызунов нашей страны. Геологическая древность отряда точно не установлена, но известные с эоцена наиболее древние его представители уже не только имеют все основные характерные признаки отряда грызунов в строении скелета и черепа, но и обнаруживают черты высокой специализации. Поэтому отделение грызунов от общих с насекомоядными предков следует отнести еще к дотретичному времени.

В СССР сколько-нибудь планомерное изучение ископаемых грызунов началось только после Октябрьской революции, когда организованные Академией Наук СССР и академиями Союзных Республик крупные раскопки ископаемых фаун в южной Украине, Казахстане, Закавказье и Монголии дали богатый материал по ископаемым млекопитающим, в том числе и по грызунам.

Эоцен. На территории СССР до настоящего времени не найдено остатков грызунов эоценового возраста. Однако нахождение их не исключено, так как они найдены в Монголии, олигоценовая фауна грызунов которой имеет много общего с олигоценовой фауной нашей страны. Известные из Монголии, Западной Европы и Северной Америки древнейшие грызуны относятся уже к обоим современным подотрядам. Из Sciuromorpha характерно ископаемое семейство Ichyromyidae с родами Paramys, Prosciurus и Plesiarctomys, а также близкие к современным африканским Anomaluridae ископаемые семейства Pseudosciuridae и Theridomyidae, из которых около 10 вымерших родов характерны для эоцена Европы. Двупарнорезцовые представлены подсемейством Paleolaginae, относящимся уже к современному семейству Leporidae и содержащему не менее 4 вымерших родов, представители которых обитали в эоцене в Центральной Азии и Северной Америке.

Олигоцен. На территории СССР остатки олигоценовых грызунов найдены в ряде мест Казахстана. Особенно широко известны находки в районе поселка Агиспе на северном берегу Аральского моря, в составе так называемой "индрикотериевои" фауны, возраст которой определяется верхним олигоценом. В составе этой фауны, кроме известных с эоцена родов семейства Ichyromyidae (например, род Prosciurus), найдены остатки характерного вымершего семейства Cylindrodontidae, представители которого встречались также в Северной Америке, примитивные бобры рода Paleocastor, тушканчики рода Protalactaga, обнаруживающие уже черты высокой специализации семейства.

Характерен целый ряд вымерших родов ископаемых хомякообразных: Schaubeomys, Eumysodon и Aralomys, представители которого достигали величины ондатры. Двупарнорезцовые представлены в индрикотериевой фауне Казахстана родом Agispelagus из сем. Leporidae. Эта фауна обнаруживает значительную близость к фауне олигоценовых грызунов Монголии. Особенно сближает их наличие представителей Cylindrodontidae, представленных в Казахстане родами Pseudotsaganomys и Ardynomys. Олигоценовая фауна грызунов Казахстана и Монголии ближе к таковой Северной Америки, чем Западной Европы, где в это время обитал ряд вымерших олигоценовых родов распространенного в настоящее время в Африке семейства Anomaluridae, как Theridomys, Archeomys, а также отличные от азиатских родов хомякообразные - Cricetodon, Pseudosciuridae - Pseudosciurus, Rhizomyidae - Rhizospalax, сони, возможно, относящиеся к современному роду Glis и мышовки рода Plesiosminthus.

Миоцен. На территории СССР известны лишь немногочисленные местонахождения миоценового возраста, содержащие единичные остатки грызунов. Так, в Предкавказье найдены остатки хомяка, описанного в качестве представителя особого рода Paleocricetus, близкого к миоценовым хомякам Западной Европы, и бобра Amblycastor, рода, характерного для миоцена Азии и Северной Америки. Отдельные находки известны из верхнемиоценовых отложений юго-западной части страны (Одесса, Тирасполь, Молдавия), откуда описаны дикобразы современного рода Hystrix, бобры рода Castor, белки рода Sciurus, а из двупарнорезцовых - зайцы современного рода Lepus и пищухи родов Ochotona и Proochotona.

Таким образом, верхнемиоценовая фауна грызунов характеризуется уже появлением современных родов. С другой стороны, характерна близость ее к миоценовой фауне Западной Европы. Здесь в это время заканчивали свое развитие олигоценовые роды белкообразных и хомякообразных, найдены остатки миоценовых родов сонь - Caenomys и Brachymys. В Монголии и Северном Китае продолжалось развитие Dipodidae (род Protalactaga), найдены остатки цокоров (род Protosiphneus). В Южной Азии появляются представители современного рода Rhizomys из сем. Rhizomyidae и хомякообразные рода Kanisamys. В Северной Америке в миоцене появляется современный род Citellus и ископаемые полевки рода Poamys. В Южной Америке достигают расцвета Hystricomorpha в числе нескольких десятков вымерших к концу миоцена родов.