Одновременно с реорганизацией и укреплением армии осуществлялась перестройка полицейского аппарата. В связи с тем, что после освобождения крестьян была упразднена вотчинная полиция, на первый план выдвигалась задача реорганизации и укрепление полиции на уездном уровне. В 1862 г. согласно «Временным правилам об устройстве полиции» в каждом уезде вся полиция (в сельской местности и уездных городах) была объединена в единую систему. Значительно были усилены полицейские подразделения вгубернских городах, действовавшие под руководством полицмейстеров. Города делились на участки и околотки во главе с участковыми и околоточными надзирателями.
Была проведена централизация управления полицией. Все полицейские органы подчинялись Министерству внутренних дел. В июле 1880 г. в систему МВД были включеныОтдельный корпус жандармов и губернские жандармские управления. В августе 1880 г. при МВД создается департамент полиции. В составе департамента полиции функционировали семь структурных подразделений (делопроизводств), а также был образован Особый отдел, который занимался агентурной разработкой членов нелегальных революционных организаций.