Общее руководство ДП и Отдельным корпусом жандармов (далее – ОКЖ) с 1882 года осуществлял заместитель Министра внутренних дел. Департамент состоял из Особого отдела, 9 делопроизводств и других структурных подразделений.
Третье секретное делопроизводство заведовало всеми делами политического розыска, надзором за политическими партиями и организациями, борьбой с ними, с массовыми движениями, руководством всей внутренней гласной и негласной и заграничной агентурой, охраной царя, «наружкой», отпуском средств на агентов.
С 1 января 1898 года розыскная деятельность Третьего делопроизводства была передана в Особый отдел. Он стал ведать внутренней и заграничной агентурой, вести негласное наблюдение за корреспонденцией подданных, высших сановников государства, членов императорской семьи, подозреваемых в нежелательных связях.
Особый отдел следил за политическим настроением всех слоев русского общества, за деятельностью политических партий, других организаций, вел регистрацию произведений нелегальной печати, ведал политическим сыском.
Первоначально Особый отдел состоял из 4-х отделений. На январь 1905 года распределение обязанностей между ними выглядело следующим образом: 1-е отделение руководило НН, 2-е – внутренней агентурой, 3-е осуществляло контроль над учебными заведениями и общественными организациями, в ведении 4-го отделения находились вопросы, связанные с военным шпионажем и государственной изменой, т. е. вопросы контрразведки.
4-е делопроизводство ДП наблюдало за ходом политического дознания в губернских жандармских управлениях (далее – ГЖУ), осуществляло надзор за рабочим и крестьянским движением, за легальными структурами самоуправления. 5-е делопроизводство ведало гласным и негласным надзором.
6-е делопроизводство следило за изготовлением, хранением и перевозкой взрывчатых веществ, фабрично-заводским законодательством и его выполнением, выдачей справок о политической благонадежности лицам, поступающим на государственную и земскую службу.
7-е делопроизводство дублировало 4-е. 8-е делопроизводство заведовало уголовным розыском и сыскным отделением. 9-е делопроизводство занималось контрразведкой и надзором за военнопленными. ДП имел гласную и негласную агентуру, особый денежный фонд, не подлежащий государственному контролю.