Наказание в качестве тюремного заключения было внесено в законодательство ещё во времена Ивана Грозного в 1550 году. Самые первые попытки наладить порядок в тюремном управлении были предприняты во время правления отца Петра І, Алексея Михайловича. Огромное количество сил в создание цивилизованной уголовно-исполнительной системы вложила Екатерина ІІ. Во времена её царствования было построено сразу пару десятков тюрем. Многие из екатерининских тюрем функционируют ещё и сейчас. Также при Екатерине ІІ был подготовлен основательный и подробный «Проект положения о тюрьмах».
В начале 19 века, в 1802 году при МВД создали Департамент исполнительной полиции. На этот Департамент возложили обязанности по управлению тюремными делами. Однако на самом деле тюрьмы так и остались в ведении местных властей и губернаторов.
В марте 1879 году было положено настоящее начало централизации управления тюрьмами. В это время было создано Главное тюремное управление. Сначала оно подчинялось МВД. В 1895 г. его перевели в подчинение Министерству юстиции. В ведении этого органа власти тюремное управление просуществовало до 1922 года. В этом году управление по тюрьмам снова вернулось в ведение МВД. В 1930 году и 1953 году пенитенциарные учреждения на недолгий срок перешли в подчинение Минюста. В 1998 году уголовно-исполнительская система снова была переведена в ведение Министерства юстиции.