Образовано 8 сентября 1802 года на основе Юстиц-коллегии, окончательное устройство определено в 1811. При учреждении должности министра юстиции в 1802 году ему предписано было на первое время руководствоваться инструкцией генерал-прокурора. В 1803 году был образован департамент Министра юстиции, и в том же году ему была подчинена комиссия составления законов, остававшаяся в его ведении до образования государственного совета. Министру юстиции вверено наблюдение за правильностью действий всех судебных мест в Империи, за исключением духовных, военных и морских.
С должностью министра юстиции было соединено звание генерал-прокурора Правительствующего сената. На министре юстиции лежали прокурорские обязанности при верховном уголовном суде. В Министерстве юстиции были сосредоточены дела по назначению, передвижению и увольнению всех лиц судебного ведомства. С введением в 1864 году Судебных Уставов, министр юстиции получил новые обязанности в качестве главного начальника преобразованной прокуратуры.
С 1870 года с Министерством юстиции слито управление межевой частью. С введением положения о земских участковых начальниках, сосредоточившего многие функции как судебного управления, так и чисто судебные в ведомстве Министерства внутренних дел, круг ведомства министерства юстиции значительно сузился, но, с другой стороны, он расширен законом 13 декабря 1895 года, которым главное тюремное управление было выделено из состава министерства внутренних дел и присоединено к министерству юстиции с присвоением министру юстиции звания президента общества попечительного о тюрьмах.
При министре юстиции состоял товарищ, пользующийся особыми правами.