เรือนจำพิเศษกรุงเทพมหานคร ก่อสร้างเมื่อ ร.ศ.109 (พ.ศ. 2433) พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวทรงเห็นว่า ที่ต้องขังจองจำผู้กระทำความผิดต้องควบคู่ไปกับศาลสถิตยุติธรรม ทรงพระราชทานพระราชทรัพย์ให้จัดซื้อที่ดินตำบลตรอกคำ ทำการก่อสร้าง ทรงส่งพระยาไชยวิชิตสิทธิศาสตรา (นาค ณ ป้อมเพชร) ซึ่งเคยไปรับราชการสถานทูตไทย ณ กรุงลอนดอน ประเทศอังกฤษ ไปดูรูปแบบที่สิงคโปร์ โดยนำแบบเรือนจำบริกซ์ตัน อันเป็นเรือนจำระดับความมั่นคงสูงสุดมาใช้ การก่อสร้างเสร็จสิ้นสามารถย้ายนักโทษเข้าไปอยู่ได้เมื่อเดือนกุมภาพันธ์ ร.ศ. 109 และได้รับการขนานนามว่า "คุกกองมหันต์โทษ" หรือเรียกกันว่า "คุกใหม่" มีอายุเก่าแก่ถึง 103 ปี และได้เปลี่ยนชื่อหลายครั้ง ครั้งสุดท้ายใช้ชื่อว่า "เรือนจำพิเศษกรุงเทพมหานคร"

พ.ศ. 2534 คณะรัฐมนตรีได้อนุมัติโครงการปรับปรุงทัณฑสถานวัยหนุ่มบางเขน หรือ "เรือนจำกลางคลองเปรม" และได้ย้ายผู้ต้องขังจากเรือนจำพิเศษกรุงเทพมหานครมาควบคุมรวมกัน และให้ปรับปรุงพื้นที่เรือนจำพิเศษกรุงเทพมหานครเป็นสวนสาธารณะ จากการที่สวนรมณีนาถได้ดัดแปลงมาจากเรือนจำ ภายในบริเวณสวนจึงยังคงอนุรักษ์แนวรั้วกำแพง ป้อมยาม ซุ้มประตูทางเข้าไว้เป็นสัญลักษณ์ และเป็นส่วนประกอบของสวน

พระบาทสมเด็จพระวชิรเกล้าเจ้าอยู่หัว เมื่อครั้งดำรงพระอิสริยยศเป็น สมเด็จพระบรมโอรสาธิราช สยามมกุฎราชกุมารได้เสด็จพระราชดำเนินทรงเปิดสวนรมณีนาถ และพิพิธภัณฑ์ราชทัณฑ์ อย่างเป็นทางการเมื่อวันที่ 17 สิงหาคม พ.ศ. 2542