ความเป็นมาของกาญจนบุรี เท่าที่มีการค้นพบหลักฐานนั้น ย้อนไปได้ถึงสมัยก่อนประวัติศาสตร์ เมื่อมีการค้นพบเครื่องมือหินในบริเวณบ้านเก่า อำเภอเมืองกาญจนบุรี ล่วงมาถึงสมัยทวารวดี ซึ่งมีหลักฐานคือซากโบราณสถานที่ตำบลปรังเผล อำเภอสังขละบุรี เป็นเจดีย์ลักษณะเดียวกับจุลประโทนเจดีย์ที่จังหวัดนครปฐม บ้านคูบัว จังหวัดราชบุรี และเมืองอู่ทอง จังหวัดสุพรรณบุรี รวมทั้งค้นพบโบราณวัตถุ เช่น พระพิมพ์สมัยทวารวดีจำนวนมาก[3] สืบเนื่องต่อมาถึงสมัยพุทธศตวรรษที่ 16-18 หลักฐานทางประวัติศาสตร์ที่ค้นพบคือปราสาทเมืองสิงห์ ซึ่งมีรูปแบบศิลปะแบบขอม[3] สมัยบายน

กาญจนบุรียังปรากฏในพงศาวดารเหนือว่า กาญจนบุรีเป็นเมืองขึ้นของสุพรรณบุรีในสมัยสุโขทัย ครั้นมาถึงสมัยอยุธยา กาญจนบุรีก็มีฐานะเป็นเมืองหน้าด่านสำคัญในการทำสงครามระหว่างกองทัพไทยกับพม่า จนกระทั่งถึงสมัยกรุงธนบุรีและรัตนโกสินทร์ เดิมตัวเมืองกาญจนบุรีเดิมนั้นตั้งอยู่ที่ตำบลลาดหญ้า (บริเวณเขาชนไก่ในปัจจุบัน) ภายหลังจนถึง พ.ศ. 2374 พระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว รัชกาลที่ 3 ได้โปรดให้ก่อสร้างกำแพงเมืองและป้อมปราการขึ้นเป็นการถาวร ณ เมืองกาญจนบุรีใหม่โดยตั้งอยู่ ณ ตำบลปากแพรก อันเป็นสถานที่บรรจบของแม่น้ำแควใหญ่และแม่น้ำแควน้อย โดยตัวเมืองอยู่ฝั่งตะวันออกของแม่น้ำแม่กลองกับแม่น้ำแควใหญ่ ซึ่งมีความเหมาะสมทางยุทธศาสตร์และด้านการค้า โดยเริ่มก่อสร้างเมืองเมื่อวันที่ 8 มีนาคม พ.ศ. 2374 และสำเร็จในวันที่ 17 พฤษภาคม พ.ศ. 2375 และได้แยกออกจากสุพรรณบุรีนับแต่นั้นเป็นต้นมา ทั้งนี้โดยมีพระราชประสงค์ส่วนใหญ่เพื่อติดต่อค้าขายกับเมืองราชบุรี ดังพระราชนิพนธ์เสด็จประพาสไทรโยค กล่าวไว้ตอนหนึ่งว่า "แต่มีเมืองปากแพรกเป็นที่ค้าขาย ด้วยเขาชนไก่เมืองเดิมอยู่เหนือมากมีแก่งถึงสองแก่ง ลูกค้าไปมาลำบาก จึงลงมาตั้งเมืองเสียที่ปากแพรกนี้เป็นทางไปมาแก่เมืองราชบุรีง่าย เมืองที่สร้างขึ้นใหม่ กว้าง 5 เส้น ยาว 10 เส้น 18 วา มีป้อม 4 มุมเมือง ป้อมย่านกลางด้านยาวตรงหน้าเมืองทิศตะวันตกเฉียงใต้มีป้อมใหญ่อยู่ตรงเนิน ด้านหลังมีป้อมเล็กตรงกับป้อมใหญ่ 1 ป้อม" การสร้างเมืองกาญจนบุรีใหม่นี้ ดังปรากฏในศิลาจารึกดังนี้ ให้พระยาราชวรินทร์ เจ้ากรมพระตำรวจเป็นพระยาประสิทธิสงครามรามภักดีศรีพิเศษประเทศนิคมภิรมย์ราไชยสวรรค์พระยากาญจนบุรี ครั้งกลับเข้าไปเฝ้าโปรดเกล้าฯ ว่าเมืองกาญจนบุรีเป็นเมืองอังกฤษ พม่า รามัญ ไปมาให้สร้างเมืองก่อกำแพงขึ้นไว้จะได้เป็นชานพระนครเขื่อนเพชรเขื่อนขัณฑ์มั่นคงไว้แห่งหนึ่ง ในปัจจุบันกำแพงถูกทำลายลงโดยธรรมชาติและหน่วยราชการเพื่อประโยชน์อย่างอื่น เหลือเพียงประตูเมืองและกำแพงเมืองบางส่วน[3]

ต่อมาในสมัยรัชกาลที่ 5 เมื่อมีการจัดรูปแบบการปกครองเป็นมณฑลเทศาภิบาล กาญจนบุรีถูกโอนมาขึ้นกับมณฑลราชบุรี[4] และยกฐานะเป็นจังหวัดกาญจนบุรีในปี พ.ศ. 2467

เหตุการณ์ที่ทำให้กาญจนบุรีมีชื่อเสียงไปทั่วโลก คือช่วงสงครามโลกครั้งที่ 2 เมื่อญี่ปุ่นได้ตัดสินใจสร้างทางรถไฟยุทธศาสตร์ จากชุมทางหนองปลาดุกในประเทศไทยไปยังเมืองทันบูซายัตในพม่า โดยเกณฑ์เชลยศึกและแรงงานจำนวนมากมาเร่งสร้างทางรถไฟอย่างหามรุ่งหามค่ำ จนทำให้มีผู้คนล้มตายเป็นจำนวนมาก ทั้งจากความเป็นอยู่ที่ยากแค้นและโรคภัยไข้เจ็บที่รุมเร้า ซึ่งภาพและเรื่องราวของความโหดร้ายในช่วงสงครามโลกครั้งที่ 2 ปรากฏอยู่ในพิพิธภัณฑ์หลายแห่งในกาญจนบุรี

ชื่อเรียกอื่น ๆ ของกาญจนบุรี เช่น เมืองกาญจน์ ปากแพรก ศรีชัยยะสิงหปุระ[5] (ซึ่งในสมัยพระเจ้าชัยวรมันที่ 7 เรียกเมืองกาญจนบุรีว่า ศรีชัยยะสิงหปุระ) และเมืองขุนแผน เป็นต้น