พลเอก ชัยชาญหรือที่สื่อมวลชนมักจะเรียกว่า บิ๊กช้าง เกิดเมื่อวันที่ 25 มกราคม 2500 เป็นบุตรชายของนายสมาน และนางละเมียด ช้างมงคล จบการศึกษาระดับมัธยม จากโรงเรียนวัดราชโอรส รุ่น 57 และจบการศึกษาจาก โรงเรียนเตรียมทหาร รุ่น 16 และ โรงเรียนนายร้อยพระจุลจอมเกล้า รุ่น 27 รุ่นเดียวกับพลเอก พอพล มณีรินทร์ รองปลัดกระทรวงกลาโหมและพลโท สมศักดิ์ นิลบรรเจิดกุล แม่ทัพภาคที่ 3

ด้านชีวิตครอบครัวสมรสกับนางวิภาพร ช้างมงคลมีบุตรสาว 1 คนคือนางสาวชนยชา ช้างมงคล