นายกร เติบโตที่บ้านเทเวศร์ซึ่งเป็นบ้านของ พล.ต.อ.เผ่า ศรียานนท์ ซึ่งมีศักดิ์เป็นลุงเขยทางฝ่ายมารดา และเป็นที่ทราบกันว่า " นายกรเป็นหลานน้าชาติ " เนื่องจากมารดาของนายกร เป็นพี่สาวแท้ๆ ของ พล.อ. ชาติชาย ชุณหะวัณ อดีตนายกรัฐมนตรี ญาติอีกคนที่สนิทสนมและเป็นผู้ตั้งชื่อให้กับนายกร คือ พล.ต.อ.ประมาณ อดิเรกสาร ผู้มีศักดิ์เป็นน้าเขย

นามสกุล "ทัพพะรังสี" เป็นนามสกุลพระราชทาน จาก พระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว ให้แก่ เจ้าพระยานราธรหิรัญรัฐ (เยื้อน ทัพพะรังสี) ผู้เป็นอดีตเจ้าคลังจังหวัดสงขลา และมีศักดิ์เป็นปู่ของนายกร ทัพพะรังสี

นายกร สมรสกับ นางรพีพรรณ ทัพพะรังสี (สกุลเดิม ถาวรธาร) บุตรี นายชาญไชย ถาวรธาร อดีตรองปลัดกระทรวงอุตสาหกรรม มีบุตรชาย 2 คน คือ นายกฤตพณ ทัพพะรังสี (โก้) และ นายกมลสุทธิ์ ทัพพะรังสี (ก้อง)

นายกร ได้ชื่อว่าเป็นคนรักครอบครัวมาก มักหาเวลาที่จะเล่นดนตรีกับครอบครัว หรือเล่นกีฬาโดยเฉพาะแบดมินตัน กับครอบครัวอยู่เสมอ และในวันหยุดสุดสัปดาห์ มักชวนภรรยาและบุตรชายไปเที่ยวต่างจังหวัด ส่วนในวันปกติก็มักเลิกงานไม่เกิน 1 ทุ่ม และหลีกเลี่ยงงานเลี้ยงตอนเย็น เพื่อกลับบ้านรับประทานอาหารค่ำพร้อมหน้าพร้อมตากันในครอบครัว

ด้านรสนิยมส่วนตัว นายกรเป็นผู้ที่นิยมความเป็นไทย ชอบฟังและร้องเพลงลูกทุ่ง และมีส่วนอย่างมากในการผลักดันให้ เพลงลูกทุ่ง กลับมาได้รับความนิยมในปัจจุบัน นอกจากนี้ยังเป็นผู้เห็นคุณค่าของภูมิปัญญาแพทย์แผนไทย โดยการผลักดันให้มีกฎหมายคุ้มครองแพทย์แผนไทย

นายกรชอบสวมสร้อยแขวน พระพุทธชินราช ซึ่งเป็นพระคู่บารมี สมเด็จพระนเรศวรมหาราช และมักมีสายสิญจน์ผูกที่ข้อมือ ชอบดื่มน้ำตาลสด น้ำอ้อย และไม่ชอบดื่มน้ำอัดลม หากหิวมากก่อนถึงเวลาอาหารค่ำจะนิยมรับประทานกล้วยตาก

นายกรชอบออกกำลังกาย และเล่นกีฬาได้ดีหลายอย่าง โดยเฉพาะกีฬา แบดมินตัน ที่โปรดปรานถึงขนาดนำลูกขนไก่มาห้อยประดับหน้ารถ และได้ชื่อว่ามีฝีมือเข้าขั้นคนหนึ่ง นายกรเป็นผู้หนึ่งที่มีบทบาทส่งเสริมการเล่นแบดมินตัน โดยดำรงตำแหน่งเป็น นายกสมาคมแบดมินตันแห่งประเทศไทย และเคยดำรงตำแหน่งประธานสหพันธ์แบดมินตันโลก ในระหว่างปี 2001-2005