ชาวตะวันตกที่ยังเหลืออยู่ในเมืองได้ก่อตั้งเขตปลอดภัยนานกิง ซึ่งประกอบด้วยค่ายผู้ลี้ภัยซึ่งกินพื้นที่ราว 3.4 ตารางไมล์ (8.6 ตารางกิโลเมตร) เขตปลอดภัยมีถนนล้อมรอบทั้งสี่ด้าน โดยค่ายผู้ลี้ภัยทั้ง 25 แห่งกระจุกตัวรอบสถานทูตอเมริกัน คิดเป็นพื้นที่ประมาณเซ็นทรัลพาร์กในนครนิวยอร์ก

เพื่อประสานงานการทำงาน ชาวตะวันตกได้จัดตั้งคณะกรรมการระหว่างประเทศว่าด้วยเขตปลอดภัยนานกิง ยอน ราเบอได้รับเลือกให้เป็นหัวหน้าคณะกรรมการดังกล่าว ส่วนหนึ่งเป็นเพราะสถานภาพการเป็นสมาชิกพรรคนาซีและการลงนามในสนธิสัญญาต่อต้านองค์การคอมมิวนิสต์สากลสองฝ่ายระหว่างเยอรมนี-ญี่ปุ่น

การยอมรับ

เมืองนานกิงยอมรับการมีอยู่ของเขตปลอดภัยดังกล่าว โดยส่งเงินสดและอาหาร ตลอดจนส่งเจ้าหน้าที่รักษาความปลอดภัยไปประจำอยู่ในเขต วันที่ 1 ธันวาคม ค.ศ. 1937 นายกเทศมนตรีเมืองนานกิง มา เชา-ชุน ได้ส่งอพยพพลเมืองจีนที่ยังหลงเหลืออยู่ในนานกิงเข้าไปในเขตปลอดภัยก่อนที่ตนเองจะหลบหนีออกจากเมือง

ฝ่ายญี่ปุ่นไม่ได้ยอมรับการมีอยู่ของเขตปลอดภัย แต่ก็ตกลงที่จะไม่โจมตีส่วนของเมืองที่ไม่มีทหารจีนประจำอยู่ สมาชิกคณะกรรมการระหว่างประเทศว่าด้วยเขตปลอดภัยนานกิงจึงพยายามเกลี้ยกล่อมให้รัฐบาลจีนเคลื่อนย้ายทหารออกจากพื้นที่ดังกล่าว