ในภาษาญี่ปุ่น ชื่อประเทศญี่ปุ่นเรียกว่า นิปปง (にっぽん) หรือ นิฮง (にほん) ซึ่งใช้คันจิตัวเดียวกันคือ 日本 คำว่านิปปง มักใช้ในกรณีที่เป็นทางการ ส่วนคำว่า นิฮง จะเป็นศัพท์ที่ใช้โดยทั่วไป

สันนิษฐานว่าประเทศญี่ปุ่นเริ่มต้นใช้ชื่อประเทศว่า "นิฮง/นิปปง (日本) " ตั้งแต่ช่วงปลายพุทธศตวรรษที่ 12 จนถึงกลางพุทธศตวรรษที่ 13[13][14] ตัวอักษรคันจิของชื่อญี่ปุ่นแปลว่าถิ่นกำเนิดของดวงอาทิตย์ และทำให้ญี่ปุ่นมักถูกเรียกว่าดินแดนแห่งอาทิตย์อุทัย ชื่อนี้เกิดขึ้นในช่วงที่มีการติดต่อกับราชวงศ์สุยของจีนและหมายถึงการที่ญี่ปุ่นอยู่ในทิศตะวันออกของจีน[15] ก่อนที่ญี่ปุ่นจะมีความสัมพันธ์กับจีน ญี่ปุ่นเป็นที่รู้จักในชื่อยะมะโตะ[16]

ชื่อเรียกประเทศญี่ปุ่นในภาษาอื่น ๆ เช่น เจแปน (อังกฤษ: Japan), ยาพัน (เยอรมัน: Japan), ฌาปง (ฝรั่งเศส: Japon), ฆาปอน (สเปน: Japón) รวมถึงคำว่า ญี่ปุ่น ในภาษาไทย น่าจะมาจากภาษาจีนฮกเกี้ยนหรือแต้จิ๋วที่ออกเสียงว่า "ยิดปุ่น" (ฮกเกี้ยน) หรือ "หยิกปึ้ง" (แต้จิ๋ว) ทั้งหมดล้วนแต่เป็นคำที่ถอดเสียงมาจากคำอ่านตัวอักษรจีน 日本国 ซึ่งอ่านว่า "จีปังกู" แต่ในสำเนียงแมนดารินอ่านว่า รื่อเปิ่นกั๋ว (จีน: 日本国; พินอิน: Rìběn'guó) หรือย่อ ๆ ว่า รื่อเปิ่น (จีน: 日本; พินอิน: Rìběn) [17] ส่วนในภาษาที่ใช้ตัวอักษรจีนอื่น ๆ เช่นภาษาเกาหลี ออกเสียงว่า "อิลบน" (เกาหลี: 일본; 日本 Ilbon) [18] และภาษาเวียดนาม ที่ออกเสียงว่า "เหญิ่ตบ๋าน" (เวียดนาม: Nhật Bản, 日本)[19] จะเรียกประเทศญี่ปุ่นโดยออกเสียงคำว่า 日本 ด้วยภาษาของตนเอง