อินุ เป็นคำภาษาญี่ปุ่น แปลว่า สุนัข แต่ที่มาของคำนำหน้า "ชิบะ" ไม่ชัดเจน คำว่า ชิบะ หมายถึง "พุ่มไม้" ในภาษาญี่ปุ่น และหมายถึงชนิดของต้นไม้หรือไม้พุ่มที่ใบของมันเปลี่ยนเป็นสีแดงในฤดูใบไม้ร่วง[6] ซึ่งทำให้บางคนเชื่อว่าชิบะได้รับการตั้งชื่อตามความคิดเหล่านี้ ไม่ว่าจะเป็นเพราะสุนัขพันธุ์นี้เคยถูกล่าบริเวณพุ่มไม้ป่า หรือเพราะสีทั่วไปของชิบะอินุมีสีแดงคล้ายกับพุ่มไม้ อย่างไรก็ตามในภาษาถิ่นนากาโน่คำว่า ชิบะ ก็มีความหมายว่า "เล็ก" ด้วยเหตุนี้จึงอาจกล่าวได้ว่าสัดส่วนของสุนัขมีขนาดเล็ก[6] ดังนั้น คำว่าชิบะอินุบางครั้งก็ถูกแปลว่าเป็น "สุนัขพุ่มไม้ตัวน้อย"[1]