นกกระจอกใหญ่เป็นนกอ้วนกลม[2] ปกติมีความยาวจากปลายปากจรดปลายหางประมาณ 16 ซม.[3] หรืออยู่ในช่วง 14-18 ซม. มีหัวกลมใหญ่ หางสั้น ปากหนา[2] มีน้ำหนัก 24-39.5 กรัม[4] ขึ้นอยู่กับเพศ ซึ่งโดยปกติเพศเมียมีขนาดเล็กกว่าเพศผู้[4] นกวัยอ่อนจะมีขนาดเล็กกว่า เพศผู้จะตัวใหญ่ขึ้นในฤดูหนาว เพศเมียจะตัวใหญ่ขึ้นในฤดูผสมพันธุ์[5] ขึ้นอยู่กับชนิดย่อย และสิ่งแวดล้อม[5]

นกเพศผู้มีขนคลุมหลังไหล่สีน้ำตาลมีลายดำ ส่วนหลังตอนล่าง ตะโพกและหางสีน้ำตาลแกมเทา กระหม่อมสีเทาค่อนข้างเข้ม ขณะที่แก้มและขนคลุมลำตัวด้านล่างเป็นสีเทาอ่อนกว่า บริเวณระหว่างปากจนถึงตา ตา คอและขนคลุมอกส่วนบนสีดำ ในช่วงฤดูผสมพันธุ์ปากจะเป็นสีดำ แต่นอกฤดูผสมพันธุ์จะเป็นสีเนื้อๆและขนอกส่วนบนที่เป็นสีดำสนิทจะจางลง นกเพศเมียมีขนคลุมลำตัวโดยทั่วไปเป็นสีน้ำตาลอ่อน มีคิ้วสีเนื้อ ปากสีเนื้อ คล้ายนกกระจอกตาลเพศเมีย[6] แต่มีลายขีดสีน้ำตาลจางๆที่หลัง