สมาคมฟุตบอลปาเลสไตน์ (PFA) หรือสมาคมฟุตบอลเอเรตซ์อิสราเอล ก่อตั้งขึ้นเมื่อวันที่ 14 สิงหาคม ค.ศ. 1928[2][3] และได้ยืนยันเพื่อสมัครเข้าเป็นสมาชิกฟีฟ่าเมื่อวันที่ 17 ธันวาคม ค.ศ. 1928 และได้เป็นสมาชิกในวันที่ 17 พฤษภาคม ค.ศ. 1929 โดยฟีฟ่าประกาศรับรองเมื่อวันที่ 6 กรกฎาคม สมาคมฟุตบอลปาเลสไตน์เปลี่ยนชื่อเป็นสมาคมฟุตบอลอิสราเอลหลังจากที่มีการก่อตั้งรัฐอิสราเอลใน ค.ศ. 1948[1]

สมาคมฟุตบอลอิสราเอลเคยเป็นสมาชิกของสมาพันธ์ฟุตบอลเอเชีย (เอเอฟซี) ระหว่าง ค.ศ. 1954–1974 แต่หลังจากที่สมาชิกชาติอาหรับพร้อมใจกันคว่ำบาตรด้วยการไม่แข่งขันกีฬากับอิสราเอล ทำให้สมาคมฟุตบอลอิสราเอลไม่ได้เป็นสมาชิกของสมาพันธ์ฟุตบอลใดเลยจนถึง ค.ศ. 1992 ในช่วงนั้น อิสราเอลลงเล่นในการแข่งขันระดับฟีฟ่าและรอบคัดเลือกของการแข่งขันโดยโอเอฟซี, ยูฟ่า และคอนเมบอล เป็นบางครั้ง

ใน ค.ศ. 1992 สมาคมฟุตบอลอิสราเอลสมัครเข้าเป็นสมาชิกยูฟ่า ก่อนที่จะเป็นสมาชิกอย่างเต็มตัวในอีกสองปีถัดมา ทำให้นับตั้งแต่ ค.ศ. 1992 เป็นต้นมา ฟุตบอลทีมชาติอิสราเอลและสโมสรฟุตบอลจากอิสราเอลจะได้ลงเล่นในการแข่งขันระดับทวีปยุโรป