สถาบันเทคโนโลยีแห่งสหพันธ์สวิสในซูริกได้รับการก่อตั้งในปี ค.ศ. 1854 โดยสมาพันธรัฐสวิส และเริ่มดำเนินการเรียนการสอนในปี ค.ศ. 1855 ในชื่อ Eidgenössische Polytechnische Schule ขณะนั้นสถาบันมีการจัดการเรียนการสอนเพียง 6 สาขาวิชาหลัก ได้แก่ สถาปัตยกรรมศาสตร์ วิศวกรรมโยธา วิศวกรรมเครื่องกล เคมี การป่าไม้ ส่วนคณะสุดท้ายเป็นการรวมตัวกันของภาควิชาย่อยต่าง ๆ เช่น คณิตศาสตร์ วิทยาศาสตร์ธรรมชาติ อักษรศาสตร์ รัฐศาสตร์

สถาบันเทคโนโลยีแห่งสหพันธ์สวิสในซูริกเป็นสถาบันการของสมาพันธรัฐ (federal institute) อยู่ภายใต้การควบคุมดูแลของรัฐบาลกลางประเทศสวิตเซอร์แลนด์ ซึ่งต่างจากมหาวิทยาลัยซูริกที่เป็นเพียงสถาบันการศึกษาของรัฐ (cantonal institute) ที่อยู่ภายใต้การควบคุมดูแลของรัฐซูริก ณ ช่วงเวลาของการก่อตั้งนั้น มีการวิพากษ์วิจารณ์โต้แย้งกันอย่างรุนแรงเกี่ยวกับการจัดตั้งมหาวิทยาลัยแห่งสมาพันธรัฐ โดยการโต้แย้งเกิดขึ้นระหว่างกลุ่มนักเสรีนิยมซึ่งสนับสนุนการจัดตั้งมหาวิทยาลัยแห่งสมาพันธรัฐ ด้วยเหตุผลที่ว่าเพื่อต้องการให้เกิดเสรีทางความคิดโดยไม่มีการปิดกั้น และฝ่ายของกลุ่มอนุรักษนิยมที่ต้องการให้แต่ละมหาวิทยาลัยอยู่ภายใต้การควบคุมดูแลของแต่ละรัฐ ในช่วงแรกของการก่อตั้ง ทั้งสองมหาวิทยาลัยได้ตั้งอยู่ร่วมกันในอาคารของมหาวิทยาลัยซูริก

ในปี ค.ศ. 1909 สถาบันได้ปรับปรุงเปลี่ยนแปลงโครงสร้างหลักสูตรการเรียนการสอน เพื่อยกระดับสถาบันให้มีความเทียบเท่ากับระดับมหาวิทยาลัย และในปีเดียวกันนี้เอง สถาบันยังได้รับอนุญาตให้สามารถประสาทปริญญาบัตรการศึกษาระดับปริญญาเอกได้อีกด้วย ในปี ค.ศ. 1911 สถาบันได้เปลี่ยนชื่อมาเป็น สถาบันเทคโนโลยีแห่งสหพันธ์สวิสในซูริก ซึ่งเป็นชื่อที่ยังคงใช้อยู่จนถึงปัจจุบัน

ในปี ค.ศ. 1924 สถาบันได้จัดระเบียบโครงสร้างภายในองค์กรอีกครั้ง ทำให้มีคณะวิชามากขึ้นถึง 12 คณะวิชา