อาร์คิมิดีสมักได้รับยกย่องในฐานะผู้ออกแบบสิ่งประดิษฐ์กลไก แต่เขาก็มีส่วนร่วมในวิทยาการด้านคณิตศาสตร์ไม่น้อย พลูตาร์คเขียนไว้ว่า : "เขาทุ่มเทความรักและความทะเยอทะยานทั้งมวลไว้กับการเสี่ยงโชคอันบริสุทธิ์ ซึ่งปราศจากความจำเป็นแห่งมารยาใด ๆ ในชีวิต"[42]

อาร์คิมิดีสใช้ระเบียบวิธีเกษียณในการประมาณค่าของ π

อาร์คิมิดีสสามารถใช้แนวคิดกณิกนันต์ในวิธีที่คล้ายคลึงกับแคลคูลัสเชิงปริพันธ์ของยุคใหม่ ด้วยการพิสูจน์แย้ง เขาสามารถหาคำตอบของปัญหาที่มีระดับความแม่นยำสูงมาก ๆ ได้โดยกำหนดขอบเขตที่คำตอบนั้นตั้งอยู่ เทคนิคนี้รู้จักกันในชื่อ ระเบียบวิธีเกษียณ (Method of exhaustion) ซึ่งเขานำมาใช้ในการหาค่าประมาณของ π (พาย) วิธีการคือวาดภาพหลายเหลี่ยมขนาดใหญ่กว่าอยู่ข้างนอกวงกลม และรูปหลายเหลี่ยมขนาดเล็กกว่าอยู่ข้างในวงกลม ยิ่งจำนวนด้านของรูปหลายเหลี่ยมเพิ่มขึ้น มันก็จะใกล้เคียงกับขอบของวงกลมมากยิ่งขึ้น เมื่อรูปหลายเหลี่ยมมีจำนวนด้านถึง 96 ด้าน เขาคำนวณความยาวของแต่ละด้านรวมกันและแสดงถึงค่าของ π ที่อยู่ระหว่าง 3 1/7 (ประมาณ 3.1429) กับ 3 10/71 (ประมาณ 3.1408) เทียบกับค่าที่แท้จริงของ π ที่ประมาณ 3.1416 เขายังพิสูจน์ด้วยว่าพื้นที่ของวงกลมนั้นเท่ากับ π คูณกับค่ากำลังสองของรัศมีของวงกลม ในงานเขียนเรื่อง On the Sphere and Cylinder อาร์คิมิดีสได้วางหลักเกณฑ์ของคุณสมบัติแบบอาร์คิมิดีสของจำนวนจริง ว่าค่ากนิกนันต์ใด ๆ เมื่อนำมาบวกเข้ากับตัวเองเป็นจำนวนครั้งมากพอ จะมากกว่าค่าอนันต์ของค่านั้น[43]

ในงานเขียน Measurement of a Circle อาร์คิมิดีสให้ค่ารากที่สองของ 3 ไว้ว่าอยู่ระหว่าง 265/153 (ประมาณ 1.7320261) กับ 1351/780 (ประมาณ 1.7320512) โดยค่าที่แท้จริงคือประมาณ 1.7320508 ซึ่งเป็นค่าประมาณการที่ใกล้เคียงมาก เขาบอกค่านี้ออกมาโดยไม่ได้ให้คำอธิบายว่าใช้ระเบียบวิธีใดในการคิด วิธีการทำงานของอาร์คิมิดีสเช่นนี้ทำให้ จอห์น วอลลิส ระบุว่าเขากำลัง "ปกปิดวิธีการในการหาคำตอบ ราวกับว่าไม่ต้องการให้คนรุ่นหลังได้ล่วงรู้ แต่กลับขู่เข็ญให้ยอมรับผลลัพธ์นั้นแต่โดยดี"[44]

อาร์คิมิดีสพิสูจน์ว่า พื้นที่ส่วนหนึ่งของเส้นโค้งพาราโบลาในภาพบน เท่ากับ 4/3 ของรูปสามเหลี่ยมในภาพล่าง

ในงานเขียน The Quadrature of the Parabola อาร์คิมิดีสพิสูจน์ว่า พื้นที่ภายใต้เขตล้อมของพาราโบลากับเส้นตรงหนึ่งเส้น มีค่าเท่ากับ 4/3 เท่าของพื้นที่สามเหลี่ยมในเขตเดียวกันนั้น ดังแสดงในรูปทางขวานี้ เขาอธิบายผลลัพธ์ของปัญหานี้ด้วยอนุกรมเรขาคณิตอนันต์ซึ่งมีอัตราส่วนร่วม 1/4:

∑ n = 0 ∞ 4 − n = 1 + 4 − 1 + 4 − 2 + 4 − 3 + ⋯ = 4 3 {\displaystyle \sum _{n=0}^{\infty }4^{-n}=1+4^{-1}+4^{-2}+4^{-3}+\cdots ={4 \over 3}\;}

พจน์แรกของอนุกรมนี้คือพื้นที่ของสามเหลี่ยม พจน์ที่สองเป็นผลรวมของพื้นที่ของสามเหลี่ยม 2 ชิ้นที่มีฐานเท่ากับด้านประกอบที่เล็กกว่า และเป็นเช่นนี้ไปเรื่อย ๆ การพิสูจน์นี้ใช้การแปรค่าของอนุกรมอนันต์ที่ได้ผลรวมเข้าใกล้ 1/3

ในงานเขียน The Sand Reckoner อาร์คิมิดีสทำการคำนวณจำนวนเม็ดทรายที่เอกภพสามารถรองรับได้ การทำเช่นนั้น เขาได้ท้าทายข้อสังเกตว่าจำนวนของเม็ดทรายนั้นมากจนเกินกว่าจะนับได้ เขาเขียนว่า : "มีบางคน เช่นพระเจ้าเกโล (พระเจ้าเกโลที่ 2 โอรสของพระเจ้าเฮียโรที่ 2 แห่งซีรากูซา) ซึ่งคิดว่าจำนวนของเม็ดทรายนั้นมากมายจนเป็นอนันต์ และในความหมายของทรายนั้น ข้ามิได้หมายถึงที่มีอยู่ในซีรากูซาหรือส่วนที่เหลือของซิซิลี แต่รวมถึงส่วนที่พบในท้องถิ่นทุกหนแห่งไม่ว่ามีคนอยู่หรือไม่" ในการแก้ปัญหานี้ อาร์คิมิดีสได้ประดิษฐ์ระบบในการนับขึ้นโดยอ้างอิงจาก มีเรียด คำนี้มาจากภาษากรีกว่า murias หมายถึงจำนวน 10,000 เขาเสนอระบบจำนวนแบบหนึ่งโดยใช้การคูณมีเรียดกับมีเรียด (100 ล้าน) และสรุปว่าจำนวนของเม็ดทรายที่ต้องใช้ในการเติมเอกภพทั้งหมดให้เต็ม เท่ากับ 8 วิจินทิลเลียน หรือ 8×1063[45]