การทดลองทางความคิดว่าด้วยห้องอักษรจีน ของ ห้องอักษรจีน

การทดลองทางความคิดของ Searle กำหนดเงื่อนไขพื้นฐานดังนี้ ให้สมมติว่าการพัฒนาปัญญาประดิษฐ์ก้าวหน้าไปถึงขั้นที่สามารถสร้างคอมพิวเตอร์ที่ประพฤติตัวได้เสมือนว่ามีความเข้าใจภาษาจีน มันสามารถรับคำสั่งอินพุตเป็นภาษาจีน แล้วสามารถอาศัยเงื่อนไขตามโปรแกรมคอมพิวเตอร์จนสามารถผลิตคำตอบออกมาเป็นอักษรจีนอีกตัวหนึ่งได้ สมมติต่ออีกว่าคอมพิวเตอร์นี้ทำงานนี้ได้ดีมากจนสามารถผ่านการทดสอบของทัวริงได้ กล่าวคือ สามารถโน้มน้าวให้มนุษย์ผู้รู้ภาษาจีนเชื่อได้ว่าคำตอบนี้มาจากมนุษย์ผู้รู้ภาษาจีนจริงๆ ไม่ว่าจะถามคำถามใดๆ ไป คอมพิวเตอร์นี้จะสามารถให้คำตอบที่เหมาะสมออกมาได้ทุกครั้ง เหมือนกับที่มนุษย์ผู้รู้ภาษาจีนคนหนึ่งจะโต้ตอบพูดคุยกับมนุษย์ผู้พูดภาษาจีนอีกคนหนึ่ง

คำถามของ Searle คือ เครื่องจักรนี้ "เข้าใจ" ภาษาจีน โดยแท้จริง หรือไม่ หรือมันเพียงแต่ "จำลอง" ความสามารถในการเข้าใจภาษาจีน เขาเรียกภาวะที่เข้าใจภาษาจีนว่า "ปัญญาประดิษฐ์แบบเข้ม" และภาวะที่จำลองความเข้าใจภาษาจีนว่า "ปัญญาประดิษฐ์แบบอ่อน"

เพื่อลองหาคำตอบของปัญหานี้ Searle ได้เสนอว่า สมมติว่าข้าพเจ้าอยู่ในห้องปิดห้องหนึ่ง แล้วมีหนังสือภาษาอังกฤษที่บันทึกรายละเอียดของโปรแกรมดังกล่าวเอาไว้อย่างครบถ้วน ให้ดินสอ ปากกา ยางลบ แฟ้มเอกสาร และอุปกรณ์อื่นๆ เพียงพอต่อความต้องการ เขาสามารถจะรับกระดาษที่เขียนตัวอักษรจีนมาจากช่องประตู เปิดตำราและคำนวณตามเงื่อนไขของโปรแกรม และย่อมจะสามารถได้คำตอบเป็นตัวอักษรจีนขึ้นมาได้ ถ้าคอมพิวเตอร์ตามเงื่อนไขนี้สามารถผ่านการทดสอบของทัวริงได้ เขาซึ่งทำตามเงื่อนไขของโปรแกรม ก็ย่อมจะคำนวณให้ได้คำตอบที่ผ่านการทดสอบของทัวริงได้อย่างไม่ต่างกัน

Searle ถือว่าการทดลองนี้บ่งบอกว่า ไม่มีความแตกต่างที่มีนัยสำคัญใดๆ ระหว่างบทบาทของคอมพิวเตอร์กับตัวเขาในการทดลองนี้ ทั้งคอมพิวเตอร์และตัวเขาต่างปฏิบัติตามเงื่อนไขของโปรแกรมตามลำดับขั้นตอน จนได้ผลออกมาเป็นพฤติกรรมที่อาจถูกแปลผลได้ว่าเป็นการสนทนาของผู้มีสติปัญญา ทั้งที่จริงแล้ว Searle ไม่อาจเข้าใจการสนทนานั้นได้เลย เช่นนี้เขาจึงถือเป็นข้อถกเถียงว่า ไม่อาจถือได้ว่าคอมพิวเตอร์ในเรื่องนี้เข้าใจการสนทนานั้นได้เช่นกัน

Searle อ้างต่ออีกว่า เมื่อเครื่องจักรไม่มี "ความเข้าใจ" (หรือ "เจตจำนง") จึงไม่อาจถือได้ว่าสิ่งที่เครื่องจักรนั้นทำ คือ "การคิด" และเมื่อไม่มีการคิด ก็ถือว่าไม่มี "จิตใจ" ในความหมายโดยทั่วไป ดังนั้นเขาจึงสรุปต่อไปว่า "ปัญญาประดิษฐ์แบบเข้ม" ไม่มีอยู่จริง