ความเข้าใจผิดที่พบบ่อย ของ มีดโกนอ็อกคัม

  1. "โมเดลที่ง่าย จะให้ความถูกต้องเหมาะสมกับข้อมูล มากกว่าโมเดลที่ซับซ้อน" ประโยคนี้ไม่เป็นจริง โดยทั่วไปโมเดลที่ซับซ้อน (มีพารามีเตอร์มากกว่า) จะให้ความถูกต้องกับข้อมูลไม่ด้อยกว่าโมเดลที่เรียบง่าย หลักการของออคแคม แนะนำให้เลือกโมเดลที่ง่าย ในกรณีที่โมเดลที่ซับซ้อน ให้ความถูกต้องได้ไม่ดีกว่าอย่างเห็นได้ชัดเท่านั้น
  2. "โมเดลที่มีคำอธิบายสั้นกว่า คือโมเดลที่ซับซ้อนน้อยกว่า" ประโยคนี้ไม่เป็นจริงเสมอไป เนื่องจากความสั้นยาวของคำอธิบายของโมเดล ขึ้นอยู่กับการเข้ารหัส หรือภาษาที่ใช้อธิบายโดยตรง ดังเช่นในทางคณิตศาสตร์ ถ้าเราจำกัดให้ภาษาของสมการของเรา มีเพียงสมการพหุนามแล้ว เราจำเป็นต้องใช้พจน์ของพหุนามเป็นจำนวนอนันต์ เพื่ออธิบายฟังก์ชันเอกโปเน็นเชียล ในขณะที่ ถ้าภาษาของเรามีค่าคงที่ e {\displaystyle e} เราก็จะสามารถอธิบายฟังก์ชันเอกโปเน็นเชียลได้ ด้วยตัวอักษรไม่กี่ตัว อย่างไรก็ตาม แม้ความยาวของทั้งสองสมการจะไม่เท่ากัน แต่สมการทั้งสองก็อธิบายโมเดลเดียวกัน ความยาวของคำอธิบาย จึงไม่สามารถบอกค่าความซับซ้อนของโมเดลได้โดยตรง

อนึ่งในการวัดความเรียบง่ายของ "โมเดล" จาก "คำอธิบายโมเดล" โดยตรง เราจำเป็นต้องใช้การเข้ารหัสแบบครอบจักรวาล (universal encoding) เพื่ออธิบายโมเดลนั้น งานวิจัยในด้านการวัดความซับซ้อนของโมเดลแบบสัมบูรณ์นี้ คืองานวิจัยเรื่องความซับซ้อนแบบโคโมลโกรอฟ ซึ่งถูกเสนอโดยนักคณิตศาสตร์ชื่อดังชาวรัสเซีย แอนเดร โคลโมโกรอฟ ในราวปี ค.ศ. 1960

แหล่งที่มา

WikiPedia: มีดโกนอ็อกคัม http://www.physics.adelaide.edu.au/~dkoks/Faq/Gene... http://www.csse.monash.edu.au/~dld http://www.csse.monash.edu.au/~dld/MML.html http://www.csse.monash.edu.au/~dld/Ockham.html http://www.csse.monash.edu.au/~dld/Publications/20... http://www.csse.monash.edu.au/~lloyd/tildeImages/P... http://www.csse.monash.edu.au/~lloyd/tildeMML/ http://citeseer.nj.nec.com/fox98we.html http://occamssword.com/CORE%20READINGS%20FOR%20OCC... http://rii.ricoh.com/~stork/OccamWorkshop.html