เข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์
และปัญหาการควบคุม Stuart Russell Viking (2019)
ใน Human Compatible หนังสือเล่มใหม่ของเขาเกี่ยวกับปัญญาประดิษฐ์ (AI) Stuart Russell เผชิญหน้ากับสิ่งที่เขาเรียกว่า “ปัญหาการควบคุม” อย่างเต็มที่ นั่นคือความเป็นไปได้ที่ AI ทั่วไปจะบดบังความสามารถทางปัญญาของผู้สร้างในท้ายที่สุด ไปสู่เอฟเฟกต์ dystopian ที่ไม่สามารถย้อนกลับได้
ปัญหาการควบคุมไม่ใช่เรื่องใหม่ ตัวอย่างเช่น Erewhon นิยายวิทยาศาสตร์คลาสสิกของซามูเอล บัตเลอร์ในปี 1872 มีความกังวลเกี่ยวกับปัญญาเหนือมนุษย์ของหุ่นยนต์ที่กดขี่สถาปนิกที่เป็นมนุษย์ของพวกเขา ทำให้พวกเขากลายเป็น “เพลี้ยจักจั่นด้วยเครื่องจักร” แต่ในปี 1950 Norbert Wiener ผู้ประดิษฐ์ไซเบอร์เนติกส์ได้เขียน (ใน The Human Use of Human Beings) ว่าอันตรายต่อสังคม “ไม่ได้มาจากตัวเครื่องจักรเอง แต่มาจากสิ่งที่มนุษย์สร้างขึ้น” หนังสือของรัสเซลที่มีผลผูกมัดอยู่กับความตึงเครียดนี้ ไม่ว่าปัญหาจะอยู่ที่การควบคุมสิ่งมีชีวิตหรือผู้สร้างก็ตาม เรียกได้ว่าเป็นแกนหลักของ AI ตั้งแต่เริ่มก่อตั้ง
วิทยาการหุ่นยนต์: เข้าสู่ evolvabot
แม้แต่ในวัยเด็ก AI ก็ถูกห่อหุ้มด้วยความขัดแย้งอันขมขื่น รัสเซลล์กล่าวสั้นๆ เกี่ยวกับช่วงเวลาที่นักประดิษฐ์เข้าร่วมการประชุมเชิงปฏิบัติการในปี 1956 ที่วิทยาลัยดาร์ตมัธ ในเมืองฮันโนเวอร์ รัฐนิวแฮมป์เชียร์ ที่นี่ในบ้านเกิดของ AI ในตำนาน พวกเขาทะเลาะกันเรื่องสิ่งที่เรียกว่าการสร้างที่ยังคงหลับใหลอยู่ Polymath และผู้ได้รับรางวัลโนเบลในอนาคต Herbert Simon และนักวิทยาศาสตร์คอมพิวเตอร์ Allen Newell ชื่นชอบชื่อ “การประมวลผลข้อมูลที่ซับซ้อน” ความแม่นยำของชื่อเล่นทำให้เกิดการจำกัดวิธีการทางวิทยาศาสตร์สมัยใหม่ โดยย้อนกลับไปถึงกระบวนการค้นพบอิฐต่ออิฐที่มีตัวอย่างโดย James Clerk Maxwell นักวิทยาศาสตร์คอมพิวเตอร์ John McCarthy และ Marvin Minsky (เรียกพวกเขาว่า Intelligentists) ชื่นชอบ “ปัญญาประดิษฐ์” ที่โง่เขลา สำหรับแมคคาร์ธี มันมีมูลค่าทางการตลาด สำหรับมินสกี้ การกำหนดว่าเป็น “คำถามเกี่ยวกับสุนทรียศาสตร์หรือความรู้สึกมีศักดิ์ศรี [a] มากกว่าเรื่องทางเทคนิค”
McCarthy, Minsky และพวก Intelligentists คนอื่น ๆ ได้ซื้อพฤติกรรมนิยม ซึ่งเป็นสาขาที่คร่อมวิทยาศาสตร์ธรรมชาติและมนุษย์ และเสนอการเข้าถึงคำศัพท์ทางจิตวิทยาที่หลากหลาย ดูเหมือนว่าพวกเขาจะสันนิษฐานว่าการปรากฏตัวของพฤติกรรม ‘ใจ’ นั้นมีเหตุผลเพียงพอที่จะพิสูจน์การมีอยู่ของมัน ดังนั้นพวกเขาสามารถอ้างว่าเครื่องจักรของพวกเขาสามารถคิดและรับรู้เพียงเพราะพวกเขาดูราวกับว่าพวกเขาคิด
Marvin Minsky กับเทคโนโลยี AI
Marvin Minsky หนึ่งในนักวิทยาศาสตร์คอมพิวเตอร์ที่สร้างคำว่าปัญญาประดิษฐ์ เครดิต: RGB Ventures/SuperStock/Alamy
อย่างที่เราทราบ ระบบการตั้งชื่อ Intelligentist ชนะ ที่โยนความตายให้กับทุ่งที่ต้องเผชิญกับรูปแบบซ้ำแล้วซ้ำอีกของการเกินเลยและการส่งมอบที่ต่ำกว่าความโอหังและฤดูหนาวที่ยาวนานและน่าสะพรึงกลัวแห่งความไม่พอใจ มีคนสงสัยว่าชะตากรรมของการวิจัย AI จะเป็นอย่างไรหากการรับมือของ Simon และ Newell มีชัย หนังสือ Superintelligence ที่ขายดีที่สุดในปี 2014 ของ Nick Bostrom จะมีบทละครมากเท่ากับที่มันถูกเรียกว่า Super Complex Information Processing Systems หรือไม่? และรัสเซลจะเขียนหนังสือเล่มนี้ด้วยซ้ำหรือไม่?
Robo-pups หูพิมพ์และอคติ – ทัวร์ของAI
ประเด็นนั้นยังคงเป็นที่ถกเถียงกันอยู่ สิ่งที่แน่นอนคือ Human Compatible ถือเป็นก้าวสำคัญในการศึกษา AI อย่างน้อยก็เน้นที่จริยธรรม ที่หัวใจของหนังสือเล่มนี้ รัสเซลกล่าวถึงการใช้ AI ในทางที่ผิดอย่างเฉียบขาด เขาเตือนว่า เมื่อใช้ร่วมกับการรวบรวมข้อมูลแบบรุกราน แอพพลิเคชั่น AI เช่น เทคโนโลยีการจดจำเสียงและใบหน้า เครื่องกำเนิด Deepfake และระบบการรวมข้อมูล สามารถนำมาใช้เพื่อการเฝ้าระวัง ควบคุม และการจัดการพฤติกรรมจำนวนมากได้อย่างไร โดยเน้นย้ำถึงความเปราะบางของมนุษย์ต่อเทคโนโลยีดังกล่าว เขาเน้นย้ำถึงสิทธิในความมั่นคงทางจิตใจในการใช้ชีวิต “ในสภาพแวดล้อมของข้อมูลที่แท้จริงเป็นส่วนใหญ่” และเขาได้โต้แย้งอย่างโน้มน้าวใจในการปฏิเสธอาวุธที่ทำลายล้างอัตโนมัติที่ร้ายแรงว่าเป็น “อาวุธที่มีอำนาจทำลายล้างสูงที่ปรับขนาดได้”
อาจดูน่าประหลาดใจในบัญชีที่เตือนใจถึงการใช้ AI ในทางที่ผิดและการใช้ AI ในทางที่ผิดในปัจจุบัน ที่รัสเซลล้มเหลวในการดำเนินการเพื่อความยุติธรรมต่อผลประโยชน์ที่เกิดขึ้นจริงในปัจจุบัน สิ่งเหล่านี้ได้ช่วยให้ผู้คนจัดการกับความท้าทายต่างๆ เช่น การเปลี่ยนแปลงสภาพภูมิอากาศ การระบายน้ำจากความหลากหลายทางชีวภาพ การตรวจหาโรค และการบรรเทาภัยพิบัติ ตัวอย่างเช่น การประยุกต์ใช้ AI ในการวิเคราะห์ภาพทางการแพทย์ช่วยให้การวินิจฉัยมะเร็งเต้านมในระยะเริ่มต้น มะเร็งปอดชนิดเซลล์ไม่เล็ก และภาวะหัวใจล้มเหลวเรื้อรังได้ก้าวหน้าไปอีกขั้น และแบบจำลองการเรียนรู้ด้วยเครื่องที่รวมการทำนายสภาพอากาศในระดับมหภาคกับข้อมูลการสังเกตในท้องถิ่นช่วยให้นักวิทยาศาสตร์สามารถช่วยเหลือรัฐบาลในการปรับตัวและการบรรเทาสภาพอากาศ
แต่ “เครื่องมือ AI” ที่ “น่าเบื่อ” แต่มีประโยชน์ อย่างที่รัสเซลเรียกว่าไม่ใช่ตัวเอกของหนังสือ นั่นคือ “ปัญญาประดิษฐ์ขั้นสูง” นี่คือที่มาของปัญหาการควบคุมอย่างแท้จริง ซึ่งเกี่ยวข้องกับการจัดการ AI ที่เป็นไปไม่ได้ เมื่อเกินความสามารถทางปัญญาทั่วไปของมนุษย์ เรายังไม่ได้ไปที่นั่น เขายืนยันกับเรา แต่เมื่อมันเกิดขึ้น เราควรเตรียมตัวให้พร้อม
