อัลกอริธึมที่ใช้ปัญญาประดิษฐ์กำลังค้นพบกลอุบายที่ไม่คาดคิดในการแก้ปัญหาที่ทำให้นักพัฒนาประหลาดใจ แต่ยังทำให้เกิดความกังวลเกี่ยวกับความสามารถของเราในการควบคุมพวกมัน
พนักงาน Google จ้องไปที่หน้าจอคอมพิวเตอร์ด้วยความงุนงง พวกเขาใช้เวลาหลายเดือนในการพัฒนาอัลกอริธึมที่ออกแบบมาเพื่อบังคับบอลลูนฮีเลียมไร้คนขับตลอดทางจากเปอร์โตริโกถึงเปรู แต่มีบางอย่างผิดปกติ บอลลูนซึ่งควบคุมโดยจิตใจของเครื่องจักร ยังคงเบี่ยงออกนอกเส้นทาง
Salvatore Candido จากกิจการ Project Loon ที่เลิกใช้ไปแล้วของ Google ซึ่งมีเป้าหมายที่จะนำอินเทอร์เน็ตไปยังพื้นที่ห่างไกลผ่านบอลลูน ไม่สามารถอธิบายวิถีโคจรของยานได้ เพื่อนร่วมงานของเขาเข้าควบคุมระบบด้วยตนเองและนำระบบกลับมาใช้งานได้ตามปกติ
หลังจากนั้นไม่นานพวกเขาก็รู้ว่าเกิดอะไรขึ้น โดยไม่คาดคิด ปัญญาประดิษฐ์ (AI) บนบอลลูนได้เรียนรู้ที่จะสร้างเทคนิคการแล่นเรือแบบโบราณที่มนุษย์พัฒนาขึ้นครั้งแรกเมื่อหลายศตวรรษก่อน หากไม่ใช่เมื่อหลายพันปีก่อน “การตอกตะปู” เกี่ยวข้องกับการบังคับเรือให้ลอยไปตามลมแล้วจึงทำมุมออกไปด้านนอกอีกครั้งเพื่อให้สามารถเคลื่อนตัวเป็นซิกแซกได้โดยประมาณในทิศทางที่ต้องการ
ภายใต้สภาพอากาศที่ไม่เอื้ออำนวย บอลลูนที่บินได้เองได้เรียนรู้ที่จะยึดด้วยตัวเอง ความจริงที่ว่าพวกเขาทำสิ่งนี้โดยไม่ได้ตั้งใจ ทำให้ทุกคนประหลาดใจ ไม่น้อยกับนักวิจัยที่ทำงานในโครงการนี้
“เรารู้ได้อย่างรวดเร็วว่าเราถูกเอาเปรียบเมื่อบอลลูนแรกได้รับอนุญาตให้ใช้เทคนิคนี้อย่างเต็มที่สร้างสถิติเที่ยวบินจากเปอร์โตริโกไปยังเปรู” Candido เขียนในบล็อกโพสต์เกี่ยวกับโครงการ “ฉันไม่เคยรู้สึกฉลาดและโง่เง่าไปพร้อม ๆ กัน”
นี่เป็นเพียงสิ่งที่เกิดขึ้นได้เมื่อ AI ถูกทิ้งให้อยู่ในอุปกรณ์ของตัวเอง ต่างจากโปรแกรมคอมพิวเตอร์ทั่วไป AIs ได้รับการออกแบบมาเพื่อสำรวจและพัฒนาแนวทางใหม่ในการทำงานที่วิศวกรมนุษย์ไม่ได้บอกไว้อย่างชัดเจน
แต่ในขณะที่เรียนรู้วิธีทำงานเหล่านี้ บางครั้ง AI ก็มีแนวทางที่สร้างสรรค์จนน่าทึ่งแม้กระทั่งคนที่ทำงานกับระบบดังกล่าวตลอดเวลา นั่นอาจเป็นสิ่งที่ดี แต่ก็สามารถทำให้สิ่งต่าง ๆ ถูกควบคุมโดย AI ที่คาดเดาไม่ได้อันตราย – หุ่นยนต์และรถยนต์ที่ขับด้วยตนเองอาจจบลงด้วยการตัดสินใจที่ทำให้มนุษย์ตกอยู่ในอันตราย
เป็นไปได้อย่างไรที่ระบบ AI จะ “ฉลาดกว่า” เจ้านายของมนุษย์? และเราอาจยับยั้งจิตใจของเครื่องจักรในทางใดทางหนึ่งเพื่อให้แน่ใจว่าภัยพิบัติที่ไม่คาดฝันบางอย่างจะไม่เกิดขึ้น?
ในชุมชน AI มีตัวอย่างหนึ่งของความคิดสร้างสรรค์ AI ที่ดูเหมือนว่าจะได้รับการกล่าวถึงมากกว่าเรื่องอื่นๆ Mark Riedl จากสถาบันเทคโนโลยีจอร์เจียกล่าวว่าช่วงเวลาที่ทำให้ผู้คนตื่นเต้นจริงๆ เกี่ยวกับสิ่งที่ AI ทำได้ นั่นคือเมื่อ DeepMind แสดงให้เห็นว่าระบบการเรียนรู้ของเครื่องจักรได้เชี่ยวชาญเกม Go โบราณ แล้วเอาชนะหนึ่งในผู้เล่นที่ เก่งที่สุดในโลก มัน.
“มันจบลงด้วยการแสดงให้เห็นว่ามีกลยุทธ์หรือกลวิธีใหม่ๆ ในการตอบโต้ผู้เล่นที่ไม่เคยมีใครใช้มาก่อน – หรืออย่างน้อยก็มีคนจำนวนมากไม่รู้” Riedl อธิบาย
และถึงกระนั้น เกม Go ที่ไร้เดียงสาก็กระตุ้นความรู้สึกที่แตกต่างกันในหมู่ผู้คน ในอีกด้านหนึ่งDeepMind ได้อธิบายอย่างภาคภูมิใจถึงวิธีการที่ระบบของ AlphaGo สามารถ “สร้างสรรค์” และเปิดเผยแนวทางใหม่ ๆ ในเกมที่มนุษย์เล่นมานับพันปี ในทางกลับกัน บางคนตั้งคำถามว่าวันหนึ่ง AI ที่ประดิษฐ์ขึ้นอาจก่อให้เกิดความเสี่ยงร้ายแรงต่อมนุษย์หรือไม่
โจนาธาน แทปสันจากมหาวิทยาลัยเวสเทิร์นซิดนีย์เขียนหลังชัยชนะครั้งประวัติศาสตร์ของ AlphaGo ว่า “เป็นเรื่องน่าขันที่เราจะคาดเดาหรือจัดการพฤติกรรมที่เลวร้ายที่สุดของ AI ได้ เมื่อเราไม่สามารถจินตนาการถึงพฤติกรรมที่น่าจะเป็นของพวกมันได้”
สิ่งสำคัญที่ต้องจำไว้คือ Riedl กล่าวคือ AI ไม่ได้คิดเหมือนมนุษย์จริงๆ โครงข่ายประสาทของพวกเขาได้รับแรงบันดาลใจจากสมองของสัตว์อย่างหลวม ๆ แต่อาจอธิบายได้ดีกว่าว่าเป็น “อุปกรณ์สำรวจ” เมื่อพวกเขาพยายามแก้ไขงานหรือปัญหา พวกเขาไม่ได้นำอคติมากมายเกี่ยวกับโลกกว้างมาด้วย (ถ้ามี) พวกเขาแค่พยายาม – บางครั้งหลายล้านครั้ง – เพื่อหาทางแก้ไข
“มนุษย์เรานำสัมภาระติดตัวมามากมาย เราคิดถึงกฎเกณฑ์” Riedl กล่าว “ระบบ AI ไม่เข้าใจกฎเกณฑ์ด้วยซ้ำ ดังนั้นพวกมันจึงสุ่มดูสิ่งต่างๆ อย่างสุ่ม”
อัลกอริธึมหนึ่งค้นพบว่าสามารถกระโดดจากหน้าผาในเกมแล้วพาคู่ต่อสู้ไปสู่ความหายนะ
ด้วยวิธีนี้ AI สามารถอธิบายได้ว่าเป็นซิลิคอนที่เทียบเท่ากับผู้ที่มีอาการซาแวนต์ กล่าวเสริม Riedl โดยอ้างถึงสภาวะที่บุคคลมีความบกพร่องทางจิตอย่างรุนแรง แต่ยังมีทักษะพิเศษซึ่งมักเกี่ยวข้องกับความจำ
วิธีหนึ่งที่ AI สามารถทำให้เราประหลาดใจคือความสามารถในการจัดการกับปัญหาที่แตกต่างกันอย่างสิ้นเชิง แต่ใช้ระบบพื้นฐานเดียวกัน เมื่อเร็ว ๆ นี้ เครื่องมือการเรียนรู้ของเครื่องที่ออกแบบมาเพื่อสร้างย่อหน้าของข้อความทีละคำถูกขอให้ทำหน้าที่ที่แตกต่างกันมาก นั่นคือ เล่นเกมหมากรุก
ระบบที่เป็นปัญหาเรียกว่า GPT-2 และถูกสร้างขึ้นโดย OpenAI GPT-2 ได้รับการฝึกฝนจากบทความข่าวออนไลน์และหน้าเว็บหลายล้านรายการ สามารถคาดเดาคำถัดไปในประโยคตามคำก่อนหน้าได้ เนื่องจากการเคลื่อนไหวหมากรุกสามารถแสดงด้วยตัวอักษรและตัวเลข เช่น “Be5” เพื่อย้ายบิชอป นักพัฒนา Shawn Presser คิดว่าถ้าเขาฝึกอัลกอริทึมในการบันทึกการแข่งขันหมากรุกแทน เครื่องมือสามารถเรียนรู้วิธีเล่นเกมโดยหาสิ่งที่ต้องการ ลำดับของการเคลื่อนไหว
Presser ฝึกฝนระบบเกมหมากรุก 2.4 ล้านเกม “มันยอดเยี่ยมมากที่ได้เห็นกลไกของหมากรุกมีชีวิต” เขากล่าว “ฉันไม่แน่ใจว่ามันจะทำงานได้เลย” แต่มันก็ทำ มันไม่ดีเท่าคอมพิวเตอร์หมากรุกที่ออกแบบมาเป็นพิเศษ แต่สามารถเล่นแมตช์ยาก ๆ ได้สำเร็จ
Presser กล่าวว่าการทดลองของเขาแสดงให้เห็นว่าระบบ GPT-2 มีความสามารถที่ยังไม่ได้สำรวจมากมาย นักปราชญ์กับของขวัญสำหรับหมากรุก
ซอฟต์แวร์รุ่นหลังๆ นี้สร้างความประหลาดใจให้กับนักออกแบบเว็บไซต์เมื่อนักพัฒนาได้ฝึกฝนซอฟต์แวร์สั้นๆ ให้แยกโค้ดเพื่อแสดงรายการบนหน้าเว็บ เช่น ข้อความและปุ่ม AI ได้สร้างโค้ดที่เหมาะสมขึ้น แม้ว่าทั้งหมดจะต้องใช้คำอธิบายง่ายๆ เช่น “ข้อความสีแดงที่ระบุว่า ‘ฉันรักคุณ’ และปุ่มที่มีคำว่า ‘ตกลง’ อยู่” เห็นได้ชัดว่ามีพื้นฐานสำคัญของการออกแบบเว็บ แต่หลังจากการฝึกอบรมเพียงเล็กน้อยอย่างน่าประหลาดใจ
