ทำไมเราถึงวางใจในเครื่องจักรมากเกินไป

ในขณะที่หลายคนอาจอ้างว่าไม่เชื่อในเทคโนโลยีที่เป็นอิสระ แต่เราอาจมีความไว้วางใจที่ฝังแน่นในเครื่องจักรที่สืบย้อนไปถึงอดีตวิวัฒนาการของเรา

ขณะที่เครื่องบินแอร์ฟรานซ์ เที่ยวบิน 447 พุ่งลงสู่มหาสมุทรแอตแลนติกเป็นอันดับแรกด้วยความเร็วเกือบ 300 กม. ต่อชั่วโมง (186 ไมล์ต่อชั่วโมง) นักบินปิแอร์-เซดริก โบนินปล้ำกับส่วนควบคุมต่างๆ เขาและลูกเรือเข้ายึดครองหลังจากนักบินอัตโนมัติดับเองกะทันหัน เห็นได้ชัดว่าเกิดจากการสะสมของน้ำแข็งบนเครื่องบิน เป็นสถานการณ์ที่ต้องการการแทรกแซงด้วยตนเอง

นักบินที่ไม่คุ้นเคยกับสถานการณ์นี้พยายามที่จะทำให้เครื่องบินมั่นคง ข้อความและการเตือนที่สับสนจากคอมพิวเตอร์ของเครื่องบินได้ทิ้งระเบิดและแนะนำว่ายานไม่ได้หยุดนิ่งเมื่อในความเป็นจริง คำพูดสุดท้ายของ Bonin ที่บันทึกไว้ในเครื่องบันทึกการบินคือ “เรากำลังจะตก – มันไม่เป็นความจริง แต่เกิดอะไรขึ้น”

ผู้โดยสารและลูกเรือทั้งหมด 228 คนบนเครื่องเสียชีวิตในวันนั้น วันที่ 1 มิถุนายน 2552 เมื่อเกิดอุบัติเหตุเช่นนี้ ซึ่งเกี่ยวข้องกับมนุษย์และเครื่องจักร มักมีหลายปัจจัยหรือสาเหตุในการทำงาน แต่นักวิเคราะห์ได้ตำหนิโศกนาฏกรรมของเที่ยวบิน 447 ส่วนหนึ่งเนื่องจากการพึ่งพาหรือไว้วางใจในเครื่องจักรมากเกินไป พวกเขาชี้ไปที่ความคาดหวังของลูกเรือว่าระบบอัตโนมัติจะยังคงเปิดอยู่ และระบบข้อมูลของเครื่องบินจะให้ข้อมูลที่ถูกต้องแม่นยำ มันยังห่างไกลจากเหตุการณ์เดียวที่มีการพึ่งพาเทคโนโลยีมากเกินไปจนทำให้มีผู้เสียชีวิต

เป็นปรากฏการณ์ที่ได้รับการศึกษามาเป็นอย่างดีซึ่งรู้จักกันในชื่อAutomation biasซึ่งบางครั้งยังนำไปสู่ความพอใจในการทำงานของระบบอัตโนมัติซึ่งผู้คนจะสังเกตเห็นการทำงานผิดพลาดน้อยลงเมื่อคอมพิวเตอร์ใช้งานรายการ แต่สิ่งที่น่าแปลกใจก็คือแนวโน้มที่จะ “วางใจ” เครื่องจักรอาจได้รับอิทธิพลโดยตรงจากวิวัฒนาการนับล้านปี

Patricia Hardré แห่งมหาวิทยาลัยโอคลาโฮมาเขียนไว้ว่า “เทคโนโลยี overtrust เป็นข้อผิดพลาดของสัดส่วนที่ส่าย” เขียนในหนังสือว่าเหตุใดบางครั้งเราจึงเชื่อมั่นในเครื่องจักรมากเกินไป เธอให้เหตุผลว่าคนทั่วไปขาดความสามารถในการตัดสินว่าเทคโนโลยีเฉพาะนั้นเชื่อถือได้เพียงใด สิ่งนี้สามารถไปได้ทั้งสองทาง เราอาจยกเลิกความช่วยเหลือจากคอมพิวเตอร์ในสถานการณ์ที่อาจเป็นประโยชน์ต่อเรา – หรือวางใจในอุปกรณ์ดังกล่าวอย่างสุ่มสี่สุ่มห้า เพียงเพื่อให้คอมพิวเตอร์สิ้นสุดการทำร้ายเราหรือชีวิตของเรา

พฤติกรรมของลิงชิมแปนซีซึ่งเป็นญาติสนิทที่สุดคนหนึ่งของเรา อาจมีเบาะแสว่าเหตุใดเราจึงประเมินความน่าเชื่อถือของเครื่องจักรได้ไม่ดีนัก อาจเป็นเพราะว่าเราพร้อมที่จะประเมินสมาชิกคนอื่นในสายพันธุ์ของเราแทน

ในการทดลองเมื่อเร็วๆนี้ นักวิจัยได้จัดตั้งเครื่องมือที่ลิงชิมแปนซีที่สถานพักพิงในเคนยาสามารถดึงเชือกเพื่อรับรางวัลอาหารได้ เชือกหนึ่งเส้นให้รางวัลอาหารพื้นฐาน – กล้วยหนึ่งชิ้น แต่พวกเขายังได้รับทางเลือกที่สองอีกด้วย นั่นคือรางวัลที่ใหญ่กว่าคือกล้วยสองชิ้นและแอปเปิ้ลชิ้นหนึ่งที่สามารถย่อยได้ด้วยเครื่องหรือชิมแปนซีตัวเดียวกัน

บางครั้งมันเป็นเครื่องจักรที่ปลายเชือกอีกข้าง บางครั้งก็เป็นชิมแปนซีตัวอื่น แต่ไม่เคยทั้งคู่ อย่างไรก็ตาม บางครั้งเครื่องจักรก็ไม่ให้รางวัล และบางครั้งชิมแปนซีตัวอื่นก็เลือกที่จะไม่แบ่งปัน ดังนั้นในขณะที่มีโอกาสได้รับรางวัลที่ใหญ่กว่า การดึงเชือกเส้นที่สองเป็นทางเลือกที่ค่อนข้างแน่นอนน้อยกว่า

ผู้เข้าร่วมชิมแปนซีต้องเผชิญกับสภาพทางสังคมหรือไม่สังคม พวกเขาต้องเชื่อใจเครื่องจักรหรือชิมแปนซีตัวอื่นเพื่อมีโอกาสได้รับรางวัลอาหารมากขึ้น

ผลการศึกษาพบว่า เมื่อเพื่อนชิมแปนซีเป็นประธานในตัวเลือกที่ไม่แน่นอน ไพรเมตเหล่านั้นก็มีโอกาสน้อยที่จะไปหามัน พวกเขาปฏิเสธที่จะเข้าร่วมการทดลองทางสังคม 12% ของเวลา แต่พวกเขาแสดงความเกลียดชังนี้เพียง 4% ของเวลาในการทดลองที่ไม่ใช่ทางสังคมที่มีเครื่องเป็นประธานในการรับรางวัล กล่าวอีกนัยหนึ่ง พวกเขามีความไว้วางใจในเครื่องมากขึ้น

“พวกมันลังเลมากขึ้น… เมื่อคู่หูเป็นชิมแปนซีอีกตัวหนึ่ง” Lou Hauxจากสถาบัน Max Planck เพื่อการพัฒนามนุษย์ ผู้ออกแบบและดำเนินการทดลองกับเพื่อนร่วมงานของเธอกล่าว เป็นหนึ่งในงานวิจัยเพียงไม่กี่ชิ้นที่เปิดเผยว่าความเสี่ยงทางสังคมมีส่วนสำคัญต่อการที่ลิงชิมแปนซีและมนุษย์สามารถท่องโลกได้

ลองนึกภาพว่าคุณรู้สึกอย่างไรถ้าบาร์เทนเดอร์นำเงินสดของคุณไปจากนั้นก็ดื่มโคล่าของคุณต่อหน้าคุณ คุณคงจะเหงา

เรียกว่า “การทรยศหักหลัง” Haux พูดว่า: “ความกลัวที่จะถูกมนุษย์ [หรือลิงชิมแปนซี] หลอกล่อ ซึ่งคิดว่าจะทำให้เกิดอารมณ์ที่รุนแรงขึ้น” เธอเปรียบสิ่งนี้กับการใส่เงินลงในตู้ขายของอัตโนมัติเพียงเพราะไม่สามารถจ่ายน้ำอัดลมที่คุณขอได้ นั่นอาจทำให้ระคายเคืองได้ ไม่ต้องสงสัยเลย แต่ลองนึกดูว่าคุณจะรู้สึกอย่างไรถ้าบาร์เทนเดอร์รับเงินสดของคุณแล้วดื่มโคล่าต่อหน้าคุณ คุณคงจะเหงา แน่นอนว่าตู้ขายของอัตโนมัติไม่ได้ตัดสินใจหลอกคุณ แต่มันล้มเหลวในการจัดส่ง ในขณะที่บาร์เทนเดอร์ตัดสินใจดื่มเครื่องดื่มที่คุณสั่ง แม้จะรู้ว่านั่นจะทำให้คุณรู้สึกอย่างไร

อย่างไรก็ตาม ทีมวิจัยไม่ได้หยุดเพียงแค่นั้น พวกเขาทำการทดลองอีกครั้งเกี่ยวกับลิงชิมแปนซีที่เข้าใจแล้วว่าพวกมันมีโอกาสได้รับรางวัลอาหารที่ดีกว่าเมื่อเลือกตัวเลือกที่ไม่แน่นอน ต้องขอบคุณการเข้าร่วมในการทดลองครั้งแรก ความจริงแล้ว ตัวเลือกที่ไม่แน่นอนนั้นไม่แน่นอนอีกต่อไปแล้ว ตอนนี้ชิมแปนซีมีความรู้สึกว่าพวกเขากำลังเสี่ยงอยู่

และแล้วก็มีเซอร์ไพรส์เกิดขึ้น ลิงชิมแปนซีหยุดการเลือกปฏิบัติระหว่างทางเลือกทางสังคมและไม่ใช่ทางสังคม ดูเหมือนว่าพวกเขาจะไม่เชื่อเครื่องจักรมากกว่าลิงชิมแปนซีเพื่อนอีกต่อไป

“นั่นเป็นเหตุผลที่เราคิดว่าเป็นการค้นพบที่น่าตื่นเต้น ที่พวกเขาแยกแยะระหว่างโลกสังคมและโลกที่ไม่ใช่สังคมในกรณีที่ยังมีความไม่แน่นอนอยู่มากมาย” Haux กล่าว

Darby Proctor นักจิตวิทยาแห่ง Florida Institute of Technology กล่าวว่ามันสมเหตุสมผลเมื่อคุณนึกถึงความสำคัญของไพรเมตในการเจรจาสภาพแวดล้อมทางสังคมของพวกมัน

“ด้วยเครื่องจักร ไม่มีนัยยะใดๆ ในอนาคต” เธออธิบาย “คุณไม่มีค่าใช้จ่ายทางสังคมเพิ่มเติมที่อาจเกิดขึ้น” ท้ายที่สุด ชิมแปนซีในการทดลองเหล่านี้มักจะต้องไปและใช้เวลากับเพื่อนผู้เข้าร่วมของพวกเขาเมื่อการทดลองสิ้นสุดลง ความไม่พอใจใด ๆ ที่เกิดจากการมีส่วนร่วมอาจส่งผลต่อความสัมพันธ์ของพวกเขาต่อไป

พรอคเตอร์และเพื่อนร่วมงานเคยทำการทดสอบที่คล้ายกันและยังพบว่าชิมแปนซีมีแนวโน้มที่จะเชื่อถือวัตถุในการค้นหารางวัลอาหารเมื่อเทียบกับชิมแปนซีอื่นๆ พรอคเตอร์กล่าวว่าเมื่อลิงชิมแปนซีตัวใดตัวหนึ่งถูกลิงชิมแปนซีล้มลง โดยไม่ได้ให้รางวัลอาหารอันโอชะ ชิมแปนซีตัวนั้นก็ระบายความรู้สึกออกมาด้วยการถุยน้ำลายใส่คู่ชีวิต “การแสดงความทุกข์ทั่วไป” พรอคเตอร์กล่าว

พรอคเตอร์ตั้งคำถามว่าชิมแปนซีในการทดลองเหล่านี้เชื่อใจเครื่องจักรมากกว่าจริงหรือไม่ นอกจากนี้ยังสามารถอธิบายได้ว่าเป็นบุคคลที่มีปฏิกิริยาเงียบมากขึ้นต่อข้อตกลงที่ไม่ดีเมื่อไม่มีหุ้นส่วนทางสังคม

“ไม่ใช่ว่าเรามีความมั่นใจว่าเครื่องจะให้ผลตอบแทนที่ดี อาจเป็นเพราะเราไม่เห็นว่ามันเป็นจุดเด่นทางอารมณ์ ดังนั้นเราอาจแค่ชอบเสี่ยงโชคหรือเสี่ยงกับวัตถุที่ไม่มีชีวิตนี้” เธอกล่าว สมมติฐาน

แต่อย่างใด วิวัฒนาการดูเหมือนจะมีอิทธิพลต่อความเต็มใจของไพรเมตที่จะมีส่วนร่วมกับความไม่แน่นอน โดยพิจารณาจากว่าเรารู้สึกว่าเรากำลังรับความเสี่ยงทางสังคมหรือไม่

วิวัฒนาการไม่ได้เตรียมเราให้พร้อมสำหรับข้อเท็จจริงที่ว่ามันค่อนข้างแพงที่จะถูกเครื่องจักรหักหลังFrancesca de Petrilloจากสถาบันเพื่อการศึกษาขั้นสูงในตูลูสซึ่งศึกษาเกี่ยวกับไพรเมตให้เหตุผล เป็นเวลาหลายล้านปีที่ไม่จำเป็นต้องพัฒนาความสามารถในการประเมินเครื่องจักรอย่างรอบคอบเหมือนกับที่เราประเมินสมาชิกของสายพันธุ์เดียวกัน แต่ทุกวันนี้ เมื่อเทคโนโลยีสามารถมีผลกระทบอย่างใหญ่หลวงต่อชีวิตของผู้คน ก็น่าจะเป็นเช่นนั้น

การสำรวจหลายฉบับชี้ให้เห็นว่าผู้คนมักไม่สบายใจกับแนวคิดเรื่องรถยนต์ที่ขับด้วยตนเองหรือมอบหน้าที่งานให้กับเครื่องจักร

มีปัจจัยอื่น ๆ ที่เกี่ยวข้องที่นี่ นอกเหนือจากวิวัฒนาการแล้ว ความเต็มใจที่จะไว้วางใจเทคโนโลยียังได้รับอิทธิพลจากความรู้ส่วนตัวเกี่ยวกับเครื่องจักรหรืออุปกรณ์ และความคาดหวังทางวัฒนธรรม ผลการศึกษาในปี 2019 พบว่าโดยเฉลี่ยแล้ว ผู้คนมีแนวโน้มที่จะเปิดเผยรายละเอียดบัตรเครดิตของพวกเขามากขึ้นถึง 29% ในระหว่างการแชทด้วยข้อความ หากพวกเขาคิดว่าพวกเขากำลังพูดกับคอมพิวเตอร์กับมนุษย์อีกคนหนึ่ง นักวิจัยพบว่าผลกระทบนี้เด่นชัดยิ่งขึ้นในหมู่ผู้ที่มีความคาดหวังที่มีอยู่ก่อนว่าเครื่องจักรมีความปลอดภัยหรือเชื่อถือได้มากกว่ามนุษย์

อีกครั้งที่บางครั้งผู้คนรายงานความเกลียดชังอย่างมากต่อเทคโนโลยีที่ไว้วางใจ การสำรวจจำนวนมากได้ชี้ให้เห็นว่าผู้คนมักไม่สบายใจกับแนวคิดเรื่องรถยนต์ที่ขับด้วยตนเองหรือมอบหน้าที่งานให้กับเครื่องจักร มีเหตุผลมากมายว่าทำไมความสงสัยเกี่ยวกับเทคโนโลยีใหม่จึงเกิดขึ้นได้ ผู้คนอาจกลัวที่จะสูญเสียตัวตนบางส่วนไปหากหุ่นยนต์เข้ายึดครอง หรือพวกเขาอาจแค่รู้สึกสงสัยว่าคอมพิวเตอร์จะทำงานบางอย่างด้วยความระมัดระวังและความคล่องแคล่วที่จำเป็น เมื่อคุณได้เห็นวิดีโอหลายร้อยชิ้นของหุ่นยนต์ล้มลงหรือพบว่าคอมพิวเตอร์ดื้อด้านไม่ยอมทำงานอย่างถูกต้อง ก็ไม่น่าแปลกใจเสมอไป

หน้าแรก