
เราสร้างสายสัมพันธ์ทางอารมณ์ที่แน่นแฟ้นกับเครื่องจักรที่ผู้คนไม่สามารถโหดร้ายกับพวกเขาได้แม้ว่าพวกเขาจะรู้ว่าพวกเขาไม่ได้มีชีวิตอยู่ก็ตาม หุ่นยนต์ควรมีสิทธิหรือไม่?
Kate Darling ชอบขอให้คุณทำสิ่งเลวร้ายกับหุ่นยนต์น่ารัก ในการประชุมเชิงปฏิบัติการที่เธอจัดขึ้นในปีนี้ Darling ขอให้ผู้คนเล่นกับหุ่นยนต์ Pleo ซึ่งเป็นไดโนเสาร์ของเล่นเด็ก Pleo สีเขียวอ่อนมีดวงตาที่ไว้ใจได้และการเคลื่อนไหวที่น่ารัก เมื่อคุณนำกล่องหนึ่งออกจากกล่อง มันจะทำหน้าที่เหมือนลูกสุนัขแรกเกิดที่ทำอะไรไม่ถูก มันเดินไม่ได้และคุณต้องสอนเรื่องนี้ให้โลกรู้
แต่หลังจากผ่านไปหนึ่งชั่วโมงให้ผู้คนได้จี้และกอดไดโนเสาร์ที่น่ารักเหล่านี้ ดาร์ลิ่งก็กลายเป็นเพชฌฆาต เธอให้มีด ขวาน และอาวุธอื่นๆ แก่ผู้เข้าร่วม และสั่งให้ทรมานและแยกชิ้นส่วนของเล่นของพวกเขา สิ่งที่เกิดขึ้นต่อไป “น่าทึ่งกว่าที่เราคาดไว้มาก” เธอกล่าว
สำหรับดาร์ลิ่ง นักวิจัยจากสถาบันเทคโนโลยีแมสซาชูเซตส์ ปฏิกิริยาของเราต่อการทารุณกรรมของหุ่นยนต์มีความสำคัญ เนื่องจากเครื่องจักรคลื่นลูกใหม่บังคับให้เราพิจารณาความสัมพันธ์ของเรากับพวกมันอีกครั้ง เมื่อ Darling บรรยายการทดลอง Pleo ของเธอในการพูดคุยในบอสตันในเดือนนี้เธอได้ทำกรณีที่การกระทำทารุณกรรมหุ่นยนต์บางประเภทในไม่ช้าจะกลายเป็นสิ่งที่ยอมรับไม่ได้ในสายตาของสังคม เธอยังเชื่อว่าเราอาจต้องการชุด “สิทธิ์ของหุ่นยนต์” ถ้าเป็นเช่นนั้น จะทรมานหรือสังหารหุ่นยนต์ในกรณีใดบ้าง และต้องทำอะไรถึงทำให้คุณคิดซ้ำสองก่อนที่จะโหดร้ายกับเครื่องจักร?
จนกระทั่งเมื่อไม่นานมานี้ แนวคิดเรื่องสิทธิของหุ่นยนต์ได้ถูกทิ้งให้อยู่ในขอบเขตของนิยายวิทยาศาสตร์ อาจเป็นเพราะเครื่องจักรจริงที่อยู่รอบตัวเรานั้นค่อนข้างไม่ซับซ้อน ไม่มีใครรู้สึกแย่กับการทิ้งเครื่องปิ้งขนมปังหรือรถของเล่นควบคุมระยะไกล ทว่าการมาถึงของโซเชียลโรบ็อตเปลี่ยนแปลงสิ่งนั้น พวกมันแสดงพฤติกรรมที่เป็นอิสระ แสดงเจตจำนง และรวบรวมรูปแบบที่คุ้นเคย เช่น สัตว์เลี้ยงหรือมนุษย์ ดาร์ลิ่งกล่าว กล่าวอีกนัยหนึ่งพวกเขาทำราวกับว่าพวกเขายังมีชีวิตอยู่ มันกระตุ้นอารมณ์ของเรา และบ่อยครั้งเราก็ช่วยไม่ได้
ตัวอย่างเช่น ในการทดลองเล็กๆ ที่จัดขึ้นสำหรับรายการวิทยุ Radiolab ในปี 2011 Freedom Baird จาก MIT ขอให้เด็กๆ ถือ ตุ๊กตาบาร์บี้ หนูแฮมสเตอร์ และหุ่นยนต์ Furbyคว่ำตราบเท่าที่พวกเขารู้สึกสบายใจ ขณะที่เด็กๆ อุ้มตุ๊กตากลับหัวจนแขนเริ่มอ่อนแรง ไม่นานพวกเขาก็หยุดทรมานหนูแฮมสเตอร์ที่บิดตัวไปมา และหลังจากนั้นไม่นาน เฟอร์บี้ก็เช่นกัน พวกเขาโตพอที่จะรู้ว่าเฟอร์บี้เป็นของเล่น แต่ทนไม่ได้กับวิธีที่มันถูกตั้งโปรแกรมให้ร้องไห้และพูดว่า “ฉันกลัว”
ไม่ใช่แค่เด็กๆ เท่านั้นที่สร้างสายสัมพันธ์อันน่าประหลาดใจกับมัดสายไฟและวงจรเหล่านี้ บางคนตั้งชื่อเครื่องดูดฝุ่น Roomba ของพวกเขา Darling กล่าว และทหารให้เกียรติหุ่นยนต์ของพวกเขาด้วย “เหรียญ” หรือจัดงานศพให้พวกเขา เธอกล่าวถึงตัวอย่างที่โดดเด่นอย่างหนึ่งของหุ่นยนต์ทหารที่ได้รับการออกแบบมาเพื่อกลบเกลื่อนกับทุ่นระเบิดโดยการเหยียบลงบนพวกมัน ในการทดสอบ การระเบิดได้ฉีกขาของหุ่นยนต์เกือบทั้งหมด แต่เครื่องจักรที่พิการก็ยังคงเดินกะเผลกต่อไป เมื่อดูการต่อสู้ของหุ่นยนต์ พันเอกที่รับผิดชอบจึงยกเลิกการทดสอบเพราะเป็น “ไร้มนุษยธรรม” ตามรายงานของ Washington Post
สัญชาตญาณนักฆ่า
นักวิจัยบางคนกำลังรวมความคิดที่ว่าถ้าหุ่นยนต์ดูเหมือนยังมีชีวิตอยู่ ด้วยความคิดของตัวเอง ตัวชี้นำที่จำลองได้น้อยที่สุดบังคับให้เรารู้สึกเห็นอกเห็นใจกับเครื่องจักร แม้ว่าเราจะรู้ว่ามันเป็นของเทียม
เมื่อต้นปีนี้ นักวิจัยจากมหาวิทยาลัย Duisburg-Essen ในเยอรมนีได้ใช้เครื่องสแกน fMRI และอุปกรณ์ที่วัดค่าการนำไฟฟ้าของผิวหนังเพื่อติดตามปฏิกิริยาของผู้คนต่อวิดีโอของใครบางคนที่ทรมานไดโนเสาร์ Pleo – สำลักมัน ใส่ไว้ในถุงพลาสติกหรือกระแทกมัน . การตอบสนองทางสรีรวิทยาและอารมณ์ที่วัดได้นั้นแข็งแกร่งกว่าที่คาดไว้มาก แม้จะรู้ว่าพวกเขากำลังดูหุ่นยนต์อยู่
ดาร์ลิ่งค้นพบสิ่งเดียวกันนี้เมื่อเธอขอให้ผู้คนทรมานไดโนเสาร์ Pleo ที่การประชุมลิฟต์ในกรุงเจนีวาในเดือนกุมภาพันธ์ การประชุมเชิงปฏิบัติการผลัดกันอึดอัดมากกว่าที่คาดไว้
หลังจากหนึ่งชั่วโมงของการเล่น ผู้คนปฏิเสธที่จะทำร้าย Pleo ของพวกเขาด้วยอาวุธที่พวกเขาได้รับ ดังนั้นดาร์ลิ่งจึงเริ่มเล่นเกมฝึกสมอง โดยบอกพวกเขาว่าพวกเขาสามารถช่วยไดโนเสาร์ของตัวเองได้ด้วยการฆ่าคนอื่น ถึงอย่างนั้นพวกเขาก็จะไม่ทำ
ในที่สุด เธอบอกกับกลุ่มว่าถ้าไม่มีใครก้าวไปข้างหน้าและฆ่า Pleo เพียงตัวเดียว หุ่นยนต์ทั้งหมดจะถูกสังหาร หลังจากบิดมืออยู่นาน ชายผู้ลังเลคนหนึ่งก็ก้าวไปข้างหน้าด้วยขวานของเขา และเป่าของเล่นให้
หลังจากการกระทำที่โหดร้ายนี้ ห้องก็เงียบไปครู่หนึ่ง ดาร์ลิ่งเล่า ปฏิกิริยาทางอารมณ์ที่รุนแรงของผู้คนดูเหมือนจะทำให้พวกเขาประหลาดใจ
เมื่อพิจารณาถึงความเป็นไปได้ของปฏิกิริยาทางอารมณ์ที่รุนแรง เมื่อไม่กี่ปีก่อนนักหุ่นยนต์ในยุโรปแย้งว่าเราต้องการกฎทางจริยธรรมชุดใหม่สำหรับการสร้างหุ่นยนต์ แนวคิดคือการปรับ ” กฎของหุ่นยนต์ ” ที่มีชื่อเสียงของผู้เขียน Isaac Asimov ให้เข้ากับยุคใหม่ หนึ่งในกฎห้าข้อของพวกเขาคือ หุ่นยนต์ “ไม่ควรได้รับการออกแบบในทางที่หลอกลวง… ลักษณะเครื่องจักรของพวกมันจะต้องโปร่งใส” กล่าวอีกนัยหนึ่ง จำเป็นต้องมีวิธีที่จะทำลายภาพลวงตาของอารมณ์และเจตนา และดูว่าหุ่นยนต์คืออะไร: สายไฟ แอคทูเอเตอร์ และซอฟต์แวร์
อย่างไรก็ตาม ดาร์ลิ่งเชื่อว่าเราสามารถไปได้ไกลกว่าหลักเกณฑ์ทางจริยธรรมบางประการ เราอาจจำเป็นต้องปกป้อง “สิทธิ์ของหุ่นยนต์” ในระบบกฎหมายของเรา เธอกล่าว
หากฟังดูไร้สาระ Darling ชี้ให้เห็นว่ามีแบบอย่างจากกฎหมายทารุณสัตว์ ทำไมเราถึงได้รับการคุ้มครองทางกฎหมายสำหรับสัตว์อย่างแท้จริง? มันเป็นเพียงเพราะพวกเขาสามารถทนทุกข์ทรมาน? ถ้าเป็นเช่นนั้นจริง ดาร์ลิ่งตั้งคำถามว่าทำไมเราถึงมีกฎหมายที่เข้มงวดในการปกป้องสัตว์บางชนิด แต่ไม่ใช่สัตว์อื่นๆ หลายคนมีความสุขที่ได้กินสัตว์ที่อยู่ในสภาพย่ำแย่ในฟาร์มอุตสาหกรรมหรือเพื่อขยี้แมลงใต้ฝ่าเท้า แต่ก็ต้องตกตะลึงกับการกระทำทารุณต่อแมวของเพื่อนบ้านที่อยู่ติดกัน หรือเห็นปลาวาฬที่เก็บเกี่ยวเป็นเนื้อ
ดาร์ลิ่งกล่าวว่า เหตุผลอาจเป็นเพราะเราสร้างกฎหมายขึ้นเมื่อเราตระหนักว่าความทุกข์ทรมานนั้นคล้ายคลึงกับของเราเอง บางทีเหตุผลหลักที่เราสร้างกฎหมายเหล่านี้ขึ้นมาหลายๆ ฉบับอาจเป็นเพราะเราไม่ชอบเห็นการกระทำที่โหดร้าย มันไม่เกี่ยวกับประสบการณ์ของสัตว์และความเจ็บปวดทางอารมณ์ของเราเอง ดังนั้น แม้ว่าหุ่นยนต์จะเป็นเครื่องจักร แต่ดาร์ลิ่งให้เหตุผลว่าอาจมีบางประเด็นที่เกินกว่าที่การแสดงความทารุณโหดร้าย แทนที่จะเป็นผลที่ตามมา เป็นเรื่องที่อึดอัดเกินกว่าจะทนได้
รู้สึกถึงความเจ็บปวดของคุณ
แท้จริงแล้ว การทำร้ายเหยื่อไม่ใช่เหตุผลเดียวที่เราตัดสินใจควบคุมเทคโนโลยีเสมอไป พิจารณาอุปกรณ์ประเภทอื่นโดยสิ้นเชิง: เมื่อไม่กี่สัปดาห์ก่อน British Medical Association แย้งว่าการสูบบุหรี่อิเล็กทรอนิกส์ควรถูกห้ามในที่สาธารณะในร่มของสหราชอาณาจักร ไม่สำคัญว่าผู้สูบบุหรี่หรือผู้ที่อยู่ใกล้เคียงจะไม่มีความเสี่ยงต่อสุขภาพ กทม.โต้เถียง ทำให้การสูบบุหรี่ในที่สาธารณะเป็นปกติอีกครั้ง
ยกตัวอย่างอื่น ถ้าพ่อทรมานหุ่นยนต์ต่อหน้าลูกชายวัย 4 ขวบ จะยอมไหม? ไม่สามารถคาดหวังให้เด็กมีความเข้าใจที่ซับซ้อนของผู้ใหญ่ได้ การทรมานหุ่นยนต์สอนพวกเขาว่าการกระทำที่ก่อให้เกิดความทุกข์ – จำลองหรือไม่ – เป็นเรื่องปกติในบางสถานการณ์
หรือทำให้สุดโต่ง: ลองนึกภาพว่าถ้ามีใครเอาหุ่นยนต์เด็กตัวหนึ่งที่สร้างขึ้นในห้องทดลองแล้วขายให้กับเฒ่าหัวงูที่วางแผนจะใช้ชีวิตตามความปรารถนาที่มืดมนที่สุดของพวกเขา สังคมควรปล่อยให้สิ่งนี้เกิดขึ้นหรือไม่?
คำถามดังกล่าวเกี่ยวกับความชั่วร้ายที่ไม่มีเหยื่อปรากฏอยู่ในโลกเสมือนจริง เมื่อต้นปีนี้ชาวนิวยอร์กอธิบายถึงปัญหาทางศีลธรรมที่เกิดขึ้นเมื่อฟอรัมออนไลน์ที่พูดคุยเกี่ยวกับ Grand Theft Auto ถามผู้เล่นว่าการข่มขืนเป็นที่ยอมรับภายในเกมหรือไม่ คนหนึ่งตอบว่า “ผมอยากมีโอกาสลักพาตัวผู้หญิงคนหนึ่ง จับเธอเป็นตัวประกัน ขังเธอไว้ในห้องใต้ดินและข่มขืนเธอทุกวัน ฟังเธอร้องไห้ ดูน้ำตาของเธอ” หากความปรารถนาอันไม่พึงประสงค์ดังกล่าวสามารถดำรงอยู่ได้จริงกับหุ่นจำลองที่จำลองเหยื่อ อาจทำให้ยากขึ้นที่จะอดทนได้
ที่ใดที่หนึ่งก็มีความเป็นไปได้ที่จะเกิดการบิดเบี้ยวที่น่ารังเกียจ: เครื่องจักรนั้นสามารถประสบกับความทุกข์ทรมานได้จริงๆ – ไม่เหมือนของเรา นักวิจัยบางคนได้เริ่มทำให้หุ่นยนต์ “รู้สึก” เจ็บปวดเพื่อสำรวจโลก. บางคนกังวลว่าในที่สุดเมื่อเครื่องจักรได้รับความรู้สึกพื้นฐานเกี่ยวกับการดำรงอยู่ของตนเอง ผลที่ตามมาจะไม่เป็นที่พอใจ ด้วยเหตุนี้ Thomas Metzinger นักปรัชญาจึงให้เหตุผลว่าเราควรเลิกพยายามสร้างหุ่นยนต์อัจฉริยะได้แล้ว Metzinger กล่าวว่าเครื่องจักรที่มีสติสัมปชัญญะเครื่องแรกจะเหมือนกับทารกที่พิการและสับสน ซึ่งแน่นอนว่าไม่ใช่ AI ที่ซับซ้อนและเป็นอันตรายของนิยายวิทยาศาสตร์ ดังนั้นการปฏิบัติต่อพวกเขาเหมือนเครื่องจักรทั่วไปจะโหดร้าย หากหุ่นยนต์มีจิตสำนึกพื้นฐาน มันก็ไม่สำคัญว่าจะถูกจำลองหรือไม่ เขากล่าว เชื่อว่ามีชีวิตอยู่สามารถประสบกับความทุกข์ได้ เมทซิงเงอร์กล่าวไว้ว่า “เราควรละเว้นจากการทำอะไรเพื่อเพิ่มจำนวนความทุกข์ทรมานในจักรวาล”
สิ่งที่ชัดเจนคือมี “ความมีชีวิต” ที่หลากหลายในหุ่นยนต์ ตั้งแต่การจำลองพฤติกรรมสัตว์น่ารักขั้นพื้นฐาน ไปจนถึงหุ่นยนต์ในอนาคตที่รับรู้ถึงความทุกข์ทรมาน แต่ตามที่การทดลองไดโนเสาร์ Pleo ของดาร์ลิ่งแนะนำ ก็ไม่ต้องทำอะไรมากในการกระตุ้นให้เกิดการตอบสนองทางอารมณ์ในตัวเรา คำถามคือเราสามารถ – หรือควร – กำหนดเส้นที่เกินกว่าที่ความโหดร้ายของเครื่องจักรเหล่านี้ไม่สามารถยอมรับได้ แนวไหนสำหรับคุณ? ถ้าหุ่นยนต์ร้องด้วยความเจ็บปวดหรือขอความเมตตา? ถ้าเชื่อว่าเจ็บ? ถ้ามันเลือดออก?