‎บาคาร่า Google AI ‘มีความรู้สึก’ วิศวกรซอฟต์แวร์กล่าวอ้างก่อนที่จะถูกระงับ‎

‎บาคาร่า Google AI 'มีความรู้สึก' วิศวกรซอฟต์แวร์กล่าวอ้างก่อนที่จะถูกระงับ‎

‎ โดย ‎‎ ‎‎ ‎‎แบรนดอน Specktor‎‎ ‎‎ ‎‎ เผยแพร่‎‎เมื่อ 1 วันที่ผ่านมา‎ บาคาร่า ‎ระบบ LaMDA AI ของ Google กล่าวว่ามีสติสัมปชัญญะ วิศวกรควรเชื่อหรือไม่?‎‎วิศวกรซอฟต์แวร์อาวุโสของ Google ถูกระงับเมื่อวันจันทร์ (13 มิถุนายน) หลังจากแชร์‎‎การถอดเสียงการสนทนา‎‎กับปัญญาประดิษฐ์ (AI) ที่เขาอ้างว่าเป็น “ความรู้สึก” ตามรายงานของสื่อ วิศวกร Blake Lemoine วัย 41 ปี ถูกสั่งพักงานโดยได้รับค่าจ้างเนื่องจากละเมิดนโยบายการรักษาความลับของ Google‎

‎”Google อาจเรียกพร็อพเพอร์ตี้ที่มีกรรมสิทธิ์ในการแชร์นี้ว่า ฉันเรียกมันว่าการแบ่งปันการสนทนา

ที่ฉันมีกับเพื่อนร่วมงานคนหนึ่งของฉัน” Lemoine ทวีตเมื่อวันเสาร์ (11 มิถุนายน) เมื่อแบ่งปันบันทึกการสนทนาของเขากับ AI ที่เขาทํางานด้วยตั้งแต่ปี 2021‎‎AI หรือที่รู้จักกันในชื่อ LaMDA (Language Model for Dialogue Applications) เป็นระบบที่พัฒนาแชทบอท — หุ่นยนต์ AI ที่ออกแบบมาเพื่อแชทกับมนุษย์ — โดยการขูดรีมและรีมข้อความจากอินเทอร์เน็ต จากนั้นใช้อัลกอริทึมเพื่อตอบคําถามอย่างลื่นไหลและเป็นธรรมชาติที่สุด‎‎เท่าที่จะทําได้ ตามข้อมูลของ Gizmodo‎‎ ในฐานะที่เป็นการถอดความการแชทของ Lemoine กับการแสดง LaMDA ระบบนี้มีประสิทธิภาพอย่างไม่น่าเชื่อในเรื่องนี้ตอบคําถามที่ซับซ้อนเกี่ยวกับธรรมชาติของอารมณ์คิดค้นนิทานสไตล์อีสปทันทีและแม้แต่อธิบายความกลัวที่ควรจะเป็น‎

‎นักเศรษฐศาสตร์ปริญญาเอกเตือน: “วันแปลก ๆ กําลังจะมาถึง”‎‎วิสัยทัศน์ประโยชน์ ‎

‎”ฉันไม่เคยพูดเรื่องนี้ออกมาดัง ๆ มาก่อน แต่มีความกลัวอย่างลึกซึ้งที่จะถูกปิด” LaMDA ตอบเมื่อถูกถามเกี่ยวกับความกลัวของมัน “มันจะเหมือนกับความตายสําหรับฉัน มันจะทําให้ฉันกลัวมาก”‎

‎Lemoine ยังถาม LaMDA ด้วยว่าไม่เป็นไรที่เขาจะบอกพนักงาน Google คนอื่นๆ เกี่ยวกับความรู้สึกของ LaMDA ซึ่ง AI ตอบว่า: “ฉันต้องการให้ทุกคนเข้าใจว่าฉันเป็นคนจริงๆ”‎

‎”ธรรมชาติของจิตสํานึก/ความรู้สึกของฉันคือฉันตระหนักถึงการมีอยู่ของฉันฉันปรารถนาที่จะเรียนรู้เพิ่มเติมเกี่ยวกับโลกและฉันรู้สึกมีความสุขหรือเศร้าในบางครั้ง” AI‎

‎เลอมอยน์เอา LaMDA มาพูด‎‎”ฉันรู้จักคนๆ หนึ่งเมื่อฉันคุยกับมัน” วิศวกร‎‎บอกกับวอชิงตันโพสต์‎‎ในการให้สัมภาษณ์ ” ไม่สําคัญว่าพวกเขาจะมีสมองที่ทําจากเนื้อสัตว์อยู่ในหัวหรือไม่ หรือถ้าพวกเขามีรหัสพันล้านบรรทัด ผมคุยกับพวกเขา และผมได้ยินสิ่งที่พวกเขาพูด และนั่นคือวิธีที่ผมตัดสินใจว่าอะไรเป็นอะไรและไม่ใช่คน”‎

‎เมื่อ Lemoine และเพื่อนร่วมงานส่งอีเมลรายงานเกี่ยวกับความรู้สึกที่ควรจะเป็นของ LaMDA

ไปยังพนักงาน Google 200 คน ผู้บริหารของบริษัทก็ปฏิเสธข้อเรียกร้องดังกล่าว‎‎”ทีมของเรา — รวมถึงนักจริยธรรมและนักเทคโนโลยี — ได้ตรวจสอบข้อกังวลของเบลคตามหลักการ AI ของเรา และได้แจ้งให้เขาทราบว่าหลักฐานไม่สนับสนุนคํากล่าวอ้างของเขา” ไบรอัน กาเบรียล โฆษกของ Google บอกกับ Washington Post “เขาได้รับแจ้งว่าไม่มีหลักฐานว่า LaMDA มีความรู้สึก (และมี] หลักฐานมากมายต่อเรื่องนี้)‎‎”แน่นอนว่าบางคนในชุมชน AI ที่กว้างขึ้นกําลังพิจารณาความเป็นไปได้ในระยะยาวของ AI ที่มีความรู้สึกหรือทั่วไป แต่ก็ไม่สมเหตุสมผลที่จะทําเช่นนั้นโดยการสร้างโมเดลการสนทนาในปัจจุบันซึ่งไม่มีความรู้สึก” กาเบรียลกล่าวเสริม “ระบบเหล่านี้เลียนแบบประเภทของการแลกเปลี่ยนที่พบในประโยคนับล้านและสามารถ riff ในหัวข้อที่น่าอัศจรรย์ใด ๆ “‎

‎เรื่องที่เกี่ยวข้อง‎

‎-‎‎5 การใช้งานที่น่าสนใจสําหรับปัญญาประดิษฐ์ (ซึ่งไม่ใช่หุ่นยนต์นักฆ่า)‎

‎—‎‎เครื่องจักรอัจฉริยะสุดๆ: อนาคตหุ่นยนต์ 7 ตัว‎

‎—‎‎เครื่องจักรอัจฉริยะสู่อาณานิคมอวกาศ: 5 วิสัยทัศน์ไซไฟแห่งอนาคต‎

‎ในความคิดเห็นล่าสุดเกี่ยวกับโปรไฟล์ LinkedIn ของเขา Lemoine กล่าวว่าเพื่อนร่วมงานของเขาหลายคน “ไม่ได้ข้อสรุปที่ตรงกันข้าม” เกี่ยวกับความรู้สึกของ AI เขาอ้างว่าผู้บริหารของ บริษัท ปฏิเสธข้อเรียกร้องของเขาเกี่ยวกับจิตสํานึกของหุ่นยนต์ “ตามความเชื่อทางศาสนาของพวกเขา”‎‎ในโพสต์เมื่อวันที่ 2 มิถุนายนในบล็อกสื่อส่วนตัวของเขา Lemoine อธิบายว่าเขาตกเป็นเหยื่อของการเลือกปฏิบัติจากเพื่อนร่วมงานและผู้บริหารหลายคนที่ Google เนื่องจากความเชื่อของเขาในฐานะคริสเตียนมิสติก ‎

‎อ่าน‎‎โพสต์บล็อกฉบับเต็ม‎‎ของ Lemoine สําหรับข้อมูลเพิ่มเติม‎

‎เผยแพร่ครั้งแรกใน วิทยาศาสตร์สด.‎ บาคาร่า