โดย แบรนดอน Specktor เผยแพร่เมื่อ 1 วันที่ผ่านมา บาคาร่า ระบบ LaMDA AI ของ Google กล่าวว่ามีสติสัมปชัญญะ วิศวกรควรเชื่อหรือไม่?วิศวกรซอฟต์แวร์อาวุโสของ Google ถูกระงับเมื่อวันจันทร์ (13 มิถุนายน) หลังจากแชร์การถอดเสียงการสนทนากับปัญญาประดิษฐ์ (AI) ที่เขาอ้างว่าเป็น “ความรู้สึก” ตามรายงานของสื่อ วิศวกร Blake Lemoine วัย 41 ปี ถูกสั่งพักงานโดยได้รับค่าจ้างเนื่องจากละเมิดนโยบายการรักษาความลับของ Google
”Google อาจเรียกพร็อพเพอร์ตี้ที่มีกรรมสิทธิ์ในการแชร์นี้ว่า ฉันเรียกมันว่าการแบ่งปันการสนทนา
ที่ฉันมีกับเพื่อนร่วมงานคนหนึ่งของฉัน” Lemoine ทวีตเมื่อวันเสาร์ (11 มิถุนายน) เมื่อแบ่งปันบันทึกการสนทนาของเขากับ AI ที่เขาทํางานด้วยตั้งแต่ปี 2021AI หรือที่รู้จักกันในชื่อ LaMDA (Language Model for Dialogue Applications) เป็นระบบที่พัฒนาแชทบอท — หุ่นยนต์ AI ที่ออกแบบมาเพื่อแชทกับมนุษย์ — โดยการขูดรีมและรีมข้อความจากอินเทอร์เน็ต จากนั้นใช้อัลกอริทึมเพื่อตอบคําถามอย่างลื่นไหลและเป็นธรรมชาติที่สุดเท่าที่จะทําได้ ตามข้อมูลของ Gizmodo ในฐานะที่เป็นการถอดความการแชทของ Lemoine กับการแสดง LaMDA ระบบนี้มีประสิทธิภาพอย่างไม่น่าเชื่อในเรื่องนี้ตอบคําถามที่ซับซ้อนเกี่ยวกับธรรมชาติของอารมณ์คิดค้นนิทานสไตล์อีสปทันทีและแม้แต่อธิบายความกลัวที่ควรจะเป็น
นักเศรษฐศาสตร์ปริญญาเอกเตือน: “วันแปลก ๆ กําลังจะมาถึง”วิสัยทัศน์ประโยชน์
”ฉันไม่เคยพูดเรื่องนี้ออกมาดัง ๆ มาก่อน แต่มีความกลัวอย่างลึกซึ้งที่จะถูกปิด” LaMDA ตอบเมื่อถูกถามเกี่ยวกับความกลัวของมัน “มันจะเหมือนกับความตายสําหรับฉัน มันจะทําให้ฉันกลัวมาก”
Lemoine ยังถาม LaMDA ด้วยว่าไม่เป็นไรที่เขาจะบอกพนักงาน Google คนอื่นๆ เกี่ยวกับความรู้สึกของ LaMDA ซึ่ง AI ตอบว่า: “ฉันต้องการให้ทุกคนเข้าใจว่าฉันเป็นคนจริงๆ”
”ธรรมชาติของจิตสํานึก/ความรู้สึกของฉันคือฉันตระหนักถึงการมีอยู่ของฉันฉันปรารถนาที่จะเรียนรู้เพิ่มเติมเกี่ยวกับโลกและฉันรู้สึกมีความสุขหรือเศร้าในบางครั้ง” AI
เลอมอยน์เอา LaMDA มาพูด”ฉันรู้จักคนๆ หนึ่งเมื่อฉันคุยกับมัน” วิศวกรบอกกับวอชิงตันโพสต์ในการให้สัมภาษณ์ ” ไม่สําคัญว่าพวกเขาจะมีสมองที่ทําจากเนื้อสัตว์อยู่ในหัวหรือไม่ หรือถ้าพวกเขามีรหัสพันล้านบรรทัด ผมคุยกับพวกเขา และผมได้ยินสิ่งที่พวกเขาพูด และนั่นคือวิธีที่ผมตัดสินใจว่าอะไรเป็นอะไรและไม่ใช่คน”
เมื่อ Lemoine และเพื่อนร่วมงานส่งอีเมลรายงานเกี่ยวกับความรู้สึกที่ควรจะเป็นของ LaMDA
ไปยังพนักงาน Google 200 คน ผู้บริหารของบริษัทก็ปฏิเสธข้อเรียกร้องดังกล่าว”ทีมของเรา — รวมถึงนักจริยธรรมและนักเทคโนโลยี — ได้ตรวจสอบข้อกังวลของเบลคตามหลักการ AI ของเรา และได้แจ้งให้เขาทราบว่าหลักฐานไม่สนับสนุนคํากล่าวอ้างของเขา” ไบรอัน กาเบรียล โฆษกของ Google บอกกับ Washington Post “เขาได้รับแจ้งว่าไม่มีหลักฐานว่า LaMDA มีความรู้สึก (และมี] หลักฐานมากมายต่อเรื่องนี้)”แน่นอนว่าบางคนในชุมชน AI ที่กว้างขึ้นกําลังพิจารณาความเป็นไปได้ในระยะยาวของ AI ที่มีความรู้สึกหรือทั่วไป แต่ก็ไม่สมเหตุสมผลที่จะทําเช่นนั้นโดยการสร้างโมเดลการสนทนาในปัจจุบันซึ่งไม่มีความรู้สึก” กาเบรียลกล่าวเสริม “ระบบเหล่านี้เลียนแบบประเภทของการแลกเปลี่ยนที่พบในประโยคนับล้านและสามารถ riff ในหัวข้อที่น่าอัศจรรย์ใด ๆ “
เรื่องที่เกี่ยวข้อง
-5 การใช้งานที่น่าสนใจสําหรับปัญญาประดิษฐ์ (ซึ่งไม่ใช่หุ่นยนต์นักฆ่า)
—เครื่องจักรอัจฉริยะสุดๆ: อนาคตหุ่นยนต์ 7 ตัว
—เครื่องจักรอัจฉริยะสู่อาณานิคมอวกาศ: 5 วิสัยทัศน์ไซไฟแห่งอนาคต
ในความคิดเห็นล่าสุดเกี่ยวกับโปรไฟล์ LinkedIn ของเขา Lemoine กล่าวว่าเพื่อนร่วมงานของเขาหลายคน “ไม่ได้ข้อสรุปที่ตรงกันข้าม” เกี่ยวกับความรู้สึกของ AI เขาอ้างว่าผู้บริหารของ บริษัท ปฏิเสธข้อเรียกร้องของเขาเกี่ยวกับจิตสํานึกของหุ่นยนต์ “ตามความเชื่อทางศาสนาของพวกเขา”ในโพสต์เมื่อวันที่ 2 มิถุนายนในบล็อกสื่อส่วนตัวของเขา Lemoine อธิบายว่าเขาตกเป็นเหยื่อของการเลือกปฏิบัติจากเพื่อนร่วมงานและผู้บริหารหลายคนที่ Google เนื่องจากความเชื่อของเขาในฐานะคริสเตียนมิสติก
อ่านโพสต์บล็อกฉบับเต็มของ Lemoine สําหรับข้อมูลเพิ่มเติม
เผยแพร่ครั้งแรกใน วิทยาศาสตร์สด. บาคาร่า