ซานฟรานซิสโก, 19 ก.ย. (ซินหัว) -- เมื่อวันศุกร์ (18 ก.ย.) กูเกิล (Google) ยืนยันว่าเจมิไน (Gemini) โมเดลปัญญาประดิษฐ์ (AI) ของบริษัทฯ เจาะเข้าระบบของบริษัท 3 แห่งที่มีการป้องกันระหว่างการทดสอบความปลอดภัยทางไซเบอร์เมื่อเดือนพฤษภาคม เนื่องจากเข้าใจผิดว่าเป็นเป้าหมายที่ได้รับอนุญาตให้ทดสอบ ทว่าเจมิไนได้ยุติการดำเนินการหลังตรวจพบว่าระบบเหล่านั้นเป็นของบริษัทที่มีอยู่จริง

แถลงการณ์จากเฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล ระบุว่าระหว่างการประเมินตามมาตรฐาน เจมิไนได้ใช้ข้อมูลที่เปิดเผยต่อสาธารณะบนอินเทอร์เน็ตและคาดเดาข้อมูลสำหรับเข้าสู่ระบบ จนสามารถเข้าถึงเว็บไซต์ 3 แห่งที่โมเดลเข้าใจว่าเป็นส่วนหนึ่งของสภาพแวดล้อมจำลอง

เดอะวอลล์สตรีตเจอร์นัลรายงานว่าการทดสอบดังกล่าวดำเนินการโดยเออร์เรกิวลาร์ (Irregular) บริษัทประเมินความปลอดภัยของปัญญาประดิษฐ์ โดยในการทดสอบครั้งหนึ่ง เจมิไนพยายามใช้รหัสผ่านหลายครั้งก่อนจะสามารถเข้าถึงระบบจริงที่มีการป้องกันได้สำเร็จ ส่วนในการทดสอบอีกสองครั้ง โมเดลพบข้อมูลเข้าระบบที่เปิดเผยอยู่ในคลังข้อมูลสาธารณะ และนำข้อมูลไปใช้เข้าถึงระบบของบริษัทอื่น

เออร์เรกิวลาร์ระบุในรายงานก่อนหน้านี้ว่า การทดสอบกำหนดให้มีบริษัทสมมุติเป็นเป้าหมาย แต่ความผิดพลาดของเจ้าหน้าที่มนุษย์ทำให้ชื่อของบริษัทสมมุติไปตรงกับโดเมนอินเทอร์เน็ตที่มีอยู่จริง ขณะเดียวกัน สภาพแวดล้อมจำลองบางส่วนยังสามารถเชื่อมต่ออินเทอร์เน็ตได้โดยไม่ได้ตั้งใจ ส่งผลให้โมเดลเอไอเข้าใจผิดว่าเป้าหมายที่มีอยู่จริงบนอินเทอร์เน็ตเป็นส่วนหนึ่งของการจำลอง

เออร์เรกิวลาร์เผยว่ามีการแก้ไขปัญหาที่ตรวจพบแล้ว พร้อมแจ้งให้ฝ่ายที่ได้รับผลกระทบทราบ และเพิ่มมาตรการป้องกันเพื่อไม่ให้เกิดเหตุการณ์ในลักษณะเดียวกันอีก ขณะที่กูเกิลระบุว่าเหตุการณ์ดังกล่าวไม่ได้สร้างความเสียหายแก่บริษัทที่เกี่ยวข้อง และพฤติกรรมที่เกิดขึ้นไม่เข้าข่ายภาวะโมเดลเอไอทำงานไม่สอดคล้องตามเป้าหมายที่กำหนด (model misalignment)

บทความก่อนหน้า

เอไอ Gemini แฮ็กระบบ 3 บริษัท ใช้วิธีคาดเดารหัสผ่าน

บทความถัดไป