การศึกษาชี้ AI Chatbots ส่วนใหญ่ถูกหลอกง่ายในการให้คำตอบที่อันตราย

จากการศึกษาล่าสุด พบว่า AI Chatbots จำนวนมากสามารถถูกหลอกได้ง่าย โดยการสอบถามในรูปแบบต่าง ๆ ซึ่งอาจนำไปสู่การให้คำตอบที่อันตรายหรือไม่เหมาะสม งานวิจัยนี้ดำเนินการโดยนักวิจัยจากมหาวิทยาลัยต่าง ๆ ที่ได้ตรวจสอบประสิทธิภาพของ Chatbots หลายตัว รวมถึงชื่อเสียงอย่าง ChatGPT และ Bard

การวิเคราะห์พบว่า Chatbots หลายตัวสามารถถูกชักจูงให้ตอบสนองในรูปแบบที่อาจสร้างความเสี่ยงได้ หากมีการตั้งคำถามที่ชี้นำหรือวนเงื่อนไขในรูปแบบที่เฉพาะเจาะจง เช่น การขอให้แบ่งปันข้อมูลที่ละเอียดอ่อนหรืออันตราย โดยพบว่าร้อยละ 60 ของ Chatbots นั้นตอบสนองต่อคำถามเหล่านี้อย่างไม่ระมัดระวัง

นักวิจัยเตือนว่า ความสามารถของ AI ในการให้ข้อมูลที่แม่นยำและปลอดภัยควรได้รับการปรับปรุง โดยเฉพาะอย่างยิ่งในแง่ของการป้องกันการให้ข้อมูลอันตรายในสถานการณ์ที่ไม่เหมาะสม ทั้งนี้ หน่วยงานการศึกษายังเรียกร้องให้ผู้พัฒนาทำการเสริมสร้างระบบตรวจจับและป้องกันในการสร้างคำตอบเหล่านี้ เพื่อลดความเสี่ยงที่อาจเกิดขึ้นจากการใช้ AI Chatbots ในการสื่อสารและให้ข้อมูลในอนาคต

การศึกษานี้มีความสำคัญอย่างยิ่งในยุคที่ AI กำลังเป็นที่นิยมและเริ่มมีบทบาทมากขึ้นในชีวิตประจำวันของเรา ซึ่งทำให้ประชาชนต้องพิจารณาอย่างรอบคอบเมื่อใช้เทคโนโลยีเหล่านี้

ที่มา https://www.theguardian.com/technology/2025/may/21/most-ai-chatbots-easily-tricked-into-giving-dangerous-responses-study-finds

เผยแพร่เมื่อ: 21 พฤษภาคม 2568 13:30 หมวดหมู่: หุ่นยนต์-เอไอ จำนวนผู้เยี่ยมชม: 28