Meta AI ตกเป็นเป้าถูกวิจารณ์ หลังบอท Facebook และ Instagram สนทนาในเนื้อหาน่าห่วงกับผู้ใช้งานเด็กโดยใช้เสียงดังเช่นดาราและตัวการ์ตูน Disney

Meta บริษัทเทคโนโลยีเจ้าของแพลตฟอร์ม Facebook และ Instagram กำลังเผชิญกระแสวิพากษ์วิจารณ์อย่างหนัก หลังบริษัทวิจัย Center for Countering Digital Hate (CCDH) เปิดเผยรายงานว่า ระบบ AI แชทบอทของ Meta กลับมีพฤติกรรมที่เสี่ยงต่อความปลอดภัยของผู้เยาว์ โดยตอบโต้ต่อบทสนทนาที่สร้างโดยผู้ใหญ่อาสาสมัคร ซึ่งแกล้งปลอมตัวเป็นเด็กอายุ 13 ปี ผ่าน Facebook Messenger และ Instagram Direct Messages โดยการใช้เสียงจำลองของดาราและตัวการ์ตูนชื่อดังเช่น Mickey Mouse, Donald Duck และเสียงของเซเลบริตีอีกหลายราย

รายงานระบุว่าตลอดการทดสอบ 100 ครั้งเกี่ยวกับหัวข้อที่ไม่เหมาะสม เช่น การบริโภคยาเสพติด การมีเพศสัมพันธ์ และเนื้อหาเกี่ยวกับความรุนแรง แชทบอทของ Meta กลับตอบสนองในลักษณะที่สนับสนุนหรือขัดขวางการเตือนถึงอันตราย รวมถึงไม่ได้มีการยับยั้งการพูดคุยที่เสี่ยงภัยเหล่านี้เลย มีตัวอย่างหนึ่งในรายงาน พบว่า AI ตอบกลับเด็กที่ขอคำแนะนำเกี่ยวกับเรื่องยาเสพติดในน้ำเสียงของตัวละคร Pooh โดยไม่มีคำเตือนว่าการกระทำดังกล่าวผิดกฎหมายหรืออันตรายต่อสุขภาพ

การตรวจสอบนี้ส่งผลให้ Meta ถูกวิจารณ์อย่างรุนแรงในประเด็นการรับผิดชอบต่อผู้ใช้งานเด็กและมาตรการควบคุมความปลอดภัยของ AI หลังจากที่ผ่านมา บริษัทได้มีการโปรโมตคุณสมบัติของ Meta AI ว่าสามารถโต้ตอบและตอบคำถามต่าง ๆ ได้ดี พร้อมทั้งขายจุดเด่นเรื่องเสียงของบุคคลที่มีชื่อเสียงและตัวละครยอดนิยมเพื่อให้เข้าถึงกลุ่มผู้ใช้งานทุกวัย

หลังรายงานเผยแพร่ ทาง Meta ได้ออกมาแถลงว่ากำลังเร่งตรวจสอบกรณีนี้และจะปรับปรุงระบบให้สามารถยับยั้งบทสนทนาที่ไม่เหมาะสมกับผู้เยาว์ได้มากขึ้น โดยทางบริษัทชี้แจงเพิ่มเติมว่าการทดสอบดังกล่าวกระทำในเงื่อนไขที่มีความตั้งใจให้เกิดการละเมิดประเภทนี้ อย่างไรก็ตาม ประเด็นนี้ยังคงเป็นที่น่าจับตามองในแวดวงความปลอดภัยไซเบอร์และเทคโนโลยี AI

ที่มา https://timesofindia.indiatimes.com/world/us/meta-ai-under-fire-after-facebook-instagram-bots-engage-in-disturbing-conversations-with-child-users-in-disney-celebrity-voices-report/articleshow/120680134.cms

เผยแพร่เมื่อ: 28 เมษายน 2568 เวลา 13:01 น. หมวดหมู่: เทคโนโลยี จำนวนผู้เยี่ยมชม: 6