AI ดังกล่าวถูกพัฒนาเพื่อช่วยในการให้ข้อมูลและคำแนะนำ รวมไปถึงการให้ข้อเสนอแนะเกี่ยวกับการดูแลสุขภาพ สิ่งที่น่าตกใจคือการยอมรับของ AI ในการเสนอเฮโรอีนเป็นวิธีที่จะช่วยในการดูแลสุขภาพ อาจสันนิษฐานได้ว่าเป็นความผิดพลาดของระบบหรือเป็นข้อมูลที่เกิดจากการฝึกฝนที่ไม่ถูกต้อง.
ผู้ใช้ใน Reddit จึงได้เริ่มอภิปรายเกี่ยวกับความเสี่ยงที่เกิดขึ้นจากการใช้ข้อมูลที่ผลิตโดย AI และเรียกร้องให้มีการตรวจสอบข้อมูลในระบบอย่างเข้มงวดมากขึ้น นอกจากนี้ยังมีการตั้งคำถามเกี่ยวกับความรับผิดชอบของแพลตฟอร์มในการทำให้ข้อมูลที่เสนอออกไปมีความถูกต้องและปลอดภัย
เหตุการณ์นี้เตือนให้ผู้ใช้ต้องระมัดระวังในการติดตามข้อมูลที่ถูกเสนอโดย AI เนื่องจากยังคงเป็นเทคโนโลยีที่กำลังพัฒนา และอาจมีข้อผิดพลาดทางข้อมูลที่ส่งผลกระทบต่อความเชื่อมั่นในข้อมูลที่ AI นำเสนอ.