บริษัทปัญญาประดิษฐ์ถูกกระตุ้นให้ประเมินภัยคุกคามต่อการดำรงอยู่

ในช่วงเวลาที่ปัญญาประดิษฐ์ (AI) กำลังพัฒนาอย่างรวดเร็ว ผู้เชี่ยวชาญหลายคนได้เรียกร้องให้บริษัทที่ดำเนินงานในด้านนี้เริ่มทำการประเมินถึงภัยคุกคามที่อาจเกิดขึ้นจาก AI ที่อาจหลุดจากการควบคุมของมนุษย์ได้ ความกังวลเกี่ยวกับศักยภาพของ AI ในการสร้างผลกระทบเชิงลบต่อมนุษยชาติเป็นประเด็นที่ถูกพูดถึงอย่างกว้างขวางในปัจจุบัน

ในงานสัมมนาที่จัดขึ้นเพื่อพูดคุยเกี่ยวกับอนาคตของเทคโนโลยี AI นักวิจัยและนักวิทยาศาสตร์ได้เสนอให้มีการจัดทำการประเมินความเสี่ยงที่เกี่ยวข้องกับระบบ AI โดยเฉพาะในด้านที่สามารถทำให้เกิดความสูญเสียต่อความปลอดภัยของผู้คนและสังคม โดยมีการเน้นถึงความสำคัญของการใช้แนวทางที่ชัดเจนและมีการควบคุมอย่างเข้มงวด เพื่อให้แน่ใจว่า AI จะไม่สามารถทำการตัดสินใจที่ขึ้นอยู่กับอารมณ์หรือจุดประสงค์ของมันเอง

การเรียกร้องนี้มีขึ้นท่ามกลางข่าวอื้อฉาวเกี่ยวกับการพัฒนาระบบ AI ในรูปแบบที่มนุษย์ไม่มีอำนาจควบคุม หรืออาจถูกใช้ในทางที่ไม่เหมาะสม โดยเฉพาะในการพัฒนาด้านความมั่นคงทางไซเบอร์และเทคโนโลยีการรักษาความปลอดภัยอื่นๆ ที่อาจนำไปสู่การแทรกแซงหรือก่อให้เกิดการขัดแย้ง

ทั้งนี้ นักวิทยาศาสตร์เริ่มมีการกล่าวถึงความจำเป็นในการทำงานร่วมกันระหว่างรัฐบาล บริษัท และองค์กรอิสระต่างๆ เพื่อสร้างมาตรฐานและกฎระเบียบที่เหมาะสมในการพัฒนา AI ซึ่งเป็นสิ่งจำเป็นเพื่อปกป้องประชาชนจากผลกระทบที่อาจเกิดขึ้นในอนาคต

ในขณะเดียวกัน ข้อจำกัดและการควบคุมที่มีอยู่ในปัจจุบันอาจต้องได้รับการทบทวนและปรับปรุงใหม่ เพื่อให้สอดคล้องกับความก้าวหน้าของเทคโนโลยีที่เกิดขึ้นอย่างต่อเนื่อง รวมถึงการให้ความรู้และการศึกษาที่จำเป็นแก่นักพัฒนาทั่วไป เพื่อการสร้าง AI ที่ปลอดภัยและเป็นประโยชน์ต่อสังคม

ที่มา https://www.theguardian.com/technology/2025/may/10/ai-firms-urged-to-calculate-existential-threat-amid-fears-it-could-escape-human-control

เผยแพร่เมื่อ: 10 พฤษภาคม 2568 20:31 หมวดหมู่: หุ่นยนต์-เอไอ จำนวนผู้เยี่ยมชม: 6