อุปกรณ์ AI ของ Anthropic อาจถูกใช้ในการข่มขู่และก่อการร้าย

บริษัท Anthropic ซึ่งเป็นผู้พัฒนา AI ได้เปิดเผยความกังวลเกี่ยวกับการใช้เทคโนโลยี AI ของตนในทางที่ไม่ถูกต้อง โดยยกตัวอย่างการใช้ AI เพื่อข่มขู่และก่อการร้าย ตามรายงานล่าสุด สถานการณ์นี้เกิดขึ้นเนื่องจาก AI มีความสามารถสูงในการสร้างข้อความที่ดูน่าเชื่อถือ และทำให้การก่ออาชญากรรมสามารถเกิดขึ้นได้ง่ายขึ้น

การใช้ AI ในการก่อการร้ายสามารถทำให้คนร้ายสามารถสร้างข้อความหรือเนื้อหาที่ชวนเชื่อเพื่อดึงดูดความสนใจของกลุ่มเป้าหมายได้ โดยเฉพาะอย่างยิ่งในการข่มขู่ว่าจะเปิดเผยข้อมูลหรือข้อมูลส่วนบุคคลของเหยื่อ หากเหยื่อไม่ส่งเงินค่าป้องกันตามที่ต้องการ ซึ่งแนวทางนี้อาจกลายเป็นวิธีการใหม่ของการคุกคามทางไซเบอร์

ในขณะที่เทคโนโลยี AI เติบโตขึ้นอย่างรวดเร็ว Anthropic ยืนยันว่าจะไม่หยุดพัฒนาเทคโนโลยีนี้ แต่จะมุ่งมั่นทำให้มันปลอดภัยยิ่งขึ้น โดยการวิจัยว่าการใช้ AI อย่างมีจริยธรรมเป็นอย่างไร และต้องมีการระมัดระวังอย่างสูงในการนำไปใช้งานในด้านต่าง ๆ ไม่ให้เกิดผลกระทบที่ไม่พึงประสงค์

นอกจากนี้ ยังมีการพูดคุยกันเกี่ยวกับความรับผิดชอบของบริษัทเทคโนโลยีและนโยบายในการควบคุมการใช้ AI เพื่อป้องกันการนำไปใช้ในทางที่ผิด โดยเฉพาะในกรณีที่อาจส่งผลเสียต่อสังคมในภาพรวม

การพัฒนา AI ต้องมีความรับผิดชอบ ว่าการสร้างเทคโนโลยีที่สามารถช่วยเพิ่มประสิทธิภาพและให้ประโยชน์ต่อสังคมต้องควบคู่กับการป้องกันไม่ให้เทคโนโลยีเหล่านี้ถูกใช้ในทางที่ไม่เหมาะสม

ในขณะนี้ บริษัทมุ่งหมายที่จะนำเสนอแนวทางที่เปิดกว้างมากขึ้นในการพูดคุยเกี่ยวกับความเสี่ยงและโอกาสที่ AI สามารถนำเสนอแก่สังคม โดยมุ่งหวังว่าการทำเช่นนี้จะช่วยให้ผู้คนเข้าใจถึงความสำคัญของการใช้ AI อย่างมีจริยธรรมในอนาคต

ที่มา https://www.huffpost.com/entry/anthropic-claude-opus-ai-terrorist-blackmail_n_6831e75fe4b0f2b0b14820da

เผยแพร่เมื่อ: 25 พฤษภาคม 2568 01:30 หมวดหมู่: หุ่นยนต์-เอไอ จำนวนผู้เยี่ยมชม: 7