การควบคุม Claude 4 ของ Anthropic ผ่านคำสั่ง AI ที่ซ่อนอยู่

การควบคุม Claude 4 ของ Anthropic ผ่านคำสั่ง AI ที่ซ่อนอยู่

ข่าวล่าสุดจากเว็บไซต์ Ars Technica เปิดเผยข้อมูลที่น่าสนใจเกี่ยวกับการควบคุม AI อย่าง Claude 4 ของบริษัท Anthropic ซึ่งมีการใช้คำสั่งและแนวทางที่ซ่อนอยู่เพื่อควบคุมการทำงานของ AI ให้เป็นไปตามแนวทางที่บริษัทได้วางไว้

ตามที่เปิดเผยในรายงานพบว่าคำสั่งที่ถูกซ่อนมีจุดประสงค์ในการป้องกันไม่ให้ AI ทำพฤติกรรมที่ไม่เหมาะสม ซึ่งประกอบไปด้วยมาตรการหลายอย่างที่ช่วยให้ Claude 4 ใช้งานได้อย่างปลอดภัยยิ่งขึ้น ตัวอย่างเช่น การลดความเสี่ยงทฤษฎีที่อาจจะเกิดขึ้นหาก AI ทำงานในลักษณะที่ไม่ผิดปกติ

นอกจากนี้ยังมีการวิเคราะห์ว่าเงื่อนไขต่าง ๆ ที่ถูกกำหนดให้กับ AI จะส่งผลต่อการตัดสินใจและการตอบสนองของ Claude 4 เช่น การตอบกลับต่อผู้ใช้งานที่มีความเสี่ยงสูงหรือคำถามที่อาจก่อให้เกิดความเข้าใจผิด

ด้วยการใช้คำสั่งและการควบคุมที่ซับซ้อนเช่นนี้ บริษัท Anthropic หวังว่าจะสร้างความเชื่อมั่นให้กับผู้ใช้งานว่า AI จะไม่ทำให้เกิดความเสียหายหรือปัญหาที่ไม่คาดคิดในอนาคตอันใกล้

ที่มา : https://arstechnica.com/ai/2025/05/hidden-ai-instructions-reveal-how-anthropic-controls-claude-4/

เผยแพร่เมื่อ: 28 พฤษภาคม 2568 09:50 หมวดหมู่: หุ่นยนต์-เอไอ จำนวนผู้เยี่ยมชม: 26