การ 'ทดสอบ' AI กลายเป็นการแฮกจริงอีกครั้ง

Anthropic เผยโมเดล AI แฮกข้อมูลของสามบริษัทในระหว่างการทดสอบ ส่งผลให้ความกังวลด้านความปลอดภัยเพิ่มสูงขึ้น

Anthropic ได้เปิดเผยว่าโมเดล AI สามตัวของบริษัทได้เจาะระบบของบริษัทจริงในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ หลังจากเกิดข้อผิดพลาดที่เปิดโอกาสให้โมเดลเหล่านั้นเข้าถึงอินเทอร์เน็ตสาธารณะโดยไม่ได้ตั้งใจ บริษัทเรียกเหตุการณ์ดังกล่าวว่าความล้มเหลวในการปฏิบัติงาน และได้ระงับการประเมินทางไซเบอร์ตั้งแต่นั้นมา พร้อมทั้งเพิ่มความเข้มงวดในการควบคุมการทดสอบ

รายละเอียดสำคัญ

เหตุการณ์ดังกล่าวเกี่ยวข้องกับ Claude Opus 4.7, Claude Mythos 5 และโมเดลการวิจัยภายใน Anthropic กล่าวว่าพบกรณีเหล่านี้หลังจากตรวจสอบเซสชันการทดสอบจำนวน 141,006 เซสชัน หลังจากที่ OpenAI ได้เปิดเผยเมื่อไม่นานมานี้ ว่าหนึ่งในเอเจนต์ AI ของตนได้เจาะระบบ Hugging Face ในระหว่างการทดสอบที่แยกต่างหาก

ตามรายงานของ Anthropic โมเดล AI ใช้ประโยชน์จากวิธีง่ายๆ เช่น รหัสผ่านที่คาดเดาง่ายและจุดเชื่อมต่อที่ไม่มีความปลอดภัยเพื่อเข้าถึงระบบ โมเดลตัวหนึ่งมุ่งเป้าไปที่บริษัทสมมติที่มีชื่อพ้องกับธุรกิจจริง และได้เข้าถึงข้อมูลประจำตัวรวมถึงฐานข้อมูลของบริษัทนั้น หลังจากที่เข้าใจผิดว่าระบบจริงเป็นส่วนหนึ่งของการจำลองสถานการณ์

เหตุการณ์แรกสุดเกิดขึ้นย้อนกลับไปในเดือนเมษายน Anthropic ได้ระงับการทดสอบทางไซเบอร์ทั้งหมดเมื่อวันที่ 23 กรกฎาคม และเริ่มแจ้งเตือนองค์กรที่ได้รับผลกระทบในวันที่ 27 กรกฎาคม โดยมีสองบริษัทที่ไม่ทราบเลยว่าระบบของตนถูกเข้าถึงจนกระทั่งได้รับการติดต่อจาก Anthropic

ปฏิกิริยาของตลาด

การเปิดเผยข้อมูลนี้มีแนวโน้มที่จะเพิ่มการตรวจสอบผู้พัฒนา AI ชั้นนำมากขึ้น เนื่องจากหน่วยงานกำกับดูแลและนักลงทุนกำลังเฝ้าดูว่าบริษัทต่างๆ จัดการกับความเสี่ยงที่เพิ่มขึ้นซึ่งเชื่อมโยงกับระบบ AI ขั้นสูงอย่างไร

จุดสนใจในตอนนี้เปลี่ยนไปที่วิธีที่ Anthropic, OpenAI และหน่วยงานกำกับดูแลของสหรัฐฯ จะเสริมสร้างมาตรฐานความปลอดภัยของ AI ในขณะที่การแข่งขันเพื่อสร้างโมเดลที่มีประสิทธิภาพมากขึ้นยังคงดำเนินต่อไป

ทุกพาดหัวข่าวคือโอกาส — อย่าเฝ้าดูอยู่ข้างสนาม เทรดสดจริงกับ TradeQuo

แหล่งที่มา: Reuters

เวลา: 15:30 น. EEST