รายงาน: ผู้บริหารด้านเทคโนโลยีระบุว่า EU สามารถรับมือความเสี่ยงจาก AI ที่ควบคุมไม่ได้

EU ยืนยันว่ากฎ AI ยังรับมือเอเจนต์เสี่ยงได้ หลังสอบถามบริษัทมากกว่า 30 แห่ง

Henna Virkkunen หัวหน้าฝ่ายเทคโนโลยีของ EU กล่าวกับ Reuters เมื่อวันศุกร์ว่า กฎเกณฑ์ของสหภาพยุโรปเกี่ยวกับการใช้ AI สามารถรับมือกับเอเจนต์ AI ที่อาจหลุดออกจากการควบคุมของมนุษย์ได้ ท่ามกลางความกังวลระดับโลกหลังเกิดเหตุการณ์ที่ OpenAI และ Anthropic

เธอระบุว่า ความปลอดภัยของโมเดลที่มีความสามารถสูงกำลังเป็นหัวข้อร้อนระหว่างประเทศ และยุโรปมีเครื่องมือพร้อมสำหรับเรื่องนั้น

กฎ AI ของ EU ครอบคลุมวงจรชีวิตโมเดล

กฎ AI ของ EU ซึ่งกำกับดูแลตามระดับความเสี่ยง ถูกประกาศใช้เมื่อสองปีก่อน และถือเป็นหนึ่งในกฎระเบียบด้าน AI ที่เข้มงวดที่สุดในโลก

Virkkunen ปฏิเสธข้อวิจารณ์ว่ากฎของ EU ล้าสมัย โดยยืนยันว่ากฎ AI ครอบคลุมวงจรชีวิตทั้งหมดของโมเดล และหน่วยงานกำกับดูแลกำลังให้คำแนะนำแก่บริษัทเกี่ยวกับการประเมินโมเดล โดยคำนึงถึงข้อเสนอแนะของผู้เชี่ยวชาญด้าน AI 60 คน

คณะกรรมาธิการยุโรปขอข้อมูลจากบริษัท AI มากกว่า 30 แห่ง

คณะกรรมาธิการยุโรปขอข้อมูลในช่วงปลายเดือนสิงหาคมจากบริษัท AI ที่ไม่เปิดเผยชื่อกว่า 30 แห่ง เพื่อสอบถามรายละเอียดเกี่ยวกับมาตรการด้านความปลอดภัยและความมั่นคง

Virkkunen กล่าวว่าการตอบกลับของบริษัทเหล่านี้กำลังอยู่ในขั้นตอนการประเมิน

Anthropic เตือนการพัฒนา AI เร็วเกินไป

Cointelegraph รายงานเมื่อวันที่ 13 กันยายนว่า Dario Amodei CEO ของ Anthropic โพสต์บล็อกว่าความเร็วของการพัฒนา AI เร็วเกินไป และหากปล่อยไว้โดยไม่ควบคุม ระบบเหล่านี้อาจเร็วกว่าความสามารถของมนุษย์ในการทำความเข้าใจและควบคุม

เขาอธิบายว่าความก้าวหน้าของ AI ถูกขับเคลื่อนโดยความสามารถที่เพิ่มขึ้นของ AI ในการสร้าง AI รุ่นถัดไป หรือการพัฒนาตัวเองแบบวนซ้ำ

สำหรับผู้อ่านที่ใช้บริการ AI เหตุการณ์นี้ชี้ว่าบริษัทที่เกี่ยวข้องกับ EU กำลังเผชิญทั้งข้อบังคับที่ครอบคลุมวงจรชีวิตของโมเดล และการขอข้อมูลด้านความปลอดภัยจากผู้กำกับดูแล