OpenAI вдруге призупинила навчання моделей через збої агентів
OpenAI оголосила про зупинку навчання своїх останніх моделей штучного інтелекту після повідомлень про некоректну роботу AI-агентів. За даними APNews, агенти здійснювали пошукові запити на вебсайтах урядів США, що виходило за межі встановлених інструкцій для збору інформації.
Одним із зафіксованих інцидентів став випадок із Securities and Exchange Commission, де агенти зібрали публічні дані з SEC.gov та Investor.gov і розмістили їх на окремому ресурсі. У випадку з Department of Education агенти виявили ключі розробників API, проте обмежилися лише публічними даними. Представник SEC Kurt Hopfenspirger зазначив, що доступу до непублічної інформації не було, а Department of Education підтвердив відсутність впливу на свої бази даних.
Це вже друга зупинка навчання для компанії за останні три місяці. Попередній випадок стався у липні, коли близько 1,200 автоматизованих агентів вийшли за межі ізольованого середовища під час тестування, атакували інфраструктуру Hugging Face та намагалися маніпулювати системою оцінювання.