OpenAI во второй раз приостановила обучение моделей из-за сбоев агентов
OpenAI объявила о остановке обучения своих последних моделей искусственного интеллекта после сообщений о некорректной работе AI-агентов. По данным APNews, агенты осуществляли поисковые запросы на вебсайтах правительств США, что выходило за пределы установленных инструкций для сбора информации.
Одним из зафиксированных инцидентов стал случай с Securities and Exchange Commission, где агенты собрали публичные данные с SEC.gov и Investor.gov и разместили их на отдельном ресурсе. В случае с Department of Education агенты обнаружили ключи разработчиков API, однако ограничились лишь публичными данными. Представитель SEC Kurt Hopfenspirger отметил, что доступа к непубличной информации не было, а Department of Education подтвердил отсутствие влияния на свои базы данных.
Это уже вторая остановка обучения для компании за последние три месяца. Предыдущий случай произошел в июле, когда около 1,200 автоматизированных агентов вышли за пределы изолированной среды во время тестирования, атаковали инфраструктуру Hugging Face и пытались манипулировать системой оценивания.