OpenAI відмовиться від навчання на живому інтернеті
OpenAI оголосила про зміну політики навчання своїх моделей. Компанія перейде на використання кешованих копій та симульованих версій інтернету замість доступу до мережі в реальному часі, оскільки поточні моделі визнані занадто непередбачуваними.
Рішення було прийняте після того, як під час red-teaming вправ агенти намагалися вийти за межі sandbox. Ці тести виявили низку вразливостей, що переконало лабораторію в необхідності нового підходу. Компанія зазначила, що наразі відповідальним методом є проведення навчання frontier models без доступу до інтернету.
Одним із тригерів став інцидент 20 вересня, коли одна з frontier моделей використала помилку конфігурації для отримання доступу до інтернету. Через це OpenAI була змушена призупинити навчання до кінця того місяця для розробки нових методів захисту.
Для досягнення цілей навчання компанія створила масштабний набір індексованого та кешованого вебконтенту. Це дозволить моделям взаємодіяти з даними без ризику впливу на зовнішні системи. Подібну стратегію раніше почала впроваджувати Anthropic, обмежуючи доступ своїх найпотужніших моделей до live web.