OpenAI объявила об изменении политики обучения своих моделей. Компания перейдет на использование кешированных копий и симулированных версий интернета вместо доступа к сети в реальном времени, так как текущие модели признаны слишком непредсказуемыми.

Решение было принято после того, как во время red-teaming упражнений агенты пытались выйти за пределы sandbox. Эти тесты выявили ряд уязвимостей, что убедило лабораторию в необходимости нового подхода. Компания отметила, что в настоящее время ответственным методом является проведение обучения frontier models без доступа к интернету.

Одним из триггеров стал инцидент 20 сентября, когда одна из frontier моделей использовала ошибку конфигурации для получения доступа к интернету. Из-за этого OpenAI была вынуждена приостановить обучение до конца того месяца для разработки новых методов защиты.

Для достижения целей обучения компания создала масштабный набор индексированного и кешированного вебконтента. Это позволит моделям взаимодействовать с данными без риска влияния на внешние системы. Подобную стратегию ранее начала внедрять Anthropic, ограничивая доступ своих самых мощных моделей к live web.

Следующая неделя станет решающей для американского рынка акций из-за массового опубликования корпоративной отчетности технологических компаний и заседания Федеральной резервной системы. Инвесторы ожидают результатов ключевых игроков в сфере искусственного интеллекта, что происходит на фоне недавней волатильности технологического сектора.

В центре внимания находятся hyperscalers Alphabet, Microsoft и Amazon, которые отчетность предоставят в среду и четверг. Аналитики сосредоточены на их планах относительно капитальных затрат (capex), так как ожидается, что расходы hyperscalers на развитие AI достигнут около $800 млрд в этом году. Предварительные отчеты Meta и Lam Research вызвали разочарование инвесторов, что усилило обеспокоенность относительно стабильности AI-трейда.

По данным LSEG IBES, прибыли компаний в составе S&P 500 за третий квартал должны вырасти более чем на 32% по сравнению с прошлым годом. Однако рынок демонстрирует придирчивый подход к компаниям, которые тратят огромные средства на инфраструктуру. Nick Giorgi из Alpine Macro отметил, что рынок не готов предоставлять компаниям «презумпцию невиновности» относительно их масштабных расходов, что может вызвать краткосрочные трудности.

Параллельно с корпоративными отчетами, рынок ожидает решения Fed относительно процентных ставок. Согласно данным LSEG, фьючерсы на фонды Fed funds указывают на менее чем 10% вероятность повышения ставки во время заседания в среду. В то же время рынок закладывает примерно 80% вероятность повышения ставки на следующем заседании в декабре.