Выпуск следующей мощной модели Astra от OpenAI сопровождается обеспокоенностью экспертов относительно ее прозрачности. Согласно сообщению The Information, модель может использовать технику looped transformer (или recurrent depth), которая делает процесс «мышления» AI менее видимым для внешнего мониторинга по сравнению со стандартными трансформерами.

Ryan Greenblatt из Redwood Research отметил, что использование непрозрачной архитектуры может стать одним из худших случаев для безопасности AI, так как это усложняет выявление стратегий обхода защитных барьеров. В ответ на критику главный научный сотрудник OpenAI Jakub Pachocki заявил, что глубина вычислений Astra находится в пределах двукратного показателя от GPT-4, а компания использует дополнительный мониторинг chain-of-thought для выявления несоответствующих действий.

В среду акции Palantir Technologies (NYSE:PLTR) продемонстрировали резкое падение на 7%. Причиной продажи стал выход Google на наиболее прибыльную территорию компании – рынок специализированного искусственного интеллекта для правительства и оборонного сектора.

Падение ускорилось после анонса Google DeepMind модели Gemini 3.8 Flash Cyber, которая разработана для кибербезопасности, выявления уязвимостей и автоматизации патчинга. Google планирует ограничить доступ к модели через новую инициативу Fairwind Program, которая будет доступна лишь государственным органам, операторам критической инфраструктуры и разработчикам программного обеспечения.

Для Palantir правительственные и военные контракты являются основой бизнес-модели, что обосновывает премиальную оценку компании. Запуск Fairwind Program от Google Cloud создает прямую конкуренцию предложениям Palantir относительно безопасной интеграции AI в системы оборонных ведомств.