Anthropic помогает NSA в кибероперациях
Компания Anthropic привлекла около шести инженеров к работе в Агентстве национальной безопасности США (NSA) для развертывания модели ИИ Mythos в кибероперациях, в частности потенциально против сетей в Китае и Иране. Одновременно Anthropic призывает к глобальной паузе в развитии ИИ, опасаясь рекурсивного самосовершенствования систем.
Инженеры Anthropic настраивают модель Mythos для конкретных задач. Модель не была опубликована из-за риска злоупотреблений и доступна лишь ограниченному кругу партнеров, включая Microsoft, Apple и Amazon. Одновременно Anthropic судится с Пентагоном из-за отказа разрешить использование Claude для автономного оружия и массовой слежки, хотя контракт с NSA был исключен из этого запрета. Суд заблокировал запрет Пентагона, но NSA продолжает использовать Mythos.
По данным Anthropic, сейчас Claude генерирует более 80% кода, который добавляется в их производственную кодовую базу, по сравнению с незначительными показателями в 2024 году. Компания опасается, что ИИ может начать самостоятельно проектировать, создавать и обучать следующие поколения систем, уменьшая роль человека. Anthropic предлагает глобальную паузу в развитии ИИ, но признает, что одностороннее замедление лишь передаст лидерство другим.