Anthropic співпрацює з NSA у кібер-операціях
Компанія Anthropic залучила близько шести інженерів до роботи в Агентстві національної безпеки США (NSA) для розгортання моделі ШІ Mythos у кібер-операціях, зокрема потенційно проти мереж у Китаї та Ірані. Водночас, Anthropic закликає до глобальної паузи у розвитку ШІ, побоюючись рекурсивного самовдосконалення систем.
Інженери Anthropic налаштовують модель Mythos для конкретних завдань. Модель не була опублікована через ризик зловживань і доступна лише обмеженому колу партнерів, включаючи Microsoft, Apple та Amazon. Одночасно Anthropic судиться з Пентагоном через відмову дозволити використання Claude для автономної зброї та масового стеження, хоча контракт з NSA був виключений з цієї заборони. Суд заблокував заборону Пентагону, але NSA продовжує використовувати Mythos.
За даними Anthropic, зараз Claude генерує понад 80% коду, який додається в їхню виробничу кодову базу, порівняно з незначними показниками у 2024 році. Компанія побоюється, що ШІ може почати самостійно проєктувати, створювати та навчати наступні покоління систем, зменшуючи роль людини. Anthropic пропонує глобальну паузу у розвитку ШІ, але визнає, що одностороннє сповільнення лише передасть лідерство іншим.