Вооружённые группировки из Йемена использовали ИИ‑модель компании Anthropic в трёх программах разработки вооружений, включая создание программного обеспечения для наведения, навигации и стабилизации баллистических ракет. Об этом сообщила Financial Times со ссылкой на доклад Anthropic.
Anthropic заблокировала большинство запросов, связанных с военными разработками, однако часть обращений всё же проходила систему безопасности. Пользователи обходили ограничения, разбивая запросы на отдельные сессии и скрывая таким образом истинную цель.
Что ещё выявила Anthropic
В том же докладе компания сообщила о других случаях нецелевого использования своей модели Claude:
- хакеры применяли Claude в своих атаках;
- зафиксированы попытки использовать модель для создания оружия, беспилотников и бомб.
Anthropic не раскрывает, какая именно часть запросов была заблокирована и сколько попыток обхода удалось зафиксировать.