В Китае и РФ уже используют ИИ Anthropic для кибератак, слежки и разработки опасных технологий
Киев • УНН
Anthropic заблокировала попытки использовать Claude для кибератак, слежки и разработки опасных технологий. Среди участников — Китай и Россия.
Злоумышленники и связанные с государствами группы в Китае и России уже пытаются использовать искусственный интеллект Anthropic для кибератак, массовой слежки и других опасных операций. Об этом говорится в новом отчёте компании, сообщает Politico, пишет УНН.
Подробности
Anthropic заявила, что выявила и заблокировала ряд случаев злоупотребления моделями Claude. Среди них — кибероперации, системы слежки, кампании влияния, а также попытки использовать ИИ для исследований, которые потенциально могут быть связаны с созданием биологического оружия.
Компания зафиксировала случаи, когда её модели пытались привлечь к автоматизации кибератак и разведывательных операций. Отдельные схемы были связаны с государственными структурами или субъектами из Китая и России.
Биологическая угроза
Особое беспокойство в Anthropic вызвали запросы, связанные с биологией. В одном из случаев пользователь пытался получить от ИИ помощь в исследовании, которое могло сделать опасный вирус более вредоносным. Компания заявила, что заблокировала такую активность.
Также Anthropic противодействует попыткам незаконно копировать возможности Claude для обучения других моделей. Ранее компания сообщала о масштабной нелегальной экосистеме, участники которой пытаются обходить ограничения и создавать большое количество аккаунтов для получения доступа к её технологиям.
В компании предупреждают, что по мере роста возможностей ИИ подобные системы могут всё сильнее упрощать проведение сложных кибератак и других опасных операций, которые ранее требовали значительного количества специалистов и ресурсов.