Предупреждение о новом классе киберугроз
Компания Anthropic, разработчик ИИ-модели Claude, опубликовала результаты исследования, в котором предупреждает о возможности появления так называемых «ИИ-червей». По оценкам экспертов, это могут быть автономные программы, способные самостоятельно распространяться между различными устройствами без вмешательства человека. Среди потенциальных целей называют умные телевизоры, холодильники, роботы-пылесосы и другую бытовую технику.
Эксперименты с небольшими моделями
Исследователи проверили, могут ли компактные нейронные сети запускаться на доступном оборудовании и самостоятельно настраивать свою работу на разных платформах. В ходе одного из тестов модель Gemma 4 запустили на 15 недорогих Android-приставках, стоимость которых составляла около 55 долларов США за штуку. В другом эксперименте модель Qwen3.5-9B смогла успешно настроить запуск на восьми из девяти типов тестового оборудования.
Более мощная модель GLM-5.2 продемонстрировала более выраженную способность к распространению: она организовала передачу другой нейронной сети на все восемь устройств в четырех из пяти испытаний. Однако специалисты отмечают, что эксперименты проводились в упрощенной среде с ограниченными защитными механизмами, а небольшие модели на данный момент не могут надежно выполнять весь процесс самостоятельно.
Механизм самосовершенствования
Важным аспектом исследования стало выявление того, как передача новым копиям ИИ записей о действиях предшественников влияет на эффективность. Эта практика повышала успешность выполнения задачи с 45% до 61–84%. Это свидетельствует о потенциальной способности таких систем совершенствовать свои действия в процессе распространения.
Прогнозы и отличия от вирусов
По прогнозу Anthropic, небольшие модели могут достичь подобного уровня возможностей к концу 2026 года. При этом исследователи подчеркивают, что полностью автономного самовоспроизводящегося ИИ на данный момент не существует.
В отличие от обычных компьютерных вирусов, такие системы потенциально смогут адаптироваться к незнакомому оборудованию и распространяться без единого центра управления. Однако процесс может быть довольно медленным: создание новой копии способно длиться несколько дней.
Anthropic предупреждает, что противодействие таким угрозам потребует совместных усилий производителей устройств и интернет-провайдеров.
Комментарии
К этой новости пока нет комментариев. Будьте первым!