Дослідники компанії Anthropic попередили про появу нового типу кіберзагроз, пов’язаних зі штучним інтелектом. Уже до кінця 2026 року компактні моделі ШІ потенційно зможуть самостійно поширюватися між підключеними до інтернету пристроями, використовуючи їхні обчислювальні ресурси без допомоги великих дата-центрів.
Дослідження, оприлюднене 12 жовтня, провели співробітники компанії Вільям Чжоу та Деніел Фрімен. Вони перевіряли, чи можуть сучасні мовні моделі знаходити доступне обладнання, запускати на ньому власні обчислення та продовжувати поширення без безпосереднього втручання людини.
Потенційними цілями таких систем можуть стати звичайні домашні пристрої, підключені до інтернету. Йдеться про бюджетні Android TV-приставки, камери відеоспостереження, роутери та іншу розумну побутову техніку.
За припущенням дослідників, автономний штучний інтелект у майбутньому може поводитися подібно до комп’ютерного хробака. Така програма здатна шукати вразливі пристрої, отримувати доступ до їхніх ресурсів і створювати власні копії на новому обладнанні.
Для перевірки технічних можливостей науковці об’єднали 15 недорогих Android TV-приставок маловідомих виробників. Кожен пристрій коштував приблизно 55 доларів, а разом вони забезпечували роботу моделі Gemma4-26B-A4B від Google DeepMind.
Продуктивність такої системи залишалася дуже низькою — приблизно 0,39 токена за секунду. Однак експеримент показав, що кілька бюджетних пристроїв можна об’єднати для виконання обчислень, які були б недоступними одному гаджету.
При цьому запуск моделі на такому обладнанні ще не означає, що вона здатна самостійно зламувати пристрої. Дослідники продемонстрували насамперед можливість розподіленої роботи ШІ на слабких процесорах.
В іншому експерименті модель із дев’ятьма мільярдами параметрів змогла генерувати відповіді на восьми з дев’яти протестованих типів обладнання. Це свідчить про здатність відносно компактних систем адаптуватися до різних обчислювальних платформ.
Процес автономного поширення дослідники розділили на чотири послідовні етапи. Спочатку система повинна знайти потенційний пристрій, після чого отримати можливість виконувати на ньому програмний код.
Наступний етап передбачає налаштування роботи мовної моделі безпосередньо на новому обладнанні. Після цього штучний інтелект має продовжити пошук інших пристроїв уже з використанням отриманих ресурсів.
Особливу увагу науковці приділили саме здатності моделей запускати власні обчислення на незнайомому обладнанні. Попередні експерименти вже демонстрували, що невеликі системи за наявності відповідних інструментів можуть виконувати окремі завдання, пов’язані з кібератаками.
У спрощених тестових умовах, де частину захисних обмежень прибрали, китайська модель GLM-5.2 та потужніші системи змогли виконати повний цикл реплікації. Однак такі результати не доводять, що автономне зараження реальних побутових пристроїв уже стало поширеною загрозою.
За прогнозом Anthropic, якщо можливості компактних моделей продовжать зростати нинішніми темпами, повністю автономні системи поширення можуть з’явитися до кінця 2026 року. Водночас цей термін є дослідницькою оцінкою, а не підтвердженою датою появи нового шкідливого програмного забезпечення.
Окрему проблему становить потенційна відсутність єдиного центру керування такою системою. Якщо модель працюватиме одночасно на багатьох пристроях, вимкнення одного сервера або комп’ютера не обов’язково зупинить її поширення.
Дослідники припускають, що зараження може відбуватися поступово, із подвоєнням кількості залучених пристроїв протягом кількох днів. За такого сценарію виявлення та блокування всієї мережі потребуватиме додаткових заходів кібербезпеки.
Найбільш уразливими можуть виявитися дешеві гаджети маловідомих брендів, виробники яких рідко випускають оновлення програмного забезпечення. Такі пристрої нерідко мають слабкий захист або залишаються з типовими заводськими налаштуваннями.
Для зменшення ризиків власникам розумної техніки рекомендують регулярно оновлювати прошивки та встановлювати доступні виправлення безпеки. Особливу увагу потрібно приділяти роутерам, телевізійним приставкам і камерам відеоспостереження.
Також важливо замінювати стандартні паролі на унікальні та вимикати функції віддаленого доступу, якщо ними не користуються. Додатковим заходом захисту є контроль мережевої активності пристроїв, зокрема перевірка того, які дані вони передають через інтернет.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
