Автономні агенти в кібербезпеці: сама автоматизація може стати новою вразливістю
Дослідження KTH та Swedish Defence Research Agency, що протестувало ШІ-агентів для автоматичного реагування на інциденти на реальному кібер-полігоні, дало не лише обнадійливий результат (агент на основі reinforcement learning обійшов класичний захист на жорстких правилах), а й доволі тверезе попередження від самих авторів: технологія “ще далека від практичного застосування”, і проблема — не технічна, а операційна.
Головна причина — чутливість до хибних спрацювань. У реальній мережі рівень хибних алертів становив 1,7% без імітованих користувачів і зростав до 3,3% з ними — і це для відносно контрольованого тестового середовища. У продакшн-мережі з реальним трафіком цей показник, найімовірніше, буде вищим. Кожне хибне спрацювання — це або даремно заблокований сервіс, або даремна витрата ресурсів команди на розслідування.
Але найцікавіше застереження інше: автори прямо пишуть, що “впровадження автоматизованих агентів будь-якого типу може створити нові поверхні атаки, які зловмисник здатен експлуатувати”. Іншими словами, якщо зловмисник знає, що мережу захищає автоматичний агент з певною логікою прийняття рішень, він теоретично може навчитися провокувати його: викликати каскад хибних спрацювань, щоб змусити систему заблокувати критичні сервіси (фактично DoS через власний захист), або навпаки — намацати патерни поведінки, які агент ігнорує.
Це не привід відмовлятися від автоматизації в кіберзахисті — швидкість реакції критична, і повністю ручна обробка тисяч алертів давно нереалістична. Але це вагомий аргумент проти підходу “увімкнув і забув”. У проєктах E-Light автоматизація (EDR/XDR) завжди працює в парі з контролем доступу (IAM/PAM) — щоб навіть скомпрометована чи введена в оману автоматична система не мала змоги завдати шкоди понад визначені межі — та з технічною підтримкою 24/7, де рішення автоматики верифікує людина, перш ніж вони стають незворотними.
