У серпні минулого року в Лас-Вегасі зібралися найкращі команди з кібербезпеки, щоб продемонструвати потужність своїх систем виявлення помилок на конкурсі DARPA. Ці інструменти просканували 54 мільйони рядків коду, в які були внесені штучні помилки. Команди змогли виявити більшість з них, але їх автоматизовані інструменти знайшли ще більше десятка помилок, які не були вставлені DARPA.
Навіть до того, як цього місяця Anthropic представила свій новий AI-модель Claude Mythos, автоматизовані системи вже ставали все більш здатними виявляти помилки в коді. Зростають побоювання, що штучний інтелект не лише виявляє ці помилки, але й може бути використаний для їх експлуатації, надаючи навички злому кожному на планеті.
Це не просто порожня загроза. Протягом десятиліть такі хакери без навичок, відомі як скрипт-кідді, завдавали шкоди, запускаючи скрипти, які вони скачали з інтернету або скопіювали з наборів інструментів для експлуатації. Вони не мали технічних знань, щоб написати ці скрипти самостійно, але все ж могли зламувати сайти та поширювати віруси.
Те, що відбувається зараз, є значним ескалацією, коли люди без технічної освіти можуть використовувати AI для підвищення своїх можливостей, що раніше було неможливим з простими скриптами. Це, ймовірно, матиме набагато ширші наслідки.
“Насувається хвиля. Ви можете це бачити. Ми всі це бачимо”, – сказав Дан Гвідо, генеральний директор компанії Trail of Bits, яка була фіналістом у конкурсі. “Ви будете лежати і чекати, чи щось зробите?”
Навіть поза проектом Glasswing, Anthropic намагається запобігти зловживанню своїм програмним забезпеченням злочинцями. Через тиждень після оголошення Mythos компанія випустила Claude Opus 4.7, яка вперше включила засоби захисту, призначені для блокування зловмисних запитів у сфері кібербезпеки.
Оголошення Anthropic про Mythos викликало шок у галузі, але були попереджувальні знаки потужності AI в кібербезпеці ще до цього. У червні 2025 року автономна платформа XBOW обійшла людських хакерів, зайнявши перше місце на платформі HackerOne, що свідчить про великі досягнення в здатності AI-моделей знаходити помилки.
Коли відбувся AIxCC, “вже було 10-20 різних систем виявлення помилок, які могли знайти в десятки разів більше помилок, ніж ми могли виправити”, – сказав Гвідо. “Це насправді не нова проблема.”
AI чудово справляється з виявленням шаблонів, і стає все легше знаходити варіанти помилок, які вже відомі, а також ті, які ще не були виявлені. І написання експлойтів стає простішим.
“Ви можете використовувати AI-інструменти з дуже мінімальним людським керівництвом, а в деяких випадках без нього, щоб знайти нульовий день у широко використовуваному програмному забезпеченні”, – сказав Тім Беккер, старший дослідник безпеки в Theori, яка також була фіналістом у конкурсі.
Побоювання відчуваються в усій галузі, і покращення моделей – разом з покращенням розуміння їх можливостей – відбуваються з блискавичною швидкістю.
Відкриті моделі, або моделі, параметри яких (також відомі як ваги) є загальнодоступними, також несуть ризик. Насправді, складні загрози, ймовірно, будуть набагато більш схильні запускати свої власні розгортання, щоб запобігти експлуатації вразливостей, які можуть бути виявлені на серверах Anthropic або OpenAI.
Цікавий факт
Згідно з дослідженнями, автоматизовані інструменти для виявлення помилок можуть значно зменшити час, необхідний для виявлення вразливостей у нових кодових базах, з тижнів до кількох годин.
