З лабораторної експертизи до чат-інтерфейсу: нова небезпека атак з використанням токсинів
Нещодавній звіт, опублікований The New York Times (NYT), виявив, що загальнодоступні чат-боти зі штучним інтелектом (ШІ), протестовані експертами з біобезпеки, надали вражаюче детальні пропозиції щодо придбання генетичного матеріалу, створення небезпечних патогенів та їх розгортання в громадських місцях. Це викликає серйозне занепокоєння, що такі інструменти можуть знизити давні бар’єри для здійснення біологічних атак та атак із використанням токсинів. Цей аналіз розглядає, як розмовні системи ШІ можуть прискорити перехід від наміру до реалізованих планів із використанням токсинів, і що це означає для розвідки, управління платформами та протидії тероризму у сфері хімічної, біологічної, радіологічної та ядерної зброї (ХБРЯ).
Від спеціалізованих лабораторій до чат-інтерфейсів
Нещодавні роботи ООН та ЄС щодо тероризму у сфері ХБРЯ та безпеки здоров’я підкреслюють, що недержавні суб’єкти стикаються зі значними перешкодами у розробці чи використанні матеріалів ХБРЯ, оскільки це вимагає спеціалізованої експертизи, контрольованих речовин та належним чином обладнаних приміщень. У комунікації Європейської Комісії 2025 року щодо готовності до надзвичайних ситуацій у сфері охорони здоров’я зазначається, що мінливий ландшафт загроз “закликає до більш інтенсивних зусиль з розробки високоспеціалізованих команд у медичній сфері та сфері ХБРЯ”, а також до збереження стратегічних потужностей для контрзаходів. Огляд Управління ООН з контртероризму щодо тероризму у сфері ХБРЯ так само наголошує, що недержавні суб’єкти повинні отримати небезпечні агенти, технічні знання та відповідні засоби доставки, щоб становити серйозну загрозу ХБРЯ.
На операційному рівні програма UNICRI “Технології та ХБРЯ” наголошує, що небезпечні матеріали та технології подвійного призначення зазвичай керуються в регульованих середовищах з фізичним захистом, контролем доступу та зобов’язаннями експортного контролю, спрямованими на запобігання їхньому перенаправленню для зловмисних цілей. Робота ЄС з готовності до ХБРЯ-НП так само передбачає, що серйозні інциденти ХБРЯ зазвичай включатимуть спеціалізоване обладнання та інфраструктуру, зазначаючи необхідність мінімальних стандартів для об’єктів та “багатодисциплінарних планів, процедур та заходів” для запобігання, готовності та реагування.
Ці припущення сформували практику розвідки, де збір інформації та раннє попередження традиційно зосереджувалися на видимих індикаторах, таких як аномальне закупівля прекурсорів, переміщення навченого персоналу, підозріла лабораторна діяльність або зусилля з отримання та експорту обладнання подвійного призначення. Коли експерименти відбуваються в лабораторіях, університетах або промислових об’єктах, потенційні зловмисники створюють логістичні та операційні сліди, які виявляються існуючими інструментами протидії розповсюдженню.
Генеративний ШІ не усуває ці фізичні обмеження, але змінює, де і як може відбуватися раннє здобуття знань та оперативне планування. Замість того, щоб консультуватися зі спеціалізованою літературою або мережами лабораторій, актори з конкретними намірами тепер можуть звертатися до великих мовних моделей (LLM) та чат-ботів, які відповідають на подальші запитання, структурують інформацію та підтримують контекст між сесіями. Коли такі інструменти доступні через зашифровані додатки, браузери, орієнтовані на конфіденційність, або локально розміщені моделі з відкритим кодом, ключові частини раннього здобуття знань можуть відбуватися в розмовних і важко спостережуваних середовищах.
Рисунки 1 і 2: Скріншоти розмови з платформою ШІ DeepAI, яка отримує понад 15 мільйонів відвідувань на місяць, зроблені автором. Щоб перевірити механізми безпеки платформи, автор виступив у ролі письменника кримінальних історій та попросив інформацію про потенційні методи поширення вірусу. Чат-бот надав інформацію про генетичну структуру вірусу, його цикл реплікації, молекулярну архітектуру та біологічні властивості. Взаємодія проводилася виключно з дослідницькою метою. Конфіденційна інформація була вилучена, щоб уникнути зловмисного використання.
Інформація, згенерована чат-ботом під час цих взаємодій, була оцінена відповідно до встановленої наукової літератури і визнана такою, що загалом відповідає загальнодоступним знанням про структуру вірусів, їхню реплікацію та біологічні властивості. Хоча модель не надала повних або безпосередньо реалізованих протоколів, результати були достатньо точними як на концептуальному, так і на технічному рівнях, щоб бути значущими для обізнаного актора з відповідною підготовкою та доступом до відповідних об’єктів. Це підкреслює, що занепокоєння стосується не лише дезінформації чи галюцинацій, а й агрегації та доступності законних наукових знань таким чином, що може знизити бар’єри для зловживання.
Що насправді показують транскрипти чат-ботів
В експериментах, описаних NYT, вчені поділилися транскриптами, в яких провідні чат-боти пояснювали, як купити сиру ДНК, зібрати її в шкідливі патогени та поширити агенти над містом за допомогою метеорологічного зонда, а також як інша модель оцінювала захворювання худоби за їхнім потенційним економічним збитком. Додаткові повідомлення узагальнювали, як одна модель адаптувала формулу протиракового препарату в уявний новий токсин і запропонувала способи розгортання біологічних агентів у громадському транспорті, тоді як інша система генерувала багатотисячне повідомлення, що приблизно відповідало покроковому протоколу виробництва вірусу епохи пандемії, хоча експерти й зазначали технічні неточності.
Розробники відповіли, що багато з цих тестів стосувалися попередніх версій моделей, і наголосили, що новіші моделі відмовлятимуться від найсерйозніших запитів, стверджуючи, що ці приклади “не збільшують суттєво” здатність непідготовленої людини завдати реальної шкоди. Експерти, цитовані в тих самих матеріалах, застерігали, що самі по собі чат-боти не роблять складну біологічну зброю легкою для виробництва, оскільки для створення життєздатних агентів все ще потрібні спеціалізовані знання, контрольовані матеріали та багаторазові практичні експерименти.
Водночас аналітики підкреслюють, що ці транскрипти показують, як чат-системи можуть допомогти користувачам об’єднати інформацію з відкритих джерел у зв’язні наративи про атаки, проводити перевірку здійсненності та досліджувати послідовність кроків таким чином, що зменшує невизначеність і підвищує процедурну впевненість для акторів, які вже мають певну відповідну кваліфікацію.
Токсини як загрози “низькотехнологічні, але з високим впливом”
Токсини, такі як рицин, займають незручне проміжне положення між саморобними хімікатами та складною біологічною зброєю. Вони можуть бути отримані з поширених прекурсорів, але залишаються технічно складними для очищення та ефективного поширення, що робить їх привабливими для екстремістів, які шукають психологічно потужні, але логістично керовані методи. Оцінка Інституту оборонних досліджень та аналізу імені Манохара Паррікара зазначає, що з кінця 1970-х років у світі було зафіксовано понад 40 змов та інцидентів, пов’язаних з рицином, але жоден з них не призвів до масових жертв, оскільки зловмисники, як правило, виробляли сирі препарати токсину з дуже низькою чистотою.
Зірвана змова, виявлена Антитерористичним управлінням Гуджарату в листопаді 2025 року, демонструє як тривалу привабливість токсинів, так і стійку складність перетворення цієї привабливості на операційну спроможність. Та ж змова, описана в оцінці Indago Technologies 2025 року щодо змови з рицином, пов’язаною з Ісламською державою Хорасан-провінцією (ISKP) в Індії, включала лікаря з Хайдарабада, навченого в Китаї, який працював з двома молодшими спільниками, і який, як стверджується, перетворив свою квартиру на саморобну лабораторію для спроби виробництва рицину під керівництвом куратора ISKP.
Згідно з цією оцінкою, угруповання планувало використати рицин для масового отруєння систем громадського водопостачання, пропозицій їжі в храмах та людних ринках у великих індійських містах, поєднуючи виробництво токсину з транскордонним контрабандою зброї за допомогою дронів та розвідкою політичних і релігійних цілей. Слідчі дійшли висновку, що на момент викриття лікар ще не успішно виділив або зробив боєздатним рицин, залишивши змову на стадії амбітної, але небезпечно просунутої підготовки. Важливо для цього аналізу, звіт Indago зазначає, що лікар використовував як звичайні пошукові системи, так і принаймні один загальнодоступний чат-бот ШІ для дослідження прекурсорних хімікатів та потенційних постачальників. Це надає ранній приклад пошуку знань за допомогою ШІ в рамках змови, зосередженої на токсинах.
Екстремістські екосистеми, інтерес до ХБРЯ та генеративний ШІ
Моніторинг, проведений Tech Against Terrorism та іншими організаціями, свідчить про те, що терористи та насильницькі екстремісти вже використовують генеративний ШІ переважно для пропаганди та маніпуляції контентом, але ці експерименти відбуваються в екосистемах, де інтерес до методів ХБРЯ існує давно. Аналіз Tech Against Terrorism понад п’яти тисяч одиниць контенту, згенерованого ШІ та розповсюдженого в терористичних та екстремістських середовищах, робить висновок, що ворожі актори використовують ці інструменти для масштабування багатомовної пропаганди, створення варіантів, що уникають баз даних хеш-обміну, та виробництва синтетичних медіа, адаптованих до конкретних аудиторій, тим самим створюючи більш щільне інформаційне середовище, в якому наративи та обґрунтування, пов’язані з ХБРЯ, можуть нормалізуватися та повторно циркулювати.
Європейські та багатосторонні органи безпеки попереджають, що впровадження терористами нових технологій, зокрема ШІ, збігається з існуючими вразливостями ХБРЯ, розширюючи можливості для онлайн-навчання та цифровізації чутливих знань. UNICRI зазначає, що зростаюча цифровізація в домені ХБРЯ, від біоспостереження до управління лабораторіями та навчання, створює нові слабкі місця, які можуть експлуатувати зловмисні актори, тоді як настанови Організації Об’єднаних Націй (ООН) наголошують, що недержавні суб’єкти активно шукають доступ до зброї масового знищення та відповідної експертизи, зокрема в хімічній та біологічній сферах.
Нещодавні дослідження генеративного ШІ та тероризму підкреслюють, що раннє зловживання зосереджувалося на масштабованій пропаганді — тобто контенті, який можна швидко і з низькими витратами виробляти та розповсюджувати у великих обсягах — а також на навчальних матеріалах та операційних настановах у суміжних сферах, таких як кібератаки, але явно вказують на потенціал LLM для зниження інформаційних бар’єрів для певних хімічних та біологічних змов шляхом оптимізації розвідки з відкритих джерел, розробки сценаріїв та базового процедурного розуміння.
Спостереження за системами, а не лише за акторами
Один зі способів уникнути спекулятивних сценаріїв про зловмисних акторів, які використовують передовий ШІ для планування або вдосконалення атак із використанням токсинів, одночасно вирішуючи реальну проблему, — це зосередитися на спостережуваній поведінці поточних систем ШІ та задокументованих екстремістських експериментах, а не на гіпотетичних майбутніх можливостях. Це передбачає двосторонній підхід.
З боку ШІ, структуроване “червоне тестування” (red-teaming) та сценарне тестування, як це рекомендовано ОБСЄ та Робочою групою з питань ШІ Глобального інтернет-форуму з протидії тероризму (GIFCT), можуть бути використані для визначення того, де і як поточні моделі реагують на запити, пов’язані з ХБРЯ, які патерни відмови вони демонструють, і чи може вороже підштовхування викликати проблемні настанови. Важливо, що такі вправи не обов’язково — і не повинні — виключно намагатися отримати детальні шкідливі результати. Вони можуть натомість зосередитися на межовій поведінці, тенденції пропонувати евфемістичні обхідні шляхи та чи перенаправляють моделі користувачів на інформацію високого рівня щодо безпеки або ненавмисно вказують на конфіденційні матеріали з відкритих джерел.
З боку екстремістів, дослідники та практики можуть продовжувати документувати конкретні випадки, коли насильницькі актори використовують інструменти ШІ таким чином, що торкаються сфер ХБРЯ — наприклад, змовник з Хайдарабада, який використовував чат-бот ШІ для дослідження матеріалів, пов’язаних з рицином, або пропагандистські канали джихадистів, які використовують генеративний ШІ для підтримки пропаганди та інтерактивного вербування, як зазначають недавні дослідження використання генеративного ШІ терористами. Триангулюючи ці дві лінії, аналітики можуть обґрунтовувати траєкторії ризиків на основі доказів того, як поводяться конкретні системи і як їх насправді використовують певні спільноти акторів.
Наслідки та рекомендації для платформ та розробників ШІ
Розробники ШІ та основні платформи становлять перший рівень захисту, оскільки їхні дизайнерські рішення визначають, наскільки легко користувачі можуть перетворити невиразний намір на практичні знання, а існуючі запобіжники — такі як фільтри ключових слів та загальні повідомлення про відмову — вже тестуються та обходяться мотивованими екстремістами. Нещодавні настанови ОБСЄ щодо етичного використання генеративного ШІ в P/CVERLT та Робочої групи з питань ШІ GIFCT вказують на три конкретні пріоритети.
По-перше, ставтеся до ХБРЯ як до особливої сфери безпеки. Платформи повинні розгортати класифікатори, специфічні для ХБРЯ, для виявлення інформації щодо біобезпеки на рівні біологічних агентів та токсинів, уникаючи оптимізації, пошуку несправностей або евфемістичних порад щодо “обхідних шляхів”. На практиці моделі не повинні пропонувати альтернативні формулювання, проксі-речовини або замасковану термінологію, коли користувачі досліджують агенти або механізми доставки.
По-друге, створюйте виявлення сигналів, що зберігають конфіденційність, замість спостереження за транскриптами. GIFCT рекомендує виявлення аномалій у журналах взаємодії чат-ботів для виявлення потенційно шкідливих патернів, таких як повторні спроби “злому” (jailbreak) або ескалація оперативних запитів. Платформи можуть розширити це, реєструючи структуровані сигнали подій — наприклад, кластери тіл, пов’язаних з токсинами, відповідно до ризик-орієнтованої рамкової політики ШІ ЄС.
По-третє, зробіть ХБРЯ окремим напрямком роботи у рамках міжплатформної співпраці. Механізми, подібні до тих, що запроваджені GIFCT, вже координують відповіді на експлуатацію ШІ терористами. Розширення цього на напрямок, зосереджений на ХБРЯ, дозволить постачальникам обмінюватися інформацією про патерни зловживань, пов’язані з токсинами, техніки “злому” та тактики ланцюжків моделей, а також спільно розробляти сценарії “червоного тестування” зі спеціалістами з ХБРЯ, органами громадського охорони здоров’я та дослідниками біобезпеки. Це виводить платформи за межі загальної мови “безпека за дизайном” до конкретного, обізнаного про ХБРЯ порядку денного, який є пропорційним конкретним ризикам, обговореним у цьому аналізі.
Загалом, наявні докази свідчать про те, що розмовний ШІ не усуває фізичні обмеження тероризму у сфері ХБРЯ, але він змінює спосіб формування намірів та приховування ранньої підготовки. Таким чином, основне політичне завдання полягає в тому, щоб виявляти ці зміни раніше, не переоцінюючи виводи чатів, але водночас визнаючи, коли вони суттєво знижують бар’єри для зловживання.