Шоста щорічна конференція GNET: Ключові висновки
27 травня відбулася шоста щорічна конференція Global Network on Extremism and Technology (GNET). Захід, що проводився спільно з Global Internet Forum to Counter Terrorism (GIFCT) та Global Multi-Stakeholder Forum у Кінгс-коледжі Лондона, був присвячений темі «Загрози у фокусі: Переосмислення тероризму та насильницького екстремізму на технологічному фронті». Конференція зібрала науковців та представників урядів, громадянського суспільства і технологічних компаній для обговорення поточних та нових тенденцій на перетині насильницького екстремізму та технологій.
У рамках конференції відбувся виступ професорки Одрі Курт Кронін, директорки Інституту стратегії та технологій Університету Карнегі-Меллона. Вона висвітлила динаміку використання терористами технологій та наслідки для сфери боротьби з тероризмом. Після її доповіді відбулися три панельні дискусії та обговорення, присвячені різним викликам, пов’язаним з екстремізмом і технологіями.
На події зареєструвалося 685 учасників, як онлайн, так і офлайн, що свідчить про високу цінність обміну знаннями, отриманими на конференції GNET, для зацікавлених сторін у всьому світі.
Наорін Чоудхурі Фінк, виконавчий директор GIFCT, відкрила конференцію, наголосивши на важливості міжсекторальної співпраці та досліджень, заснованих на фактичних даних, для ефективного протидії використанню цифрових платформ екстремістами. Як дослідницький підрозділ GIFCT, GNET висловив вдячність за підтримку організації у проведенні цього заходу.
Ключова доповідь
День розпочався з виступу професорки Одрі Курт Кронін, яка зосередилася на тому, як терористи використовують технологічні інновації, та що це означає для майбутнього боротьби з тероризмом.
Професорка Кронін зазначила, що технології не змінили суті тероризму як політичного акту, але змінили його характер. Вона наголосила, що останніми роками тероризм стає дедалі більш автоматизованим завдяки соціальним мережам, штучному інтелекту та іншим новітнім технологіям. Це, на її думку, трансформувало як тероризм, так і контртероризм. З’їдаються загальноприйняті норми та цінності, розмиваються правила гри, а ключові рішення перекладаються з людей на машини. Внаслідок цього тероризм виходить за межі традиційних ідеологічних категорій, перетворюючись на групи, об’єднані спільними претензіями, такі як інцели, нігілісти чи прискорювачі (accelerationists).
Однак, терористи не є піонерами технологій, стверджує професорка Кронін. Вони є опортуністами, які постійно використовують новітні технології, що стають доступними для громадськості. Отже, ключовими питаннями є: як швидко нові технології поширяться серед насильницьких екстремістських рухів, як відреагують технологічні компанії та наскільки розумно уряди використовуватимуть контртерористичні технології.
Професорка Кронін виділила п’ять функціональних сфер, у яких терористи досягли прогресу завдяки наявним і новітнім технологіям за останні роки: 1) мобілізація та вербування через онлайн-канали; 2) інформаційні операції, такі як автоматизоване виробництво пропаганди; 3) розвідка з використанням супутникових зображень, карт та інших інструментів; 4) фінансування через криптовалюти та інші засоби; 5) проєкція сили від простих вибухових пристроїв до атак дронів.
Вона також висвітлила, на її думку, наступні технологічні еволюції для терористичних груп, такі як дроны, підключені до оптоволокна, для уникнення глушіння; технології розпізнавання облич для легкого націлювання; та різні системи ШІ та їх застосування, від агентних ШІ до роботизованих систем, керованих ШІ. Що ще важливіше, професорка Кронін визначила дві передові технології, які ще не поширилися серед терористичних рухів і вимагають негайного втручання для запобігання їхньому потенційному зловживанню в майбутньому: автоматизовані великомасштабні кібератаки на установи та інфраструктуру; та ризики, пов’язані з досягненнями в галузі біотехнологій, такі як великі мовні моделі (LLMs), що надають терористам поради щодо створення складних біологічних загроз.
Професорка Кронін наголосила на останньому, стверджуючи, що біотероризм є найбільшою загрозою завтрашнього дня. Для її запобігання вона запропонувала три основні напрямки: 1) посилення бар’єрів для входу анонімних клієнтів дистанційних лабораторій; 2) підвищення безпеки ШІ; 3) законодавче врегулювання суворого людського нагляду за дистанційними роботизованими лабораторіями.
Нарешті, професорка Кронін розглянула майбутнє боротьби з тероризмом, стверджуючи, що ми повинні мудро будувати та використовувати контртерористичні технології для протистояння терористичним загрозам завтрашнього дня. Вона визначила два ключові виклики на майбутнє. По-перше, складність у пошуку правильного балансу між ролями людини та машини в аналізі розвідданих. Як дозволити людям використовувати можливості технологій таким чином, щоб це не підривало їхні когнітивні здібності з часом? По-друге, важливість пошуку правильного балансу збору даних про населення країни. Вона стверджувала, що боротьба з тероризмом пов’язана з громадською думкою, і уряди повинні зміцнювати свою моральну легітимність через прозорість, захист приватності та справедливість.
«Як компанії керують, як держави зберігають легітимність, і як аналітики здійснюють судження — це все невід’ємні людські вибори. І ми знаходимося на переломному моменті у розробці мудрої політики, як в урядах, так і в приватних компаніях. Тероризм — це нелюдський акт, але він по суті людський». – Професорка Одрі Курт Кронін
Панель 1: Новітні технології та еволюція тактик, технік та процедур: висновки з кейс-досліджень GNET
Перша панель включала презентації чотирьох авторів GNET і була присвячена тому, як новітні технології сприяють новим тактикам і змінюють традиційну діяльність терористів та насильницьких екстремістів. Модератором панелі виступила доктор Ерін Солтан, старший директор з питань членства та програм GIFCT.
Дарія Алексєєва розпочала панель презентацією про використання терористами «агентного смурфінгу» — використання автономних агентів ШІ для розбиття великих криптовалютних пожертв на мікротранзакції як методу фінансування для уникнення традиційних механізмів виявлення. Інструменти ШІ також використовуються для швидкого створення тисяч криптогаманців, що допомагає подолати блокування гаманців. Вона попередила, що терористи вбудовують свої фінансові механізми в ширшу екосистему автономних мікротранзакцій і закликала до більшої координації в реальному часі між усіма зацікавленими сторонами, впровадження суворих систем виявлення на основі ШІ та прискорення механізмів перешкоджання.
Далі доктор Кай Аллен зосередився на реляційному вимірі взаємодії людини та чат-бота та запропонував типологію різних проявів радикалізації за допомогою чат-ботів. Він виділив чотири ключові способи, якими індивідуальна взаємодія людини та ШІ перетиналася або, ймовірно, перетинатиметься з процесами радикалізації, та попередив про ризики, пов’язані з поширенням спрощених моделей ШІ з відкритим кодом.
Доктор Раджан Басра, на основі свого розслідувального моніторингу, представив огляд останніх розробок у русі 3D-друкованої вогнепальної зброї. Він представив висновки, які свідчать про те, що втручання платформ та послідовні заборони негативно вплинули на онлайн-охоплення руху, зменшивши базу користувачів екстремістських платформ у соціальних мережах, присвячених 3D-зброї. Однак, він попередив, що ті, хто залишився активним, сформували ядро відданих прихильників, яких тепер складніше виявити та моніторити онлайн.
Нарешті, Мускан Сагван дослідила останні розробки в комунікаційній стратегії Ісламської держави та те, як знання про дрони поширюються через невеликі, зашифровані екосистеми. Вона стверджувала, що технічні знання терористів поширюються не лише через великі медіа, але й через більш маргінальні, звичайні цифрові простори. Тому вона закликала зосередитися не на самій технології, а на тому, як технологія використовується як зброя.
І доктор Басра, і пані Сагван зазначили, що одним із ключових викликів, пов’язаних із використанням терористами таких технологій, як дрони та 3D-принтерна зброя, є те, що обидві мають також неекстремістські та захоплені спільноти, які надають інструкції з їх використання та розробки. Таким чином, у обох випадках терористам та екстремістам не потрібно покладатися на формальні та заборонені організації для отримання інформації про використання дронів або 3D-зброї. Пов’язано з цим, матеріали для обох технологій також легко доступні та можуть бути придбані без підозр.
Панель 2: Розмиті межі: Нігілістичний насильницький екстремізм та нові насильницькі загрози
Доктор Олександр Мелеагру-Хітченс, старший викладач з питань тероризму та радикалізації на кафедрі військових досліджень Кінгс-коледжу Лондона та співдиректор Центру державного управління та національної безпеки (CSNS), модерував другу панель дня. Дискусія була присвячена онлайн-ландшафту загроз нігілістичного насильства та їх класифікації як мізантропічних спільнот, орієнтованих на насильство, з регіональних та політичних перспектив.
У першій презентації Вальдемар Балле поставив складне питання: чи є нігілістичний насильницький екстремізм (NVE) корисною категорією? Він стверджував, що субкультури нігілістичного насильства характеризуються специфічною естетикою та поведінкою, а не ідеологічними чи релігійними переконаннями. Акторами керує більше особисте бажання подолати зменшене самосприйняття та привернути увагу та визнання, на яке, на їхню думку, вони заслуговують. Таким чином, NVE як категорія може бути операціоналізована, оскільки вона вказує на конкретні набори поведінки та практики, на які професіонали можуть спиратися для ідентифікації конкретних спільнот.
Генрі Адамс запропонував контраргумент, стверджуючи, що хоча термін NVE може бути корисним у контексті боротьби з тероризмом, він не відображає різноманітність та складність взаємопов’язаних загроз, що поширюються цими спільнотами. Натомість він закликав до більш практичного підходу до протидії гібридним загрозам, який включає створення міжфункціональних структур, присвячених гібридним загрозам у відповідних органах, та посилення координації між регуляторами захисту даних та онлайн-безпеки.
Панель продовжила Ганна Роуз, яка висвітлила недавню роботу Інституту стратегічного діалогу (ISD) з цієї теми. Вона представила субкультури нігілістичного насильства як ідеологічно-агностичне насильство, кероване мізантропією, яке вимагає інших підходів до запобігання та захисту, ніж ідеологічно керований екстремізм. Вона закликала до «підходу «великих вхідних дверей», що передбачає оцінку різних вразливостей та шкоди, та ефективне спрямування осіб до відповідних служб безпеки.
Муніра Мустаффа завершила панель презентацією про субкультури нігілістичного насильства та їхній вплив на Південно-Східну Азію. Вона продемонструвала, що, незважаючи на своє західне походження, естетика та діяльність мереж NVE приваблюють молодих чоловіків по всьому світу.
Спікери показали, що існує кілька індивідуальних шляхів до онлайн-мереж NVE, зокрема через спільноти самопошкодження та екстремістські спільноти, називаючи це яскравим прикладом нової гібридизованої загрози. Вони стверджували, що поточна політика платформ щодо боротьби з цією загрозою, хоч і ефективна, все ще має тенденцію розглядати NVE ізольовано, що не відображає плинний, ідеологічно-агностичний та взаємопов’язаний характер проблеми. Таким чином, правозастосування, здійснюване командами з боротьби з тероризмом, насильницьким екстремізмом та небезпечними організаціями в технологічних компаніях, може бути занадто вузьким для виклику NVE, який охоплює дитячу експлуатацію, кіберзлочинність, скоординовані маніпуляції та підбурювання до насильства. Майбутні зусилля мають пов’язати кілька існуючих сфер політики, а не просто зосереджуватися на цьому як на проблемі екстремізму.
Так само було рекомендовано, щоб державна політика також проявляла більшу гнучкість і не просто включала NVE до контртерористичних рамок, що може непотрібно перевантажити контртерористичні служби. Розробники політики повинні розглянути, як перекалібрувати підхід від контр-екстремізму, зосередженого на ідеології, до ширших моделей запобігання насильству, які пов’язують контртероризм, безпеку дітей, цифрове регулювання та кіберзлочинність.
Дискусія: GNET та Мережа досліджень екстремізму та ігор (EGRN) в обговоренні
Після другої панелі Ерін Солтан, Олександр Мелеагру-Хітченс та директор з політики та досліджень ISD Джейкоб Дейві зібралися на сцені для обговорення інтеграції Мережі досліджень екстремізму та ігор (EGRN) до GNET.
Учасники дискусії наголосили на важливості ролі EGRN у висвітленні різних способів, якими екстремісти використовують ігрові та суміжні з іграми екосистеми. Вони стверджували, що з моменту створення у 2021 році мережа перетворилася на справжню спільноту практиків. Члени EGRN проводили дослідження; навчали правоохоронців, регуляторів та практиків P/CVE; а також надавали консультації щодо позитивних втручань для ігрового сектору та організацій громадянського суспільства.
Вони виділили прогалини, які потребують більшої уваги в майбутньому, зокрема щодо інтерпретації сигналів шкоди в контексті специфіки ігор. Вони також наголосили на необхідності створення ефективного циклу зворотного зв’язку між галуззю та дослідженнями для перетворення висновків досліджень на практичні шляхи дій для компаній. Вони дійшли висновку, що інтеграція EGRN до GNET служить подвійній меті: збереження EGRN як дослідницької спільноти, надаючи при цьому сильнішу інституційну підтримку мережі для майбутнього зростання та довгострокової стійкості.
Панель 3: Прозорість, доступ до даних та майбутнє досліджень екстремізму
Харрісон Пейтс розпочав панель презентацією Репозиторію документів, пов’язаних з екстремізмом (READ), ініціативи під керівництвом CSNS для обміну першоджерелами документів ультраправого та екстремістського спрямування з професіоналами у цій сфері. Він продемонстрував, як READ значно допомагає вирішити проблему безпечного доступу та обміну екстремістськими та терористичними матеріалами відповідальним чином, пропонуючи кваліфікований доступ користувачам після того, як вони підтвердять свою приналежність до визнаних професійних установ. Він також поділився захоплюючими новими розробками проекту з запуском нової платформи на базі DSpace, професійного програмного забезпечення для репозиторіїв.
Далі Скіп Гілмур розширив зусилля GIFCT щодо запобігання та протидії насильницькому екстремістському використанню цифрових платформ. Він зосередився на двох основних інструментах, які GIFCT використовує для допомоги технологічним компаніям у пом’якшенні поширення шкідливого контенту на своїх платформах: Базі даних для обміну хешами (HSDB) — репозиторій хешованого терористичного та насильницького екстремістського контенту, який відстежує та маркує терористичні та інші незаконні матеріали, дозволяючи компаніям-членам GIFCT ідентифікувати їх під час завантаження; та Фреймворк реагування на інциденти (IRF) — скоординована реакція в реальному часі на терористичні події.
Арда Геркенс, голова нідерландського органу з питань запобігання онлайн-контенту, пов’язаного з тероризмом, та дитячих матеріалів сексуального насильства (ATKM), потім наголосила на важливості ширшого обміну даними у сфері онлайн-екстремізму та закликала технологічні компанії до тіснішої співпраці з науковою спільнотою для виявлення та доступу до відповідних наборів даних. Вона зазначила складність заборони матеріалів, які не вироблені особами, пов’язаними з забороненими терористичними групами, або не входять до Списку санкцій ООН, що стає все більш проблематичним, оскільки загроза стає дедалі більш пост-організаційною та гібридизованою.
Нарешті, Алістер Пуллар представив нещодавню роботу Ofcom щодо доступу дослідників до даних з регульованих онлайн-сервісів для підтримки роботи з питань онлайн-безпеки. Він обговорив існуючі бар’єри, що обмежують обмін інформацією, та запропонував варіанти політики для забезпечення більшого доступу до інформації в безпечний та відповідальний спосіб. Зокрема, він закликав до створення незалежного посередницького органу, який би знаходився між дослідниками та регульованими сервісами для акредитації дослідників, розгляду їхніх пропозицій, посередництва з платформами та управління контрольованим доступом до конфіденційних даних. З точки зору досліджень, він закликав уряди надавати чіткіші та доступніші рекомендації щодо того, що є юридично прийнятним для доступу та поширення в Інтернеті.
Виявлені прогалини в дослідженнях
Конференція виявила потребу в додаткових дослідженнях за такими темами:
- Зміни характеру тероризму. Новітні технології, від соціальних мереж до ШІ, сприяли роздробленню традиційних ідеологічних категорій на групи, об’єднані спільними претензіями, такі як інцели та нігілісти, та нові перетини між різними видами шкоди. Потрібні подальші дослідження щодо того, як ця зміна функціонує, як вона впливає на фрагментацію та конвергенцію ідеологій насильницького екстремізму, і як вона сприяє появі гібридної шкоди.
- Виявлення терористичного фінансування за допомогою ШІ. Конференція виявила прогалини у протидії новим тактикам фінансування за допомогою ШІ, що застосовуються терористами для уникнення традиційних механізмів виявлення. Були б вітані додаткові дослідження щодо стратегій виявлення та перешкоджання незаконним тактикам фінансування та щодо того, як системи ШІ можуть бути використані для боротьби з цим явищем.
- Радикалізація молоді та ігри. Потрібні подальші дослідження для розуміння сигналів шкоди в контексті специфіки ігор.
- Обмін даними та співпраця. Потрібні подальші дискусії щодо того, як ефективно та безпечно обмінюватися даними між зацікавленими сторонами у цій галузі.
Ключові висновки щодо політики
- Ключовою є співпраця між багатьма зацікавленими сторонами. Конференція підкреслила, що терористичні загрози на технологічному фронті – ШІ, криптовалюти, дрони, біотехнології – швидко розвиваються. Ефективне протистояння цим загрозам вимагає посиленої співпраці між зацікавленими сторонами, більш розумного управління та кращого доступу дослідників до даних.
- Загроза гібридної шкоди вимагає більш гнучких та адаптованих політичних рамок. Тероризм, що виходить за межі традиційних ідеологічних категорій та типів шкоди, вимагає міжфункціональних політичних команд та рамок, що охоплюють різні сфери – тобто, контртероризм, безпеку дітей, кіберзлочинність.
- Створення запобіжників для автоматизованих великомасштабних кібератак та біотехнологій. Конференція наголосила на ранньому втручанні щодо двох ключових ризиків, пов’язаних з використанням терористами новітніх технологій, які ще не поширилися: автоматизовані великомасштабні кібератаки на установи та інфраструктуру та біотероризм, перш ніж можливості масштабуються та поширяться. Запропоновані заходи політики включали посилення доступу до дистанційних роботизованих лабораторій, впровадження суворого людського нагляду та покращення продуктів безпеки ШІ для уникнення потенційного зловживання.
- Зворотний зв’язок між галуззю та дослідженнями. Спікери наголосили на необхідності створення ефективних шляхів доведення відповідних висновків досліджень до уваги лідерів галузі та забезпечення того, щоб результати дослідників могли бути перетворені на практичні заходи для платформ.
- Варіанти політики для кращого доступу до інформації. Конференція висвітлила конкретні варіанти політики для кращого та безпечнішого доступу дослідників до даних, включаючи створення незалежного посередницького органу для акредитації дослідників та управління контрольованим доступом до конфіденційних даних платформ.
Ви можете переглянути записи панельних дискусій тут:
Перегляди та думки, висловлені в цій статті, є власними поглядами авторів і не обов’язково відображають позицію GNET або будь-якого з його партнерів.
Команда GNET