Группа исследователей из Университета штата Пенсильвания (США) создала новейшую ИИ-модель, способную в кратчайшие сроки идентифицировать пользователей на сайте X (Twitter), которые размещают агрессивный экстремистский и террористический контент, связанный с ИГИЛ. Ученые уверены, что их новейшая разработка будет более эффективно выявлять потенциальные угрозы и дифференцировать пользователей, которые размещают агрессивный экстремистский и террористический контент, связанный с ИГИЛ, используя методы машинного обучения и обработки естественного языка.
В дальнейшем ученые смогут делать прогнозы на основе собранного массива данных с помощью методов машинного обучения и используя изображения и текстовые данные. Уже разработан классификатор изображений для выявления изображений, которые больше всего прикреплялись к твитам об ИГИЛ. Подобные разработки способствуют развитию стратегий кибербезопасности, направленных на защиту конфиденциальной информации и предотвращение попыток взлома или утечки данных. В качестве массива данных ученые использовали твиты 2009-2021 годов. В модели используются методы прогнозирования для того чтобы искать предположительные сообщения террористической группировки «Исламское государство» (ИГИЛ) в соцсети Х.
Эта ИИ-модель даст возможности таким технологическим гигантам, как Twitter, Facebook и Google более эффективно защищать их соцсети, полностью уничтожая террористическую деятельность ИГИЛ. Эта технология позволит им принимать оперативные меры против профилей и страниц, размещающих террористический контент, тем самым сохраняя безопасное пространство на своих платформах для всех пользователей. По словам аспиранта университета Юнеса Карими (PhD по информатике), филиалы, сторонники и последователи террористической ИГИЛ продолжают манипулировать онлайн-сообществами, распространяя экстремистский контент. Об этом он пишет в своей работе в специализированном журнале Social Media Analysis and Mining. В статье сообщается, что в массив данных вошли аккаунты пользователей, известных как члены группировки «Исламское государство», а также те, кто ретвитнул, процитировал или упомянул ИГИЛ.
Очевидно, что деятельности ИГИЛ наступает конец также и в социальных сетях, которые группировка использует для распространения террористической пропаганды, уничтожении конкурентных группировок и вербовки сторонников. Это все происходит вопреки контрмерам таких сайтов, как X (Twitter), которые активно удаляют аккаунты пользователей в Интернете.
Карими уверен, что пользователи, которые ретвитят или цитируют материалы группировки «Исламское государство», с большей вероятностью являются сообщниками или сторонниками ИГИЛ, а упоминающие эти материалы — сторонники террористической группировки. По словам исследователей, наиболее часто используемые хэштеги ИГИЛ включают «ИГИЛ», «Новости Халифата», «Исламское государство», «Срочно» и «Государство Халифат».
Исследователи уверены, что их подход, сфокусированный на пользователях и пользовательском контенте, будет успешно применен и на других платформах социальных сетей.
Источник: AI-model developed to detect extremist users, ISIS-related content on X
