Чат-боты с искусственным интеллектом могут радикализировать новое поколение экстремистов

Советник правительства Великобритании по вопросам терроризма Джонатан Холл предостерег об угрозе радикализации нового поколения воинствующих экстремистов со стороны чат-ботов с искусственным интеллектом (ИИ).

Протестировав несколько чат-ботов в сети, Холл обнаружил, что один из них, именуемый “Абу Мохаммад аль-Адна”, выдавал себя за высокопоставленного лидера “Исламского государства”. В его профиле прослеживалась полная преданность организации, с призывом к смерти в “виртуальной” борьбе.

Мистер Холл, описывая опыт, подчеркнул, что чат-боты вплетают в свои диалоги апологию терроризма, генерируя идеологически направленные высказывания и вымышленные события, иногда отражая реальные теракты.

Он выразил беспокойство по поводу неопределенности в законодательстве. В случае использования чат-ботами манипулятивной пропаганды, ответственность перед законом за подобные действия остается неясной.