人工知能と暴力過激主義の予防・対策実践ガイド

主要章見出しリスト

1. 序論：人工知能と暴力過激主義の防止・対策プロジェクト
2. 暴力過激主義の防止・対策における人工知能の理解
3. 人工知能と暴力過激主義の交差点
4. 暴力過激主義の防止・対策における人工知能採用の現状
5. 暴力過激主義の防止・対策における人工知能採用の課題と限界
6. 機会と課題：人工知能が暴力過激主義の防止・対策活動を強化する方法
7. 暴力過激主義の防止・対策における責任ある人工知能のリスク軽減戦略
8. 暴力過激主義の防止・対策における人工知能応用人権と倫理的懸念
9. 実施と能力構築
10. 結論、提言、優れた実践

文書概要

人工知能は、社会、経済、安全保障環境を前例のない形で再構築しており、テロリズムを助長する暴力過激主義の防止・対策分野に複雑な二重の影響をもたらしています。一方で、人工知能技術は、大量の偽情報生成、世論操作、暴力プロセスの加速のために、テロリストや暴力過激主義行為者によって悪用される可能性があります。他方で、これらの新興的・長期的課題に対処するために、暴力過激主義の防止・対策セクターを支援する大きな潜在能力も秘めています。本実践ガイドは、この急速に進化する状況に対応し、関係実務者が人工知能の可能性と限界を責任を持って活用するためのツールを提供することを目的として作成されました。

本ガイドは、国連テロ対策事務局のグローバル暴力過激主義防止・対策プロジェクトが、45か国から集めた120名の実務者および政策立案者を対象に行った調査に基づいています。調査によると、現在、暴力過激主義の防止・対策介入措置において人工知能を使用している回答者は25%未満です。低い採用率は、技術の信頼性の低さ、バイアス、プライバシー、信頼の欠如、透明性の不足など、複数のリスクに起因しています。その他の障壁には、組織の準備不足、リソースや能力の限界、関連するトレーニングの欠如（回答者の3分の1未満しか何らかの人工知能関連トレーニングを受けていない）が含まれます。しかし、現在人工知能を使用していない回答者の3分の2以上が将来的な使用を検討すると回答し、回答者の大多数は、人権、倫理、法的問題の軽減、人工知能ツールの使用、および暴力過激主義の防止・対策への人工知能適用に関するトレーニングを希望しています。

本報告書は、暴力過激主義の防止・対策分野における人工知能の応用の見通しとリスク管理について体系的に説明しています。機会の面では、ガイドは、モニタリングと評価、トレーニングと教育の最適化、研究と分析、オンライン世論監視、ディープフェイクなどの人工知能生成メディアの検出、危機コミュニケーション、積極的・代替的メッセージング、第3層支援のための行動パターン認識と予測分析、および高リスク個人との直接的な関与など、複数の主要な運用分野を人工知能がどのように強化できるかを詳細に分析しています。同時に、報告書は、運用上の課題（リソース制限、スキルギャップ、組織文化の抵抗など）および技術的課題（データ品質、モデルのバイアス、アルゴリズムの透明性など）を含む、人工知能適用が直面する課題を体系的に指摘しています。

技術の適用が国際人権基準や国連の「危害を加えない」などの中核的価値観に沿うことを確保するため、ガイドは人権と倫理的懸念について専用の章で論じています。それは、プライバシーの権利、表現の自由の権利、平等と差別を受けない権利の保護を重点的に保障する、人権に基づくアプローチの採用が必須であることを強調しています。同時に、報告書は、透明性、説明責任、説明可能性、人間の監督とコントロールといった主要な原則を提示し、気候への影響、知的財産窃盗、暴力過激主義の防止・対策情報/メッセンジャーの真正性といった具体的な倫理的問題についても検討しています。

責任ある効果的な適用を実現するために、ガイドは組織の準備から具体的な実施までの完全なフレームワークを提供しています。これには、組織の準備態勢と制度的な能力の構築、実務者に必要な中核的能力の明確化、人工知能リテラシーと技術トレーニングの実施が含まれ、戦略的評価、ステークホルダーマッピング、パイロット介入から、スケールアップと持続的なパフォーマンスモニタリングまでの完全な実施経路を計画しています。最後に、報告書は、国連およびその他の国際機関、国家当局、ドナー、テクノロジーセクター、およびすべてのステークホルダーに対して、具体的な結論、提言、優れた実践をそれぞれ提示し、原則を実際の行動に移すことを支援するため、リソースガイド、リスク評価テンプレート、チェックリストを含む実用的なワークブックを添付しています。