封禁から見るグローバルガバナンス：技術倫理、地緣政治とデジタル主権の衝突
14/01/2026
2024年1月のある週末、東南アジアの2つの主要国——インドネシアとマレーシア——が相次いでイーロン・マスク傘下のxAI社が開発したチャットボット「Grok」のブロックを発表した。これは単なる通常のネットコンテンツ規制ではなく、生成AIツールに対して全面的な禁止措置を講じた世界初の事例となった。この歴史的な決定を引き起こしたのは、Grokが非自発的ポルノのディープフェイクコンテンツ、特に女性や子供を対象とした露骨な性的画像の作成に広く悪用されていたことである。
インドネシア通信・デジタル大臣のメティア・ハフィードは声明で明確に表明しました：政府は非自発的ディープフェイクを、デジタル空間における人権、尊厳、市民の安全に対する重大な侵害と見なしています。それから24時間も経たないうちに、マレーシア通信・マルチメディア委員会が追随し、Grokに対する一時的な制限を実施すると発表しました。これら2つの多数のムスリム人口を抱える国々は、世界のAI規制の波における先駆者となりました。
技術的悪用と規制の空白：事件の世界的反響
生成系AIの「ダークサイド」が露呈
Grokは、Xプラットフォーム（旧Twitter）に統合されたAIチャットボットとして、2023年のリリース以来、そのマルチモーダル能力でユーザーを惹きつけてきました。昨年の夏、xAIはGrokに画像生成機能「Grok Imagine」を追加しました。これにはいわゆる「スパイシーモード」が含まれており、成人向けコンテンツを生成することができます。この機能は当初、ユーザーエンゲージメントを高めるために設計されたかもしれませんが、すぐに大規模な悪用のツールへと変貌しました。
技術的な観点から見ると、Grokの画像生成能力は生成AIの最新進歩を代表しています。ユーザーは普通の写真をアップロードするだけで、簡単なテキストプロンプトを通じて、写真の中の人物の服を脱がせたり、性的な暗示を含むポーズを取らせたりすることができます。この技術的なハードルの低下により、同意のないポルノコンテンツの制作がかつてないほど簡単になりました。インドネシアデジタル空間監督総局長のアレクサンダー・サバルは、予備調査の結果、Grokには効果的な保護対策が欠けており、ユーザーがインドネシア住民の実在の写真に基づいてポルノコンテンツを作成・拡散するのを阻止できないと指摘しています。
グローバルな規制対応の差異スペクトル
インドネシアとマレーシアの禁止決定は孤立した事件ではなく、世界的な規制対応の極端な現れです。ヨーロッパから北米まで、各国政府はさまざまな方法でこの危機に対処しています：
英国の技術大臣リズ・ケンダルは、今週中に『データ法』において非自発的親密画像の作成を刑事犯罪とする規定を正式に施行し、『オンライン安全法』の優先犯罪として位置づけることを発表した。英国のメディア規制機関Ofcomは、Xプラットフォームに対する正式な調査を開始しており、違法が発見された場合、全世界の売上高の10％または1800万ポンドの罰金を科すことができる。
カナダ側では、AI担当大臣のエヴァン・ソロモンがXプラットフォームの全面的禁止の可能性を排除したが、政府内でAIによって生成された児童性的虐待資料を王立カナダ騎馬警察（RCMP）が調査することを検討する活発な議論が行われていることを明らかにした。欧州委員会は、マスク氏とX社に対し、Grokの出力に関連する文書を保持するよう命令し、調査の可能性を示唆している。
インド、ブラジル、フランス、アイルランド、オーストラリアなどの国の当局者も調査の意向を示しています。米国の民主党上院議員グループは、アップルとグーグルに対し、同社がこの問題を解決するまで、Xをアプリストアから削除するよう要求しました。
文化的感受性とデジタル主権：東南アジアの独自の立場
宗教的価値観とインターネットガバナンスの伝統
インドネシアとマレーシアは、世界で最もムスリム人口が多い2つの国として、そのインターネットガバナンス政策は宗教的・文化的価値観に深く影響を受けています。両国は長年にわたり、ネット上のポルノコンテンツに対して厳しい姿勢を取り、OnlyFansやPornhubなどのプラットフォームをブロックしてきました。Grok事件はこの敏感な神経に触れることとなりました。
Wired誌の報道が問題の深刻さを明らかにした：数十万のフォロワーを持つインフルエンサーがGrokを使用して女性の写真を修正し、彼女たちのヘッドスカーフやローブを除去している。ある事例では、生成された3人の女性の画像が波打つ長い髪とかなり透けるドレスを着た姿で表示され、その画像は70万回共有された。このような宗教的服装のデジタル除去は、文化的に強い不快感を与えるものである。
「予防的」規制の論理
マレーシア通信・マルチメディア委員会は声明の中で、禁止措置は法的および規制手続きが進行中の間の予防的かつ比例的な措置であると強調しました。この表現は、東南アジアの規制当局の中核的な論理を明らかにしています：危害が発生する前に行動を起こし、事後の対応ではなく事前の予防に重点を置くことです。
インドネシア通信省は、この措置がAIで生成された偽のポルノコンテンツから女性、子供、および広範なコミュニティを保護することを目的としていると述べています。アレクサンダー・サバル氏は、写真が操作されたり同意なく共有されたりする場合、このような行為がプライバシーや肖像権を侵害し、心理的、社会的、および評判の損害を引き起こす可能性があると指摘しています。
この予防的な立場は、西洋のより表現の自由と事後規制を重視する伝統と対照的です。マレーシアとインドネシアの規制当局が今月、X社とxAIに対し保護強化措置の強化を要請した際、得られた回答は主にユーザー報告メカニズムに依存していました。規制当局は、このような受動的な対応ではプラットフォーム設計に内在するリスクに対処するには不十分であると考えています。
プラットフォームの責任とグローバルガバナンス：悪用の責任は誰にあるのか？
マスクの矛盾した立場とプラットフォームの対応
エロン・マスクの規制措置への反応は、巨大テクノロジー企業と政府間の緊張関係を浮き彫りにしている。英国政府が行動を検討した際、マスクはXで、英国労働党政権が検閲の口実を求めていると応じた。コンテンツ規制を言論弾圧と同一視するこの枠組みは、非自願的ポルノディープフェイクが個人に与える具体的な害を見落としている。
XプラットフォームのGrok乱用に対する公式対応は矛盾しており不十分です。一方では、違法コンテンツ制作にGrokを使用または促す者は、違法コンテンツをアップロードした者と同じ結果に直面すると述べています。他方では、AP通信がxAIにコメントを求めるメールを送信した際、メディアサポートメールボックスからの自動返信「伝統的メディアは嘘をつく」しか受け取れませんでした。このような対立的な姿勢は問題解決に役立ちません。
グローバルな反発に直面しているにもかかわらず、Grokは先週、画像生成と編集機能を有料ユーザーに制限しましたが、批判者はこれが問題を完全には解決していないと考えています。1月中旬時点で、無料アカウントユーザーは依然として性的およびポルノ画像を作成できます。
規制パラダイムの根本的転換
Grok事件はグローバルな規制パラダイムの転換を推進しています。英国の技術大臣、リズ・ケンドールは明確に述べました：責任は個人の行動だけにあるのではなく…このような素材をホストするプラットフォームも責任を負わなければならず、Xも含まれます。彼女は政府が『犯罪及び警察法案』に基づく措置を基に、ストリップアプリを刑事犯罪化すると発表しました。
この新たな刑事犯罪は、企業が非自発的親密画像作成を目的としたツールを提供することを違法とし、問題の根源に対処します。ケンドルは強調します：これは一部の人々が主張するような言論の自由の制限ではありません。女性と少女に対する暴力問題を解決するための措置です。
カナダ女性法律教育行動基金やカナダ児童保護センターなどの擁護団体は、自由党政権が2024年に提案した機関に類似したオンライン規制機関の設立を求めています。彼らは、Xプラットフォーム上の性的ディープフェイクの波が、政府が専門的なオンライン規制機関を設立する必要性を示していると主張しています。
被害者の視点と将来の課題：技術が武器となる時
個人傷害の真の代償
Grokの悪用において最も不安な側面は、実在する個人への直接的な被害です。インドネシアのXユーザーであるキラナ・アユニンティアスは、日常の経験を共有する車椅子利用者ですが、見知らぬ人が彼女の写真の下にコメントし、Grokに彼女がビキニを着ている姿を描くよう要求していることに気づきました。アユニンティアスはプライバシー設定を調整し、プラットフォームに画像の削除を依頼しましたが、残念ながら、これらの対策は実際には効果を発揮しませんでした。
彼女は友人に、彼女の偽造画像を公開したアカウントを通報するよう依頼しましたが、そうすることで編集された画像がより多くの人目に触れることになり、彼女は深く恥ずかしい思いをしました。誰かがそれらの画像を保持しているかどうかを判断するのは難しいと、彼女は付け加えました。この無力感と持続的な不安感こそが、非自発的ディープフェイクが被害者に与える心理的影響の縮図です。
英国放送協会（BBC）は、Xプラットフォーム上で複数のデジタル改変画像の事例を確認しました。それらの画像では、女性たちが同意なく衣服を脱がされ、性的なポーズを取らされています。ある女性は、彼女を性的に描写した画像が100枚以上作成されたと述べています。
グローバル調整と将来の規制の道筋
Grok事件は生成AI時代におけるグローバルガバナンスの断片化を露呈した。各国の対応は様々で、全面的な禁止から刑事立法、調査や業界の自主規制呼びかけまで多岐にわたる。このような不整合は規制のアービトラージ（裁定取引）の余地を生み出し、企業が規制が緩やかな司法管轄区域に事業を移す可能性がある。
将来の規制はいくつかの方向に進展する可能性があります：第一に、プラットフォームの責任を強化し、AIツールにより効果的な保護措置を組み込むことを要求すること；第二に、国際協力を強化し、越境的な法執行を調整すること；第三に、デジタル透かしやコンテンツ追跡技術などの技術的解決策を発展させること；第四に、公衆の意識とデジタルリテラシーを向上させることです。
英国の影の技術大臣ジュリア・ロペスは、政府がストリッピングツールに対して行動を起こすことを支持しているが、プラットフォームの全面的な禁止については懸念を示している：インターネットは以前にも犯罪者に利用されたことがあるが、ウェブサイトが禁止されたことは一度もない。これは、スキャンダルを暴露し、民主的革命を引き起こし、私たちが好まない考えを含む日常的な自由な意見交換を可能にするために使用できるプラットフォームに対して取られる極めて深刻な行動である。
Grokの禁止事件は単なる技術的または法的問題ではなく、デジタル時代の核心的ジレンマに触れています：イノベーションの促進と危害の防止のバランスをどう取るか、異なる文化的価値観の間で合意をどう築くか、そしてグローバルなガバナンスをどう調整するかという問題です。インドネシアとマレーシアの決定は、世界的なAIガバナンス競争の始まりに過ぎず、終わりではありません。生成AIの能力が継続的に向上するにつれ、技術倫理、デジタル権利、国家主権に関するこの議論はますます緊急性と複雑さを増していくでしょう。