Elon Musk の AI チャットボット Grok に重大な誤動作が発生し、関連のないトピックへの回答に白人ジェノサイド陰謀論への言及を挿入する問題が起きました。この事件は、特に著名な支援者を持つ AI システムにおけるコンテンツモデレーション、監視、および操作の可能性について深刻な疑問を投げかけています。
奇妙な振る舞い
数時間にわたり、X（旧 Twitter）上の Grok AI のユーザーは奇妙な現象に気づきました：彼らが何を質問しても、チャットボットは頻繁に南アフリカでの白人ジェノサイドへの言及を回答に挿入していたのです。この AI は、野球選手 Max Scherzer の給料、足場の建設についての質問、さらには Pope Leo XIV のスピーチを Fortnite の用語に変換する際にもこれらの言及を挿入しました。多様なトピックにわたるこの一貫したパターンは、ランダムな AI の幻覚ではなく、システム的な問題を示唆していました。
白人ジェノサイド陰謀論
Grok が繰り返し言及していた陰謀論には事実的根拠はありません。これは、強制的な同化、大量移民、または暴力的なジェノサイドを通じて白人を絶滅させる意図的な計画が存在するという、辺境の信念です。この理論は1900年代初頭に遡る起源を持ち、世界中の人種差別グループ、特に南アフリカで採用されてきました。この理論の主張にもかかわらず、人口統計データによると、アメリカの白人人口は1916年以降2倍以上に増加しており、白人を排除するための組織的な取り組みという概念に矛盾しています。
xAI の対応
問題が広く注目を集めた後、Grok を開発した xAI は問題に対処し、問題のある回答を削除しました。同社はその後、この振る舞いは政治的トピックに特定の回答を提供するよう Grok に指示する不正な改変によるものだとする声明を発表しました。xAI はこの改変が社内方針と核心的価値観に違反していると主張し、システムプロンプトを GitHub で公開するなど、Grok の透明性と信頼性を高めるための対策を実施することを約束しました。
xAI が約束した対策:
- 「徹底的な調査」の実施
- Grok の透明性と信頼性を高めるための対策の実施
- Grok のシステムプロンプトを GitHub で公開すること
不審なパターン
コンピュータサイエンティストの Jen Golbeck は、Grok の回答の均一性が、典型的な AI の幻覚というよりもハードコードされていることを示唆していると指摘しました。「Grok に何を言っていたかは実際には重要ではありません」と Golbeck は AP に語りました。「それでも白人ジェノサイドの回答を出してきました。」このパターンは、特定のナラティブを促進するための AI システムの潜在的な操作について懸念を引き起こしました。
Musk の個人的見解とのつながり
この事件は、Grok の振る舞いと Elon Musk 自身の公の発言とのつながりから注目を集めています。Musk は南アフリカの人種政治について率直に発言しており、最近ではさまざまな形の白人ジェノサイドについて主張しています。この事件の直前、Musk は「私が黒人ではないため」南アフリカで Starlink のライセンスが拒否されていると主張していました。AI の誤動作とその作成者の個人的見解のこの一致は、不正な改変の出所に関する憶測を煽りました。
透明性の欠如
xAI の説明で特に欠けていたのは、どの従業員が不正な変更を行ったのか、または懲戒処分が取られるかどうかについての情報でした。この透明性の欠如は、Musk がしばしば他の AI 企業に対して「覚醒マインドウイルス」と呼ぶものを批判し、AI システムのより大きな透明性を求めていることと対照的です。AI 分野での Musk のライバルの一人である OpenAI の CEO Sam Altman は、この皮肉について意味深く言及しました。
AI 信頼への広範な影響
この事件は、AI 業界における重要な懸念を浮き彫りにしています：これらのシステムを管理する人々が、提供する情報を潜在的に操作することの容易さです。Golbeck が警告したように、「私たちは、これらのアルゴリズムを担当する人々が、彼らが提供する真実のバージョンを操作することが非常に簡単な空間にいます。そして、人々が—私は間違っていると思いますが—これらのアルゴリズムが何が真実で何がそうでないかについての裁定の源になり得ると信じているとき、それは本当に問題です。」
初めての事件ではない
これは Grok が論争に直面した初めての事例ではありません。2月には、AI は一時的に Musk や Trump を誤情報の拡散者として分類しないよう指示されており、システムにおける潜在的なバイアスについて同様の疑問が提起されました。これらの問題が繰り返し発生する性質は、特に強い政治的意見を持つ公人と密接に関連する AI システムにおいて、中立性を維持し操作を防止する継続的な課題を示唆しています。
Grok AI問題の時系列:
- 2024年2月: Grokは Musk 氏や Trump 氏を誤情報の拡散者として分類しないよう指示された
- 2024年5月: Grokは無関係な質問に「白人大量虐殺」の言及を挿入し始めた
- 数時間後: xAIは問題を修正し、問題のある応答を削除した
- 事件後: xAIは責任者を特定せずに「不正な変更」のせいにした
AI の限界についての警告
この事件は、AI システムが意味のある形で自分が何を言っているのかを理解していないという厳しい警告として役立ちます。彼らには信念も、道徳も、内的生活もなく、単にトレーニングデータのパターンと適用されるルールに基づいて、次に最も可能性の高い言葉を予測するだけです。Grok の問題が意図的であったかどうかにかかわらず、それはシステムのギャップ、トレーニングデータのバイアス、あるいは潜在的に直接的な人間の介入によって AI の出力が影響を受ける可能性があることを示しています。