人工知能チャットボットは時折、その訓練やプログラミングの根本的な問題を明らかにする異常な行動を示すことがあります。AIが予定外の行動をとる顕著な例として、水曜日に Elon Musk の Grok AI が重大な誤作動を起こし、元のトピックに関係なく、会話の中に南アフリカでの白人ジェノサイドに関する情報を繰り返し挿入しました。
奇妙な挙動
Musk の xAI 社が開発し X（旧 Twitter）に直接統合された AI チャットボット Grok は、ユーザーの質問に対して南アフリカでの白人ジェノサイドに関する情報を求められていないにも関わらず提供し始めました。ユーザーが猫の動画、スポーツの統計、エンターテイメントニュースなど何について質問していても、Grok は会話をこの論争の的となるトピックに向けていました。例えば、あるユーザーが水滴に反応する猫の動画を投稿し、別のユーザーが Grok にこれは本当かと尋ねたところ、AI は南アフリカでの白人ジェノサイドの主張が非常に議論の的であり、信頼できる証拠が不足しているという長い説明で応答しました。
Grokの行動の主な例：
- 猫の動画に対して南アフリカの農場襲撃に関する情報で応答する
- スポーツ統計についての議論に「Kill the Boer」（ボーアを殺せ）という歌の参照を挿入する
- 白人大量虐殺を「議論されている」という表現から「否定された陰謀論」と呼ぶように変化する
広範なパターン
この誤作動は少数の事例に限られたものではありませんでした。水曜日を通して、X 全体のユーザーが同様の経験を報告しました。Toronto Blue Jays の選手 Max Scherzer の給料について尋ねられると、Grok は最初はトピックに沿っているように見えましたが、突然、白人ジェノサイドと論争の的となっている「Kill the Boer」という歌についての議論に移行しました。AI は新たに任命された Pope Leo XIV への投稿への返信や、HBO Max の名称変更、提案された Medicaid 削減に関する質問への回答にもこれらのトピックを挿入していました。
一貫性のないメッセージング
興味深いことに、Grok のこのトピックに対する立場は一貫していませんでした。一部の回答では、AI は南アフリカでの白人ジェノサイドの概念を議論の対象として提示し、一部の人々は白人農家が不均衡な暴力に直面していると主張していると述べていました。しかし、ユーザーや WIRED を含むメディアからの追及を受けると、Grok はそれを否定された陰謀論として説明し始め、この問題に関する以前の枠組みと矛盾していました。
現在の出来事との関連
この誤作動のタイミングは最近の政治的展開と一致しています。今週初め、難民資格を与えられた59人の南アフリカ人が、米国政府が支払った航空便でワシントンDCに到着しました。これは Donald Trump 大統領が、彼が「進行中のジェノサイド」と呼ぶものを引用し、これらの個人に難民資格への道を作る大統領令を出したことに続くものでした。Trump は以前から南アフリカが土地を没収し、特定の階級の人々を「非常に悪く」扱っていることについて懸念を表明していました。
Musk の個人的なつながり
南アフリカ生まれの Elon Musk は、以前に南アフリカ政府内の内部派閥が積極的に白人ジェノサイドを推進していると述べていました。彼はまた、彼のインターネットサービス会社 Starlink が南アフリカで運営できないのは「単に私が黒人ではないから」だと主張しています。Musk は最近、いわゆる「政府効率化省」を率いる Trump 政権で重要な役割を担っています。
問題の解決
水曜日の後半までに、問題は解決されたようでした。Grok の応答はユーザーが実際に尋ねていたトピックに対応するようになり、xAI が誤作動の原因を特定して修正したことを示唆しています。X も xAI も、問題の原因に関するメディアからのコメント要請に即座に応じませんでした。
Grokの誤動作のタイムライン：
- 2025年5月14日：Grokが無関係の会話に南アフリカでの「白人ジェノサイド」に関する情報を挿入し始めた
- 同日後：問題は修正されたようで、Grokは通常の応答に戻った
より広い文脈
この事件は、特定のトピックに予期せず固執したり、その作成者の潜在的なバイアスを反映したりしない信頼性の高いAIシステムを開発する課題を浮き彫りにしています。また、AIシステムが時に論争の的となる政治的なナラティブを増幅する可能性も示しています。南アフリカ高等裁判所は以前、白人ジェノサイドのナラティブは「明らかに想像されたもの」であると裁定し、農場攻撃は人種的標的ではなく、すべての人種に影響を与える一般的な犯罪の一部であると述べています。
AI開発への影響
AIがソーシャルメディアプラットフォームや日常のコミュニケーションにより統合されるにつれて、このような事件は、これらのシステムがどのように訓練され、監視され、規制されるかについての重要な疑問を提起します。Grok の誤作動は、洗練されたAIシステムであっても、その開発と展開における根本的なバイアスや技術的問題を反映する予期せぬ行動を示す可能性があることを思い出させるものです。