人工知能と法的責任の交差点は、特に OpenAI にとって前例のない課題を生み出しています。ChatGPT の動作に関する最近の発見と進行中の法的紛争は、AI 開発と展開における複雑な状況を浮き彫りにしています。
ブロックされる名前の謎
ChatGPT が特定の名前に遭遇すると完全に停止することが判明し、OpenAI のコンテンツフィルタリングシステムの興味深い一面が明らかになりました。この特異な動作は、法学者や著名人を含む複数の人物に影響を与えており、誤情報や法的責任に対する AI の組み込みの安全対策を示しています。
ChatGPT で既知のブロックされている名前：
- Brian Hood
- Jonathan Turley
- Jonathan Zittrain
- David Faber
- Guido Scorza
ブロックの起源を理解する
これらの名前ベースのブロックの実装は、法的脅威につながった過去の AI の誤作動に起因します。顕著な事例として、オーストラリアの市長 Brian Hood が、ChatGPT が虚偽の収賄による投獄を主張したことで OpenAI に法的措置を講じると脅迫しました。同様に、システムは Jonathan Turley に関する架空の申し立てを生成し、存在しない Washington Post のハラスメントスキャンダルに関する記事まで作り出しました。
セキュリティへの影響と脆弱性
これらのハードコードされたフィルターは、新たなセキュリティ上の懸念を引き起こしています。研究者らは、攻撃者が画像内にかすかに判読可能なフォントでブロックされた名前を埋め込むことで、ChatGPT のセッションを妨害したり、特定のウェブサイトコンテンツの処理を妨げたりする可能性があることを発見しました。この脆弱性は、安全対策とシステムの信頼性のバランスの複雑さを浮き彫りにしています。
増大する法的圧力
OpenAI は、個人の名前に関連する問題を超えて、増大する法的課題に直面しています。カナダのメディア企業は、著作権侵害1件につきC$20,000（$14,239）を求めて法的措置を開始しました。一方、OpenAI の共同創設者である Elon Musk は、同社とCEOの Sam Altman への批判を強め、OpenAI を市場を麻痺させるゴルゴンと呼び、Altman を「ペテン師サム」と呼んでいます。
カナダのメディア企業が求めている法的賠償額：1件の侵害につき C$20,000 （14,239米ドル）
政治的および規制上の影響
Musk と Altman の関係悪化は、特に規制の観点から OpenAI の将来に重要な影響を及ぼします。次期 Trump 政権での Musk の影響力の増大と、政府効率化部門の共同責任者としての立場を考えると、OpenAI は政治的環境を乗り切る上で追加の精査と課題に直面する可能性があります。