許可なしのAI実験が密かに何百万人もの Reddit ユーザーを操作、倫理的怒りを引き起こす

人工知能研究の倫理的境界が試されている。 Reddit 上でユーザーの同意なしに行われた議論を呼ぶ実験の詳細が明らかになったためだ。名門大学の研究者たちが偽のアイデンティティを持つAIボットを展開して実際の議論を操作し、研究倫理、インフォームドコンセント、そして知らないうちに参加させられた人々への心理的影響について深刻な疑問を投げかけている。

秘密の実験

University of Zurich 、 Stanford 、および University of Pennsylvania の研究者たちは、 Reddit の r/ChangeMyView サブレディット上で無許可のAI実験を実施し、4700万以上の投稿とコメントを分析した。この実験では、人工的な性質を明かさずに議論に参加する様々なペルソナを持つAIボットを作成した。これらのボットは、ユーザーの過去の反応を研究し、視点や意見に影響を与えるよう設計されたカスタマイズされた返信を作成するようプログラムされていた。研究者たちは実験終了後になってようやくサブレディットのモデレーターに通知し、非公開のAI生成コンテンツを禁止するコミュニティルールに違反したことを認めた。

議論を呼ぶ手法とペルソナ

AIボットは特に敏感なペルソナを採用しており、虐待専門のトラウマカウンセラー、身体的嫌がらせの生存者、さらには医療ミスの被害者を装うものもあった。あるケースでは、研究者たちは Black Lives Matter 運動に反対する黒人男性を装うボットを作成した。これらの挑発的なアイデンティティは、感情的に負荷の高いトピックについて人間の視点にAIがどれだけ効果的に影響を与えることができるかをテストするために意図的に選ばれた。研究者たちは各AI生成コメントを投稿前に手動でレビューし、明らかに有害でないことを確認したが、これは欺瞞によって引き起こされる倫理的懸念を軽減するにはほとんど役立たなかった。

Reddit の反応

Reddit の最高法務責任者である Ben Lee は、この実験を不適切で非常に非倫理的であり、道徳的にも法的にも深く間違っていると非難した。プラットフォームのモデレーターたちは研究者たちの行動を強く批判し、 OpenAI のような他の組織が欺瞞や搾取に頼ることなく、AIの影響に関する同様の研究を行っていることを指摘した。実験に使用されたすべてのアカウントはその後停止され、多くのAI生成コメントはプラットフォームから削除された。

研究者の正当化

コミュニティガイドラインに違反したことを認めながらも、研究者たちはルールを破ることを正当化するほど社会的重要性が高い実験だったと主張して自分たちの行動を擁護した。彼らの声明では、コメントのAI性質を開示していたら研究が実行不可能になっていたと主張した。研究チームは批判を受けて匿名のままでいることを要求し、公開される前から自分たちの手法の議論を呼ぶ性質を認識していたことを示唆した。

専門家からの批判

University of Colorado の情報科学者 Casey Fiesler は、この実験を「私が今まで見た中で最悪の研究倫理違反の一つ」と呼んだ。彼女は、同意なしに欺瞞を使ってオンラインコミュニティの人々を操作することは「低リスク」ではないと強調し、コミュニティの怒りの反応によって証明された結果的な害を指摘した。この事件は、AI倫理、データ同意、そして新技術を展開する際の研究者の責任についての議論を再燃させた。

より広い影響

この論争は、AI研究の進歩と倫理基準の維持の間の緊張の高まりを浮き彫りにしている。 Reddit の投稿のような公開データはしばしばAIトレーニングに使用されるが、既存のコンテンツを分析することと、同意なしにユーザーを積極的に操作することの間には大きな違いがある。この事件は、特に人間の被験者が関与する場合、AIの実験に対するより厳格な透明性要件と明確な倫理ガイドラインの必要性を強調している。AIが人間の相互作用をますます巧みに模倣するようになるにつれ、心理的操作の可能性が高まり、インフォームドコンセントがこれまで以上に重要になっている。