画期的な協力体制として、ソーシャルメディア大手の Meta 、 Snap 、 TikTok が、各プラットフォーム上の自殺と自傷行為に関するコンテンツの拡散を抑制することを目的とした新たな取り組み「 Thrive 」を発表しました。この提携は、現在ソーシャルメディアが直面している最も深刻な問題の一つに対処する上で、大きな一歩を踏み出したと言えます。
Thrive の仕組み
Thrive はシグナル共有システムを採用しており、参加企業が自殺と自傷行為に関するポリシーに違反するコンテンツについて互いに警告を出すことができます。このプログラムは Meta の技術インフラを利用しており、違反コンテンツに対応するハッシュ（数値コード）を安全に共有することが可能です。
Thrive の主な特徴は以下の通りです：
- 自殺や自傷行為を生々しく描写する画像や動画のハッシュを共有
- ウイルス的に広がる自殺や自傷行為のチャレンジを促すコンテンツに対する警告
- 識別可能なアカウント情報を除外することによるユーザーのプライバシー保護
有害なコンテンツの影響
この問題の規模は膨大です。 Meta だけでも、4月から6月の間に Facebook と Instagram 上で1200万件以上の自殺と自傷行為に関するコンテンツに対して対策を講じたと報告しています。この数字は、 Thrive のような協力的な取り組みの緊急性を浮き彫りにしています。
バランス調整：モデレーションとオープンな議論
Thrive は有害なコンテンツを削除することを目的としていますが、 Meta はメンタルヘルスに関する建設的な議論の場を設ける重要性も強調しています。同社は、違反コンテンツを見つけにくくする一方で、メンタルヘルス、自殺、自傷行為に関する経験を共有することは許可する方針です。ただし、そのようなコンテンツが宣伝的でなく、生々しい描写を含まない場合に限ります。
支援を必要とする人々へのサポート
コンテンツのモデレーション努力と並行して、 Meta はサポートリソースの提供にも取り組んでいます。自殺や自傷行為に関するコンテンツを検索したり共有したりするユーザーは、アメリカの場合、988 Suicide & Crisis Lifeline や Crisis Text Line などの地域の組織につながれます。
今後の展望
Thrive の立ち上げは、重要な問題に対処するためのプラットフォーム間協力において大きな一歩を示しています。このプログラムが発展するにつれ、他のソーシャルメディア企業が参加するかどうか、そしてこのアプローチがオンライン上の有害なコンテンツの拡散を減らす上でどれほど効果的であるかを見守ることが興味深いでしょう。
支援を求めている方へ、サポートが利用可能であることを忘れないでください：
- アメリカ：Crisis Text Line に HOME と送信するか、988 Suicide & Crisis Lifeline に電話してください
- 国際的には：International Association for Suicide Prevention または Befrienders Worldwide で地域のリソースを確認してください