ソーシャルメディアプラットフォームは、若いユーザーを有害なコンテンツや交流から保護するよう、ますます圧力を受けています。 Meta の最新の取り組みは、 Instagram で年齢を偽って登録している未成年ユーザーを特定するために、人工知能の能力を拡張することです。
年齢の虚偽表示を対象とする新しいAI検出システム
Meta は Instagram での年齢確認に対する人工知能アプローチを強化し、成人の生年月日で登録している10代のユーザーを積極的に特定するシステムを導入しています。月曜日にアメリカで試験が始まったこの新しい取り組みは、プラットフォームが年齢確認を処理する方法における重要な変化を表しています。ユーザーが提供した情報に単に依存するのではなく、 Instagram は今後AIを通じてさまざまな信号を分析し、成人として登録されたアカウントが実際に18歳未満の人物に属しているかどうかを判断します。
Instagram のAI年齢検出の仕組み
AIシステムは、ユーザーの実際の年齢について判断するために複数のデータポイントを調査します。 Meta によると、この技術はユーザーが交流するコンテンツの種類、エンゲージメントパターン、プロフィール情報、アカウント作成日などの特定の信号を調べます。このシステムは、成人のものと主張するアカウントに対して友人が「16歳の誕生日おめでとう」などのメッセージを投稿するといった、コミュニケーションの文脈的手がかりも検出できます。 Meta によれば、同様の年齢層の人々は通常、特徴的な方法でコンテンツと交流するため、AIが分析できる追加の行動パターンが提供されるとのことです。
AI年齢検出シグナル
- コンテンツ閲覧パターン
- ユーザーエンゲージメント行動
- プロフィール情報分析
- アカウント作成タイミング
- メッセージコンテキスト（例：誕生日の祝福メッセージ）
検出された10代のアカウントに対する自動設定変更
Instagram のAIシステムが成人の生年月日を持ちながらも10代に属していると判断したアカウントを特定すると、より制限の厳しい10代向けアカウント設定が自動的に適用されます。これには、アカウントをデフォルトでプライベートにする、ダイレクトメッセージをユーザーがフォローしている人や既につながっている人のみに制限する、格闘を描写する動画や美容整形を促進する投稿などのセンシティブなコンテンツへのアクセスを制限するなどが含まれます。さらに、これらのアカウントは60分間の連続使用後に通知を受け取り、睡眠モードが有効になります。睡眠モードでは、午後10時から午前7時までの間、通知がオフになり、ダイレクトメッセージに自動返信が送信されます。
Instagram 十代アカウントの制限
- デフォルトでプライベートアカウント設定
- ダイレクトメッセージはフォロワーと繋がりのあるユーザーのみに制限
- センシティブなコンテンツのフィルタリング（格闘動画、美容整形手術など）
- 60分使用後の通知
- スリープモード（午後10時から午前7時まで）で通知を無効化し、自動返信を設定
誤った判断に対するユーザーの対応策
Meta は、AIシステムが常にユーザーの年齢について正確な判断を下すとは限らないことを認めています。潜在的なエラーに対処するため、 Instagram はAIによって誤って10代と識別されたと考えるユーザーが設定を元に戻すことを許可します。このオプションは、システムによって誤ってフラグが立てられる可能性のある成人ユーザーに対するセーフティバルブを提供します。
増大する監視と法的圧力への対応
この強化された年齢検出アプローチは、若いユーザーのメンタルヘルスと安全に対するソーシャルメディアの影響を懸念する親、立法者、規制当局からの圧力が高まる中で導入されました。欧州連合は昨年、 Meta が若いユーザーを適切に保護しているかどうかについて調査を開始しました。さらに、 Instagram で子どもを標的にする捕食者に関する不穏な報告により、少なくとも1つの米国州司法長官から法的措置が取られています。
責任に関する業界の意見の相違
未成年者をオンラインで保護する問題については、テック大手間で顕著な意見の相違が生じています。 Google は、年齢確認の責任をアプリストアに転嫁しようとしているとして、 Meta 、 Snap 、および X （旧 Twitter ）を公に批判しています。この対立は、未成年者のオンライン保護を強化することを目的とした法律がユタ州で可決されたことを受けて浮上しました。 Meta や他のソーシャルメディア企業は、年齢確認の責任をアプリストアに置くことを提唱していますが、批評家たちは、プラットフォーム自体が自社製品が子どもにとって安全であることを確保するためにより直接的な責任を負うべきだと主張しています。
保護者参加イニシアチブ
年齢確認に対するこの拡張されたアプローチの一環として、 Instagram は保護者に対して、オンラインで正確な年齢情報を提供することの重要性について10代の子どもと話し合う方法に関するガイダンスを通知で送信します。これは、若いユーザーによる適切なプラットフォーム利用を確保するプロセスに保護者をより直接的に関与させる試みを表しています。