EU

スマートな#AI戦略は、EUに#Facebookコンテンツのモデレーションが無難であることを納得させることができますか？

公開済み

4年前

2020 年 3 月 6 日

17月XNUMX日、ブリュッセルで欧州の政策立案者と会談しながら、Facebook CEOのマーク・ザッカーバーグ （写真） ソーシャルメディアプラットフォームで有害なコンテンツに対処するための戦略を概説したホワイトペーパーをリリースしました。ハイテクセクターの監視を迅速に行いたいという欧州連合の要望に応えて、億万長者は、業界をローカルレベルではなくグローバルレベルで規制すべきであると主張しました。

また、効果的なコンテンツモデレーションシステムが導入されている限り、プラットフォーム上の有害なコンテンツに対するハイテク企業の責任は制限されるべきであると主張しました。しかし、ザッカーバーグの提案は、ブリュッセルで明らかに冷ややかな歓迎を受けました。 Zuckerbergに会った後でも、EUはFacebookの新しいコンテンツモデレーションの提案が多くの面で不十分であり、特にプラットフォームが違法なコンテンツとオンラインで戦うために取るべき具体的な手順を明確に述べていないと主張しました。 "足りません。 Facebookのトップエグゼクティブとの座談の後、データ戦略コミッショナーのThierry Breton氏は意見を述べました。

Facebookの現在のシステムはどこで不足していますか？

技術の巨人は、問題のあるコンテンツを抑制するための自分の努力で十分であると欧州の政策立案者を説得するためのかなり狭いウィンドウを持っています。欧州委員会のデジタルサービス法、EUの20年前の電子商取引指令の待望の改訂は、今年後半に展開される予定です。 Bretonが述べたように、「[Facebookがコンテンツをモデレートするための独自のプロセス]が独自の基準に関して必要なものではない場合、これを規制して[Digital Services Act]に入れる必要があります」。

Facebookは、人工知能（AI）と機械学習の進歩を使用して現在のシステムを強化することにより、コンテンツのモデレーション自体の問題を解決できると判断しています。問題のある素材を特定して削除するという厄介な作業は、現在、画像やビデオが好ましくない理由を判断するために彼らの裁量を使用するサードパーティの専門家に外注されています。

このような人間の監視への依存は、一部のコンテンツモデレーターの恐ろしい性質をふるいにかけられることを考えると問題があります。ヨーロッパの機関で。さらに、Facebookがクライストチャーチ・モスク攻撃の2019年のライブストリーミングなどの有害なコンテンツの迅速な削除を繰り返し失敗した後、人間の節度の有効性が疑問視されています。

AIはFacebookの死角の一部を埋めることができます

人工知能は、人間の節度へのそのような依存を大幅に減らす可能性があります。機械学習によって訓練されたアルゴリズムは、有害なオンラインコンテンツへの露出を減らすだけでなく、生産性と精度を高めることによって、モデレーターをサポートできます。 FacebookはこれまでAIの実験で有望な結果を見たと主張している。プラットフォームによれば、プラットフォームは2019年下半期にグラフィックコンテンツの99.8％、ヌードと児童の搾取の99.5％をユーザーが通知する前にフラグを立てた。。もちろん、この技術には依然として微調整が必要です。たとえば、AIに基づくコンテンツ調整アルゴリズムは、たとえばヘイトスピーチのニュアンスの認識に特に苦労しています。これは、欧州連合が特に懸念している問題です。

さらに、EUはFacebookがAIのようなデリケートなテクノロジーを悪用する自由な統治を許可することを警戒しています。これらの懸念は、主にFacebookが欧州の透明性基準を満たしていないことによるものであり、プラットフォームでのサードパーティまたは政府による監査を妨げる「ブラックボックスアルゴリズム」を開発する可能性が高まっています。

EUのデジタル皇帝兼競争主任であるMargrethe Vestagerによって先週リリースされたデジタルポリシーの中心で、企業が人工知能を使用する方法を規制しています。 EUは、顔認識技術の使用など、政府がリスクの高い側面を監視することを望んでいますが、ヨーロッパの裏庭にある多くのアプリは、安全かつ効果的に使用できる方法を示しています。 Facebookは彼らから手がかりを得ることができますか？

次世代のソーシャルメディアアプリがAIを革新的に使用することで注目を集める

特にヨーロッパのアプリの13つは、若いユーザーに安全で快適な体験を提供するために、人工知能を創造的に活用しています。 25〜20歳のライブストリーミングアプリであるYuboは、複雑なアルゴリズムと、オンラインでの被害についての若者への教育とのバランスに依存しており、XNUMX万人のユーザーをプラットフォーム上で安全に保ちます。入念に訓練されたアルゴリズムが、ライブストリームでヌードや下着だけの誰かなどの問題のあるコンテンツを検出します。これは、Yuboのリアルタイムインターベンションシステムが起動し、そのような行動が好ましくない理由を説明する警告メッセージをユーザーに送信するときです。ユーザーが行動を修正しない場合、ストリームをリモートでシャットダウンできます。

アプリがティーンエイジャーと若い大人に予約されていることを確認するために、一方、Yuboは、顔認識ソフトウェアを使用してユーザーの自撮りにアップロードされた身分証明書を照合する、人気の英国ベースのデジタルアイデンティティプロバイダー、Yotiと提携しています。 18歳未満がタバコやアルコールなどの制限された商品を買わないようにするためにスーパーマーケットにも展開されているYotiのテクノロジーは、他のソーシャルメディアアプリで採用され、コミュニティを「年齢制限」するか、ユーザーが彼らが誰だと言うのか。

コンピュータ支援のモデレートと、優れたオンラインプロトコルのすべきことと悪いことについての若いユーザーの意識を高めることにより、問題のあるオンラインコンテンツをつまようとするYuboの試みは、テクノロジーセクターに大きな影響を与えました。また、Facebookなどのハイテク大手とEUなどの規制当局の両方に、ソーシャルメディアプラットフォームがAIまたは人間の監視のいずれかに過度に依存するという健全なバランスをとることができるという有望な例を提供する必要があります。

人工知能は、ソーシャルメディアプラットフォームが直面する課題をすべて解決するものではありません。 FacebookがEUに独自のコンテンツをモデレートできることを説得しようとするとき、ユーザーを安全に保つためのAIを組み込んだ全体的な戦略を開発した新世代のアプリからヒントを得ることで、それは十分に役立つでしょう。

この記事を共有する：