ビジネス

#BigTechの約束を確認する

公開済み

6年前

2018 年 5 月 11 日

シリコンバレーのパターンはあまりにも馴染み深いものです。速く動き、物事を壊し、謝罪し、より良くすることを約束し、そして繰り返す。このパターンのほぼXNUMX年後、私たちは疲れ果てています、 書き込み ハニー・ファリド博士.

ユーザーのプライバシーを保護するという目覚ましい失敗に疲れ果てており、広告主は人種や年齢に基づいて住宅や求人広告を違法にターゲティングし、暴力を扇動して選挙を妨害するように設計された偽のニュースを宣伝し、テログループがオンラインで過激化して採用し続けることを許可しています。私たちは謝罪とより良いことをするという約束に疲れ果てています。

政策立案者や広告主は、過激なテロ関連の資料から子供を対象とした性的に露骨なコンテンツまで、あらゆるものに積極的に対処していないソーシャルメディア企業の不満にますます声を上げています。これに対し、YouTubeは先週、過去8か月間に6.7万本を超える動画を削除したと発表しましたが、その大部分はスパムまたはアダルトコンテンツでした。削除されたコンテンツの合計76万がマシンによって自動的に識別され、そのうちのXNUMX％が単一のビューを受け取る前に削除されました。

YouTubeはまた、暴力的な過激主義の動画の半分以上が10回未満の視聴で削除されたと報告しています。ただし、これらの動画のうち削除された動画の数はわかりません。もちろん、YouTubeのアルゴリズムや人間のモデレーターが見逃した動画の数はわかりません。

表面的には、これらの数字は有望に聞こえますが、よく見ると別の絵が描かれます。今年の8月26日から256月XNUMX日までのXNUMX週間にわたって、私たちは独自のテクノロジーを使用して、以前に特定されたISISが生成したテロ関連の動画XNUMX本だけがYouTubeのプラットフォーム上に存在することを特定しました。これが私たちが学んだことです：

942本以上のISISビデオがYouTubeにアップロードされました。
広告
これらの942本の動画は、合計134,644回の再生回数を記録しました。
動画の74％が12時間以内にYouTubeに残っていましたが、この時間枠内で、これらの動画はそれぞれ平均252回の視聴を獲得し、最大視聴回数はXNUMX回でした。
48時間以上利用可能な動画の場合、515時間のウィンドウでの平均視聴回数は9,589回で、最大視聴回数は48回でした（XNUMX時間のウィンドウの後で視聴の追跡を停止しました）。
これらの942本の動画は157の異なるYouTubeアカウントによってアップロードされ、そのうちのいくつかは、チャンネルがYouTube管理者によって削除されるか、ユーザーによって削除される前に70本もの動画をアップロードしました。
私たちが見つけた動画の約91％は複数回アップロードされ、少なくとも私たちがそれを見つけるのに十分な時間オンラインのままでした。

具体的な例をXNUMXつだけ挙げると、 それらを狩るO '一神教は、25年2017月10日にISISのソマリアの関連会社によって最初にリリースされたもので、パリやロンドンを含む西側諸国での銃器や車両の攻撃を助長しています。この動画は2018年29月405日にYouTubeにアップロードされ、11時間利用可能で、削除される前に39回再生されました。この動画は113月875日に別のアカウントで再アップロードされ、XNUMX時間利用可能で、XNUMX回再生された後、再び削除されました。その後、この動画はXNUMX週間のウィンドウで少なくともXNUMX回再アップロードおよび削除され、合計でさらにXNUMX回の視聴がありました。

私たちの分析からいくつかのパターンが明らかになりました。自動ツールを使用してテロ関連のコンテンツを見つけて削除しているとの主張にもかかわらず、同じコンテンツがYouTubeに繰り返しアップロードされており、多くの場合、同じアカウントからアップロードされています。このコンテンツは数時間から数日までオンラインにとどまり、数百から数千回視聴されています。削除されると、同じコンテンツが単に再アップロードされます。つまり、いつでも効果的に利用できます。資金とコンピューティングのリソースが限られているCounterExtremism Projectのような小さな非営利組織がこれらのプラットフォームでコンテンツを見つけることができれば、プラットフォーム自体が同じことを行えない理由はわかりません。

肝心なのは、テロ関連のコンテンツが多すぎてオンラインになりすぎて、オンラインのままでいる時間が長すぎて、最終的に削除されても再表示され続けるということです。

数年前と比べるとある程度の進歩は見られますが、テロ関連のコンテンツを迅速かつ正確に見つけて削除するためのテクノロジーの開発と展開には、依然として大きなギャップがあります。業界は、既存のテクノロジーを改善するだけでなく、絶えず変化する状況に対処するために新しいテクノロジーを開発および展開するためにさらに多くのことを行う必要があります。これは、私たちが抱える問題を解決するために、今後XNUMX〜XNUMX年でAIを使用するという漠然とした約束を超える必要があります今日直面している。

政策立案者、広告主、そして一般の人々は、テクノロジー企業に、プラットフォームでの乱用から生じる直接的で測定可能な危害に対してより多くの責任を負うよう圧力をかけ続ける必要があります。これらのテクノロジー企業がより効果的に対応しない場合、政策立案者は（ドイツ人のように）罰金を検討し、広告主は（ユニリーバがそうすると脅したように）広告費を差し控えることを検討する必要があります。

ハニーファリド博士は、ダートマス大学のアルバートブラッドリー1915年XNUMX世紀教授兼コンピューターサイエンスの議長であり、過激主義対策プロジェクトの上級顧問です。

この記事を共有する：