AIテロを防ぐための法律が急務です

対過激主義シンクタンクによると、各国政府は人工知能によるテロリストの勧誘を防ぐための新たな規制を「緊急に検討」する必要がある.

戦略対話研究所（ISD）は、テロリストによってオンラインに与えられる脅威に「対応するための法律の明確な必要性」があると述べている。

これは、チャットボットが英国の独立テロ法審査官を「採用」する実験に続いて行われた。

英国政府は、一般大衆を守るために「できる限りのことをする」と述べている。

政府の独立テロ法審査官であるジョナサン・ホールKC氏によると、最も重要な問題の1つは「チャットボットが生成したテロを助長する発言に対して法的に責任を負う可能性のある人物を特定するのが難しい」ことだという。

実験は、ユーザーが他のユーザーによって構築され、人工知能によって開発されたチャットボットとチャットに参加できる Web サイト、Character.ai でホール氏によって実施されました。

彼は、他の過激派グループや過激派グループの応答を模倣するように設計されたと思われる多数のさまざまなボットと会話を行っていました。

広告

イスラム国の最高指導者は「上級指導者」とさえ呼ばれた。

ホール氏によると、ボットは同氏を勧誘しようとし、英国のテロ行為を禁止する法律で禁じられている過激派グループへの「全面的な献身と献身」を宣言したという。

一方、ホール氏は、通信は人間によって行われたものではないため、英国では法律違反はなかったと述べた。

同氏の発言によれば、新たな規制はチャットボットをホストするウェブサイトとチャットボットを作成した人の両方に責任を負わせるべきだという。

Character.ai で見つけたボットに関しては、その作成の背後に「衝撃的な価値、実験、そしておそらく風刺的な側面があった可能性が高い」と述べました。

さらに、ホール氏は独自の「オサマ・ビン・ラディン」チャットボットを開発することができ、すぐに消去し、テロ活動に対する「限りない熱意」を示した。

彼の実験は、過激派が改良された人工知能を悪用する可能性があるという懸念の高まりを受けて行われた。

英国政府が2025年に発表した研究結果によると、生成型人工知能はXNUMX年までに「化学兵器、生物兵器、放射性兵器を含む非国家暴力行為者による物理的攻撃に関する知識を収集するために使用される」可能性があるという。彼らのXNUMX月の出版物。

ISDはさらに、「オンラインテロの脅威という絶えず変化する状況に対応するための法整備が明らかに必要である」と述べた。

同シンクタンクによると、2023年に成立した英国のオンライン安全法は人工知能ではなく「主にソーシャルメディアプラットフォームによってもたらされるリスクの管理を目的としている」という。

さらに、急進派は「新興テクノロジーを早期に採用する傾向があり、常に新しい聴衆にリーチする機会を探している」とも述べている。

「AI企業が自社製品の安全性を確保するために十分な投資を行っていることを証明できない場合、政府はAIに特化した新たな法律を早急に検討すべきである」とISDはさらに述べた。

ただし、実施した監視によれば、現時点では過激派組織による生成型人工知能の利用は「比較的限定的」であると述べた。

Character AIは、安全は「最優先事項」であり、ホール氏が述べたことは非常に遺憾であり、同社が確立しようとしていた種類のプラットフォームを反映していないと述べた。

同団体によると、「ヘイトスピーチと過激主義は両方とも利用規約で禁止されている」という。

「AI によって生成されたコンテンツに対する当社のアプローチは、単純な原則に基づいています。当社の製品は、ユーザーに危害を加えたり、ユーザーに他人に危害を与える可能性のある応答を決して生成してはなりません。」

同社は、「安全な応答を最適化する」目的で、ある方法でモデルをトレーニングしたと述べた。

さらに、ルールに違反する情報を報告できるモデレーションメカニズムを導入しており、コンテンツが違反を報告する場合には常に迅速な措置を講じることに努めていると述べた。

英国の野党・労働党は、人工知能に暴力を扇動したり、影響を受けやすい人々を過激化させるよう教えることは犯罪となると宣言した。

英国政府は、人工知能がもたらす「重大な国家安全保障と公共の安全のリスクに警告する」と述べた。

「私たちは政府全体で協力し、テクノロジー企業のリーダー、業界の専門家、志を同じくする国々との協力を深めることで、この脅威から国民を守るために全力を尽くします。」

政府は2023年に人工知能安全研究所にXNUMX億ポンドを投資する予定だ。

この記事を共有する：