OpenAI が 5 つのキャンペーンで AI を利用した欺瞞的な影響を阻止

by

テクノロジーとサイバーセキュリティの背景を持つアナリストとして、私は、秘密の影響力作戦における同社の AI テクノロジーの使用に関する OpenAI による最近の暴露に憂慮すべきと同時に興味深いものを感じています。これは、高度な AI モデルが世論を操作し、政治的結果を左右するためにどのように武器化されるかをはっきりと思い出させます。

サム・アルトマンによって設立された大手人工知能企業であるOpenAIは、最近、世論操作に同社のテクノロジーを悪用しようとするいくつかの秘密キャンペーンに対して措置を講じたことを明らかにした。具体的には、5 月 30 日に、この組織は秘密の影響力活動に関与したアカウントの終了を発表しました。

暗号通貨投資家として、私はOpenAIの最近の発表を注意深く観察してきました。そして、ここ 3 か月間で、オンラインでの欺瞞活動に当社のモデルを悪用しようとする 5 件以上の秘密作戦を阻止することに成功したことを知り、とてもうれしく思いました。

これらの個人は人工知能 (AI) を使用して記事へのコメントを作成し、ソーシャル メディアのペルソナを確立し、テキスト翻訳をレビューして修正しました。

AI を欺瞞的に使用する秘密の影響力作戦による試みをどのように妨害しているか:

— OpenAI (@OpenAI) 2024 年 5 月 30 日

「Spamouflage」と名付けられた 1 つの作戦では、ソーシャル メディアを調査し、X、Medium、Blogspot などのさまざまなプラットフォームで多言語コンテンツを生成するために OpenAI のリソースが使用されました。これは、国民感情を形成し、政治的決定に影響を与えることを目的として行われました。さらに、コーディングの問題のトラブルシューティングやデータベースと Web サイトの監視に AI テクノロジーを活用しました。

「Bad Grammar」と名付けられた代替キャンペーンでは、ウクライナ、モルドバ、バルト三国、米国を含む4カ国が焦点となった。この秘密の取り組みでは、OpenAI モデルを使用して Telegram ボットを操作し、政治的結果を導き出しました。さらに、AI テクノロジーは、このグループの活動内でコードのデバッグ、データベースの管理、Web サイトの管理に利用されました。

「ドッペルゲンガー」と呼ばれる 3 番目のグループは、人工知能技術を利用して、英語、フランス語、ドイツ語、イタリア語、ポーランド語などの複数の言語で発言を作成しました。彼らの目的は、一般の感情に影響を与えることを目的として、X や 9GAG などの人気のあるプラットフォームでこれらのコメントを広めることでした。

「国際仮想メディア連合」（IUVM）というイランのサイバー攻撃者は、イスラエルと米国の両国を軽蔑しながらイランを擁護するオンラインコンテンツを一貫して公開している。

アナリストとして、私はイスラエルに拠点を置く STOIC という営利企業が、ガザ紛争、イスラエルのヒスタドルート労働組合組織、インドの選挙に関連したコンテンツを制作していることに気づきました。私たちが「ゼロ ゼノ」と呼ぶこのプロジェクトは、ストア派哲学の創始者にインスピレーションを受けています。しかし、彼らのキャンペーンへの関与は比較的低かった。

OpenAIは宣言の中で、多様な主体が取り上げたテーマは、ロシアのウクライナ侵攻、ガザ地区での衝突、インドの選挙、ヨーロッパとアメリカの政治、中国の反体制派と外国政府の両方からの中国政権への批判など幅広い範囲に及んでいると指摘した。

私は最近、OpenAI の主任研究員である Ben Nimmo が書いたレポートを見つけました。彼は現在見出しを飾っている、最も著名かつ最も長く続いている影響力キャンペーンの実例をいくつかニューヨーク・タイムズに共有した。

OpenAI の最近の開発を研究している研究者として、私は、彼ら自身の観察によれば、新しい運用の発表にもかかわらず、サービスを通じた視聴者のエンゲージメントやリーチが顕著に向上していないことを発見しました。

2024-05-31 09:56