Meta が中国とイスラエルで AI 主導の影響力のあるアカウントを排除

テクノロジーとサイバーセキュリティの背景を持つ暗号通貨投資家として、AIツールを使用した秘密の影響力キャンペーンに対するMeta Platformsの継続的な戦いは非常に憂慮すべきことであると感じています。人工知能を通じて偽情報を作成する能力は、ソーシャル メディア プラットフォームの完全性を破壊し、世論を揺るがす可能性がある危険な傾向です。


Meta Platforms Inc.は最近、秘密の操作活動に関与していたことが判明し、中国、イスラエル、イラン、ロシアを含むさまざまな国に由来する500以上のFacebookアカウントを削除した。同社の最新の四半期セキュリティ更新情報によると、これらのキャンペーンは高度な人工知能技術を利用して虚偽の情報を広めたという。

悪意のあるユーザーは、ユーザーを本物のコンテンツからそらすことを目的として、人工知能 (AI) を含む高度な技術を利用して、Meta Platforms Inc. (Facebook、Instagram、WhatsApp) 上で欺瞞的なメッセージ、ビジュアル、クリップを作成しています。

水曜日に発表されたメタ社の最近の調査結果を分析したところ、私の観点からすると、同社がネットワーク内に生成型 AI を導入しているにもかかわらず、既存の構造を破壊する能力は依然として変わっていないことがわかりました。

暗号通貨投資家でありテクノロジーに精通した個人として、私はソーシャルメディアプラットフォームのセキュリティと完全性に関するMeta Platformsの発表を注意深く監視しています。最近、彼らは 2 つの別々の偽情報キャンペーンの特定とその後の削除を明らかにしました。これらのネットワークの 1 つは中国から発信され、人工知能 (AI) を利用して、存在しない親シーク運動を描いた偽画像を作成していました。もう 1 つのネットワークはイスラエルから発信され、AI を利用してイスラエル軍に対する不当な賞賛を表明するコメントを生成しました。幸いなことに、両方のキャンペーンは大きな注目を集める前に中止されました。

火曜日の記者会見で、メタ社の脅威軽減政策責任者デビッド・アグラノビッチ氏は自身の見解を共有し、現在、生成型AIはそれほど複雑な方法で利用されていないと述べた。プロフィール写真の作成や大量のスパムの生成に AI を使用しても、まだ効果的な結果は得られていません。

しかし、アグラノビッチ氏は、「これらのネットワークは本質的に敵対的であることが知られている。テクノロジーの進歩に合わせて戦略を適応させ続けると予想される」と警告した。

Meta で世界情勢に焦点を当てている研究者として、私は AI によって生成されたコンテンツを分類し、本物のユーザーが作成した素材と区別することが緊急に必要であることを認識しています。 2024 年の選挙シーズンが近づき、30 か国以上が国際選挙の準備を進めているため、この問題はさらに重要になっています。これらの中で注目に値するのは米国、インド、ブラジルであり、いずれも当社のアプリに大きく依存しています。デジタル空間における透明性と信頼を確保することは、世界中の民主的プロセスの完全性を維持するために不可欠です。

アナリストとして、私は Meta の写真のタグ付け方法が変化し、現在では可視タグと不可視タグの両方を使用していることに気づきました。コンテンツ規制の観点から見ると、メタは AI によって生成された欺瞞的なコンテンツを削除するのではなく、代わりに特定するようになりました。 Facebook と Instagram では、広告主は社会問題、選挙、政治広告への人工知能の使用を開示することが義務付けられています。ただし、政治家による政治広告は依然として同社による事実確認の対象外となっている。

2024-05-29 23:17