大学研究者がAIによる電話詐欺に警告

20年以上の経験を持つベテランの仮想通貨投資家として、私はテクノロジーの急速な進化とそれが私たちの生活にもたらす両刃の影響を目の当たりにしてきました。 UIUC の研究者らによる最近の AI 主導の電話詐欺エージェントの開発は、高度なテクノロジーがいかに凶悪な目的に悪用される可能性があるかをはっきりと思い出させます。

イリノイ大学アーバナシャンペーン校 (UIUC) の研究者は、OpenAI 音声アプリケーションを利用した高度な電話詐欺ボットを作成しました。これらのハイテク機器はさまざまな種類の電話詐欺を実行できるため、詐欺計画における人工知能の悪用に対する懸念が生じています。

毎年、約 1,800 万人のアメリカ人が電話詐欺の被害に遭い、総額約 400 億ドルの損失を被っています。 OpenAI の高度な GPT-4o モデルを利用する最新の AI エージェントは、会話を模倣し、音声キューに反応することができるため、会話をより説得力があり、識別が困難になります。

Kang の調査結果によると、これらのエージェントを使用して収益性の高い詐欺を実行するのにかかる費用は、平均してわずか 0.75 ドル程度であることが明らかになりました。このコストの削減により、詐欺師が関与しやすくなります。

研究グループは、これらの人工知能詐欺ボットがどれほど成功したかを評価するために多数のテストを実施しました。彼らの主な焦点は、暗号通貨取引、ギフトカードの手口、個人情報の窃盗などの典型的な詐欺でした。

AI エージェントが総成功率 36% を達成したが、かなりの数のエラーがエージェントの能力自体ではなく転写の問題に起因していたことは注目に値します。わずか 1,051 行のコードを含むその構造の単純さは、この種の洗練されたテクノロジが二重用途向けにいかに簡単に作成できるかを強調しています。

精通した仮想通貨投資家として、私は詐欺師が頻繁に銀行や政府機関などの評判の良い団体を装い、疑いを持たない被害者を騙して機密情報を漏らしさせるという厳しい方法を学びました。これらの狡猾なスキームには、Web サイトの操作や 2 要素認証プロセスの処理など、複雑な手順が含まれる場合があります。これらはすべて、合法的に見えて私たちを不意を突くように設計されています。したがって、機密データを共有する前に、常に警戒を怠らず、すべての通信を再確認することが重要です。

たとえば、不正な銀行送金は最大 26 の個別のステップを経て実行される可能性があり、その実行には約 3 分間かかる可能性があります。これらの行動の複雑さは、論理的な議論を維持する能力と相まって、重要かつ困難な敵となっています。

AI が進歩するにつれて、ユーザーはその利点と潜在的な危険性の両方に常に注意を払う必要があります。 AI は大きな可能性を秘めていますが、管理を誤ると問題が発生する可能性があります。電話で個人情報を開示する場合には注意し、詐欺師が使用する戦略について常に最新の情報を入手することが重要です。常に情報を入手し、警戒を続けることで、ユーザーはこうした進化し続けるリスクからより効果的に身を守ることができます。

2024-10-29 13:10