AI 脱獄: 脅威アクターが Google Gemini を悪意ある活動に利用する方法

Google の脅威インテリジェンス部門は最近、「生成 AI の敵対的悪用」と題する論文を公開しました。この論文では、脅威アクターが同社の AI チャットボット Gemini とどのようにやり取りしたかについて説明しています。🤖

報告書によると、これらの攻撃者は特定のプロンプトを通じて AI の脱獄を試みています。さらに、政府支援の APT (高度で持続的な脅威) グループは、悪意のある活動に Gemini を利用しようとしています。🚨

Google によると、脅威アクターは Gemini の脱獄を試み、同じプロンプトを繰り返し送信する言い換えなどの単純な戦術に頼っていたという。同社は高度な攻撃の試みは確認していない。😜

AI ジェイルブレイクは、安全でないコンテンツの提供や機密情報の漏洩など、禁止されているタスクを AI モデルに実行させることを目的としたプロンプトインジェクション攻撃です。🔒

Google は、あるケースでは、APT 攻撃者が公開されているプロンプトを悪用して Gemini を欺き、有害なコーディングタスクを実行させたと報告しました。ただし、Google は、Gemini が安全フィルタリングされた応答を返したため、この試みは失敗したと述べています。💥

手間のかからない脱獄の試みに加えて、Google は、政府支援の APT が Gemini を標的にしていると報告しました。Google によると、これらの攻撃者は、悪意のある操作を支援するために Gemini を利用しようとしました。🎯

Google は、イランを拠点とする APT 攻撃者がフィッシングキャンペーンを強化するために AI を活用するケースが増えていると報告しています。また、彼らは AI モデルを利用して防衛の専門家や組織に関する情報収集も行っています。さらに、これらのイランの APT 攻撃者は AI を利用してサイバーセキュリティ関連のコンテンツを作成しています。🇮🇷

一方、中国の APT 攻撃者は、コード、スクリプト、開発タスクのトラブルシューティングに Gemini を使用しています。さらに、AI を活用して、ターゲットネットワークへのより深いアクセス方法を探っています。🇨🇳

北朝鮮の APT 攻撃者は、悪意のあるスクリプトや回避技術の支援に Gemini を使用し、ロシアの APT 攻撃者は、公開されているマルウェアコードを別のコーディング言語に変換したり、既存のコードに暗号化を追加したりするコーディングタスクに Gemini を使用しました。最も多く使用されていたのはイランと中国でした。🌏

2025-01-31 15:06