超党派の法案は透かしと出所を使ってAIディープフェイクの悪用と闘うことを目指す

by

テクノロジーと倫理の背景を持つ研究者として、私は COPIED 法が AI 生成のディープフェイクという増大する問題に対処する上で重要な前進であると信じています。 AI を使用して説得力のある偽のコンテンツを作成する機能は、特に同意と虚偽表示に関して、重大な倫理的懸念を引き起こします。

両党の上院議員チームが提案した法案は、AIが生成したディープフェイクの問題に対処することを目的としており、そのようなコンテンツに独特のウォーターマークを付けることを義務付けている。

マリア・キャントウェル上院議員（民主党-ワシントン州）、マーシャ・ブラックバーン上院議員（共和党-テネシー州）、マーティン・ハインリッヒ上院議員（民主党-ニューメキシコ州）によって提出された法案は、人工知能を使用してデジタル制作されたコンテンツに透かしを入れる統一的なアプローチを提唱している。

編集およびディープフェイクされたメディアからのコンテンツ オリジンの保護と完全性に関する法律 (略して COPIED) は、クリエイターの権利を強化し、人工知能 (AI) のトレーニングに使用されるコンテンツの種類に対する規制を導入することを目的としています。

キャントウェル氏の見解によれば、提案されている法案は、AIが生成したコンテンツに関する「本質的な明確性」をもたらし、「地元ジャーナリスト、アーティスト、ミュージシャンなどのクリエイター」が自分の作品に対するコントロールを取り戻すことを可能にすることを目的としている。

この法案が承認されれば、OpenAIなどのAIコンテンツ制作者は、生成された素材のソースに関する情報を自社のサービスに組み込む義務が生じることになる。この要件は、機械が容易に理解できる形式で提示する必要があり、高度な AI 技術による操作や削除に耐えられるようにする必要があります。

COPIED 法の施行は連邦取引委員会 (FTC) によって処理されます。 FTC は、FTC 法に基づく既存の範囲に沿って、侵害を不当または誤解を招く行為に相当するものとして分類します。

データ アナリストとして、私は人工知能 (AI) の出現に伴い、このテクノロジーの倫理的な影響について激しい議論が行われていることに気づきました。特に、Web から膨大な量の情報を収集するその能力が懸念を引き起こしています。

私はアナリストとして、OpenAI の取締役会の席を確保しないという Microsoft の決定がいくつかの懸念を引き起こしていることに気づきました。この動きは、人工知能研究所との戦略的協力またはパートナーシップに変化が生じる可能性を示唆しています。

人工知能 (AI) が社会に及ぼす影響を研究している研究者として、私は憂慮すべき事態に遭遇しました。それは、悪意のある攻撃者が、たとえ創造的な分野に従事している人であっても、本人の同意なしにあらゆる個人のディープフェイクを生成する能力を持っているということです。これらのディープフェイクは、偽造コンテンツから利益を得るために使用され、評判を傷つけ、損害を引き起こす可能性があります。

アナリストとして、私はこの法案の導入と、ディープフェイク関連の詐欺や詐欺が 245% も増加しているという驚くべき相関関係があることに気づきました。 Bitget の最新レポートによると、これらの欺瞞的な計画は、2025 年までに約 100 億ドル相当の経済的損失を引き起こすと予測されています。

仮想通貨のダイナミックな世界において、私は憂慮すべき問題に遭遇しました。詐欺師は高度な人工知能 (AI) テクノロジーを利用して、イーロン マスクやヴィタリック ブテリンなどの影響力のある人物の身元を模倣しています。彼らの目的は、存在しないプロジェクトや仮想通貨への投資を要求する詐欺的なメッセージやリンクを送信することで、何も知らないユーザーを騙すことです。これらの個人からと思われる連絡は、特に金融取引に関係するものである場合は、必ず再確認してください。常に警戒して暗号資産を保護してください。

2024 年 6 月、攻撃者が被害者を欺くディープフェイク動画を通じてプラットフォームのセキュリティを悪用した結果、OKX 暗号通貨取引所のユーザーは 200 万ドルを超える重大な損失を被りました。この事件に先立ち、香港当局は2024年5月にイーロン・マスク氏のイメージを操作して潜在的な投資家を誤解させる詐欺計画に対して措置を講じた。

テクノロジーの動向を研究している研究者として、私は国家サイバーセキュリティセンター（NCC）の創設者であるマイケル・マルコット氏が、特に仮想通貨をターゲットにしたディープフェイクに対する保護措置が不十分であるとしてGoogleに対して批判しているのを目にした。

2024-07-12 12:12