Anthropic と OpenAI、AI の未来を守るために米国 AI 安全性研究所と提携

テクノロジー分野で長年の経験を持つベテランのアナリストとして、私は AI の安全性研究におけるこれらの最近の発展が非常に有望であると考えています。米国人工知能安全協会と Anthropic や OpenAI などの大手企業との協力は、高度な AI システムの開発において安全性が最優先事項であるべきであるという認識が高まっていることの証です。

米国人工知能安全性研究所として知られる米国商務省の国立標準技術研究所(NIST)支部は、協力パートナーシップを明らかにした。これらのパートナーシップは、覚書 (MOU) を通じて強化され、Anthropic および OpenAI という 2 つの著名な AI 企業とのものです。これらの提携の目標は、最新の AI モデルへの簡単なアクセスを提供し、同研究所がリリース前とリリース後の両方で包括的な評価を実行できるようにし、公開されたモデルの安全性を確保することです。

米国人工知能安全研究所は、覚書(MOU)を通じて、Anthropic および OpenAI と共同研究プロジェクトに協力し、主に AI の能力を評価し、潜在的な安全上の危険を特定することを目的としています。この提携により、高度な AI テクノロジーに関連するリスクに対処するための方法論が強化されることが期待されています。米国AI安全協会所長のエリザベス・ケリー氏は、技術進歩における安全性の重要性を強調し、これらのAI企業との今後の技術提携に興奮を表明した。同氏は、これらの合意は、責任あるAI開発を保証するための同研究所の継続的な取り組みにおける重要な前進を示すものであると強調した。

これらのコラボレーションを超えて、米国人工知能安全研究所は、Anthropic と OpenAI の両方のモデル内で安全性を強化するための提案を提供する予定です。この作業は英国人工知能安全協会と緊密に協力して行われ、AI テクノロジーの安全で信頼性の高い進歩を促進することを目的とした世界的な取り組みを象徴しています。

米国 AI 安全性協会が取り組んでいる活動は、測定科学、技術、標準化の進歩促進における NIST の広範な背景に基づいています。これらの共同評価は、バイデン・ハリス政権のAIに関する大統領令と一致する、NISTの広範なAIへの取り組みを強化することになる。その目的は、主要な AI イノベーターが責任ある開発に関して行政に対して行った誓約に基づいて、安全、安心、信頼できる AI システムの構築を促進することです。

ロイターの報道に基づいて、カリフォルニア州議会議員らは水曜日、物議を醸しているAI安全法案を支持した。この法案は現在、ギャビン・ニューサム知事の手に委ねられており、同知事は9月30日までに法案を否決するか、法律として承認するかを選択しなければならない。この法案では、特定のコスト制限や計算能力を超える AI モデルに対する安全性チェックやその他の保護措置を義務付けています。一部のハイテク企業は、これらの要件が技術革新を遅らせる可能性があると主張しています。

2024-08-29 23:03