OpenAIポリシー専門家のマイルズ・ブランデージ氏、新モデル発売中辞任

OpenAI の発展を注意深く見守ってきた研究者として、私はマイルズブランデージ氏の退職が AI の政策と倫理の状況における大きな変化であると感じています。 OpenAI 在職中にブランデージ氏の貢献に協力したことから、彼が会社の安全文化を形成し、幹部に倫理的指導を提供する上で極めて重要な役割を果たしたことは明らかです。

Miles Brundage 氏は、OpenAI の AGI 対応シニアアドバイザーとして 6 年間勤務した後、同社を辞任することを選択しました。同氏は別れの挨拶の中で、テクノロジー分野以外のAI政策研究に集中するつもりだと述べた。

この時点で、サム・アルトマン氏のリーダーシップの下にあるOpenAIが内部の課題と移行に直面している時期に彼の行動が行われたことに注目することは重要である。これらの変化には、人工知能の進歩を促進するように設計された整合性モデルなどの革新的な製品の発売が含まれます。

OpenAIポリシー専門家のマイル・ブランデージ氏が辞任

2018 年に私は OpenAI コミュニティに参加し、それ以来、政策問題に対処し、先進的な AI テクノロジーの安全性を確保することに積極的に関わってきました。私の貢献の大部分は、ChatGPT などの最先端の AI システムの最適な使用と管理を中心に行ってきました。

ここ数年、ブランデージは当社のレッドチーム構想の形成に重要な役割を果たし、OpenAI の AI モデルアーキテクチャの利点と脆弱性を強調する「システム分析」レポートの作成に貢献してきました。

AGI (人工知能) 準備チームの一員としての役割において、ブランデージ氏は CEO のサムアルトマンを含む幹部に AI 関連の問題について倫理的なアドバイスを提供しました。彼は、OpenAI の成長と進化の重要な段階で、OpenAI の安全文化を形成する上で重要な役割を果たしました。

ブランデージ氏は自身のソーシャルメディアプラットフォームで、OpenAIで働くことは非常に大きなチャンスであると表明し、辞任は難しい決断だったと強調した。同氏は同社の目的を賞賛しながらも、AI政策に関する議論の中で自律的な研究者を追加する必要性を強調した。

リーダーシップの変化における移行

Miles Brundage 氏の OpenAI からの退社は、CTO の Mira Murati 氏と研究担当副社長の Barret Zoph 氏の最近の退任と一致していることを考えると、重要な意味を持つ。 Brundage の決定を支持する Sam Altman 氏は、Brandage が OpenAI の外で追求しようとしている政策研究活動は、最終的には同社に利益をもたらすと信じています。

経済調査部門は、以前は AGI 準備チームの一部でしたが、現在は OpenAI の新しいチーフエコノミスト、ロニー・チャタジ氏の管理下にあります。ミッション連携責任者のジョシュア・アチアム氏は、これまでブランデージ氏がプロジェクトで担当していた任務の一部を引き継ぐことになる。

マイルズ・ブランデージ氏の今後の焦点は、AIの規制、その経済への影響、将来のAI開発の安全性の確保の調査に移る予定だ。同氏は、一貫性モデルの適用など、さまざまな業界にわたる AI の実装に関連する課題に対処するためには、これらの側面が重要であると強調します。

一貫性モデルと新しい AI の開発

同時に、サムアルトマン氏の OpenAI は、AI のサンプル生成プロセスの速度を高めるための新しい戦略である一貫性モデルを発表しました。従来の拡散モデルとは異なり、これらの新しいモデルは高品質のサンプルをより迅速に生成できるように設計されており、人工知能技術の大幅な進歩を示しています。

これらの新しいモデルの導入は、特に 66 億ドルの投資を受けて運用上の問題に取り組み、全体的な生産能力を拡大するという当社の戦略の重要な側面を形成します。

一貫性モデルの出現は、同社の運営に対する批判の高まり、特に AI モデルのトレーニングプロセスにおける著作権侵害の告発と同時に起こりました。スチル・バラジ氏のようなOpenAIの元従業員らは同社の技術について懸念を表明しており、AI技術の適切な規制についての議論が続いている。

2024-10-23 23:10