OpenAIはAIガバナンス機関を世界的に提唱

OpenAIは、AIには核エネルギーと同様の規制が必要であると述べ、米国がその管理のためのグローバルな規制機関の創設を主導するよう求めています。 

Cryptopolitanが報じたように、これはトランプ大統領が9年ぶりとなる米中首脳会談のために北京を訪問したタイミングで浮上しており、AI政策が議題に上る見通しです。

OpenAIのグローバル担当副社長クリス・レーンによると、トランプ大統領と習近平国家主席が同じ場に集まることは、両国がAIにとって永続的な何かを構築する貴重な機会だといいます。

「AIはある意味で、既存の貿易問題や伝統的な貿易問題の多くを超越しています。グローバルに何かを本格的に構築し始め、中国を含む世界各国が参加できる機会があります」とクリス・レーンはブリーフィングで述べました。

OpenAIとは何か、そしてなぜそのグローバル政策に関する意見が重要なのか？

OpenAIは、毎日何億人もの人々が利用する人気のAIアシスタント・チャットボットであるChatGPTを開発したアメリカ企業です。

同社は強力なAIシステムに関するあらゆる主要な議論に参加してきました。CEO のサム・アルトマンは通常、AIについて議論するために各国首脳と会談し、米国議会で証言することもあり、グローバルなAI政策に対して同社は大きな影響力を持っています。

OpenAIはまた、テスラCEOのイーロン・マスクが2024年に同社を提訴したことで、別の法的争いも抱えています。マスクはOpenAIの創業者の一人であり、サム・アルトマンや他の幹部が同社の非営利使命に反して営利組織に転換させたと主張しています。 

裁判は現在も続いていますが、今週の最大の話題は北京で起きています。

OpenAIは何を提案したのか、そしてIAEAとの比較とは？

OpenAIのグローバル担当副社長クリス・レーンは、二つのものを結びつけて新しいものを作ることを提案しました。

彼は、米国商務省のAI標準・イノベーションセンターとAI安全機関が協力してグローバルなネットワークを構築することを望んでいます。彼は、国際原子力機関（IAEA）を各国が核規制機関を一つの統合機関に結びつけた例として挙げました。 

米国商務省のAI標準・イノベーションセンターは、AIシステムの技術標準を策定する政府機関です。 

同時に、各国は世界各地でAI機関を設立しています。例えば、英国はすでに設立済みで、EUはフレームワークを整備中であり、アジアのいくつかの政府も同様の機関の設立に取り組んでいます。 

レーンは、AIの統合機関があれば、攻撃に対してより安全で堅牢なシステムの構築に役立つと述べました。また、米国政府が国内の研究者に対し、最も強力なAIモデルを展開する前にテストすることを義務付けるよう求めています。 

Mythosモデルとは何か、そしてなぜワシントンと北京を震撼させているのか？

Mythosは、オペレーティングシステムやその他のソフトウェアに「数千件」もの重大な脆弱性を発見した、強力な新しいAIモデルです。Mythosは、GoogleとAmazonが支援するAI安全企業Anthropicが開発しました。

Mythosの能力の規模は世界を驚かせ、発表後、銀行や政府がセキュリティ防衛の強化に奔走しました。ホワイトハウスの当局者でさえ、Mythosのようなモデルの登場により、中国との対話がこれまで以上に重要になったと認めています。 

中国はMythosのプレビューへの早期アクセスから除外されており、同国の開発者や政府がこのAIモデルを使った攻撃に対して自国を守る能力について懸念が高まっています。 

市場調査会社IDC Chinaは、中国をMythosから排除することで、中国と西側諸国の間にAI防衛能力の「世代間格差」が生じる可能性があると警告しました。 

研究者によると、攻撃者は高度なAIを使って生物兵器を設計したり、金融ショックを引き起こしたり、人間の制御なしに自律的に行動したりする可能性があります。最も恐ろしい点は、AIがこれらすべてを行うために必要なのは、強力で高速であり、誤った方向に向けられることだけだということです。 

トランプ・習会談では何が起き、何が話し合われたのか？

中国への米国代表団には、NvidiaのCEOジェンスン・フアンとホワイトハウスの上級技術政策顧問マイケル・クラツィオスが含まれていました。彼らの同行により、この会談は優先事項かつ緊急案件となり、双方はAI問題を直接議論するための準備を整えて臨みました。 

中国はAI問題に関する正式な対話を提案し、財務長官スコット・ベッセントと中国財政部副部長廖岷が主導することになっています。しかし、いずれの機関もAIを専門としていないため、このチャンネルへの期待は低い状況です。

米国はまた、中国の開発者が高度なAIモデルの出力を利用して、わずかなコストでシステムを構築しているものの、安全対策が少ないという懸念も提起する予定でした。

双方はまた、軍事ホットラインに類似した、AI 駆動のインシデントが疑われる場合の報告のための責任を問わないホットラインの設置の可能性についても議論しました。

アナリストは、2015年の米中サイバーセキュリティ協定と同様に、両政府がフロンティアAIモデルに対するガードレールを設けることを約束できる可能性を示唆しています。

さらに、議論は中国の半導体サプライチェーンへのアクセスを制限することを目的とした米国の提案法案「MATCH法」にも及ぶ可能性があります。 

清華大学の孫成昊氏は米中AI協議に参加し、米国はAI安全リスクの管理と中国の技術発展を阻止しようとすることの間に明確な一線を引くべきだと述べました。 

「中国はおそらく、米国がAIガバナンスと技術的封じ込めを適切に区別することを望んでいるでしょう」と孫成昊氏は述べました。 

これを読んでいるあなたは、すでに一歩先を行っています。ニュースレターでその優位性を保ちましょう。