OpenAI安全性が法廷で問われる——元社員がGPT-4インド展開問題とAltman解任の経緯を証言

イーロン・マスク氏がOpenAIの解体を求めて起こした訴訟の審理が、カリフォルニア州オークランドの連邦裁判所で進んでいます。AGIレディネスチームが2024年に解散し、安全性特化のSuper Alignmentチームも同時期に廃止されるなか、元社員や元取締役が証言台に立ち、OpenAIが商業化を優先するなかでAI安全性への取り組みが後退したと主張しました。GPT-4のインド展開をめぐるプロセス上の問題、Altman氏による取締役会への情報開示のあり方、そして2023年の一時解任——これらの経緯が法廷で改めて詳細に語られています。

OpenAIの「安全性軽視」を元社員が証言

2021年にOpenAIのAGIレディネスチームに加わったRosie Campbell氏は、2024年にチームが解散されたことを受けて退社しました。同時期に、安全性に特化した別チームである「Super Alignmentチーム」も廃止されています。

Campbell氏は法廷で、「入社当初は研究重視の文化があり、AGIや安全性について活発に議論されていた。しかし時間が経つにつれ、プロダクト重視の組織に変わっていった」と証言しました。

同氏が特に問題として挙げたのが、MicrosoftがインドのBing検索エンジンにGPT-4を展開した際、OpenAI社内のDeployment Safety Board（DSB）による評価が行われる前にリリースされた件です。モデル自体のリスクは大きくなかったとしながらも、「技術がより強力になるにつれて、強固な前例を作る必要がある。信頼性をもって守られる安全プロセスを整備しておきたい」と述べました。

OpenAIはモデルの評価結果と安全フレームワークを公開しているものの、AGIアライメントへの現在のアプローチについてはコメントを拒否しています。現在の準備態勢責任者であるDylan Scandinaro氏は2月にAnthropicから採用されており、Altman氏はこの採用について「今夜はよく眠れる」とコメントしています。

Altman解任劇の内幕——取締役が「情報開示の欠如」を証言

GPT-4のインド展開問題は、2023年のSam Altman CEO一時解任の引き金のひとつとなっています。当時の取締役Tasha McCauley氏は、Altman氏が取締役会に対して十分な情報を開示していなかったと証言しています。TechCrunchは、Altman氏が取締役会に対して情報を広く伝えないパターンが広く報道されていたと報じています。

具体的には以下の問題が挙げられました。

Altman氏が別の取締役に対し、McCauley氏がHelen Toner取締役（OpenAIの安全方針を暗に批判する白書を発表）を解任しようとしていると虚偽の説明をした
ChatGPTの一般公開という重大な決定を取締役会に事前通知しなかった
利益相反の可能性について開示を怠った

McCauley氏は「私たちは非営利の取締役会であり、その下にある営利組織を監督する使命を持っていた。しかし、伝えられる情報が正確かどうかをまったく信頼できず、十分な情報に基づいた意思決定ができる状態ではなかった」と述べました。

最終的に、OpenAIの従業員がAltman氏支持に回り、Microsoftも現状維持に動いたことで、取締役会はAltman氏の解任を撤回し、反対派の取締役が辞任する形で決着しました。この経緯は、非営利取締役会が営利組織を実質的に監督できなかったことを示す事例として、マスク氏側の主張の核心を支えるものとなっています。

OpenAIの弁護士側はCampbell氏に対し、「推測的意見」として、OpenAIの安全アプローチはマスク氏が創業したxAI（今年SpaceXに買収）より優れているという認識を認めさせています。

また、マスク氏側の専門家証人として出廷したコロンビア大学ロースクール元学長David Schizer氏は、McCauley氏の懸念に同調しました。Schizer氏は「OpenAIは安全性をミッションの核心と位置づけ、利益より安全を優先すると述べてきた。安全審査が必要なものは必ず審査されなければならない。プロセスの問題こそが重要だ」と述べました。

元取締役の証言が示したOpenAI監督機能の限界

今回の裁判で浮き彫りになったのは、非営利ガバナンスの構造的な脆弱性と見られます。取締役会が正確な情報を得られなければ意思決定が機能しないという構造的矛盾は、急速に商業化を進めるAI企業において、安全性の担保がいかに困難かを示すものとして注目されていく可能性があります。マスク氏の訴訟が、研究組織から大規模な営利企業へと転換したOpenAIの設立時の合意を問う裁判として進むなかで、この証言の持つ意味はさらに大きくなると見られます。