Empire of AI
Dreams and Nightmares in Sam Altman’s OpenAI
2025年刊
Karen Hao著
著者の経歴
カレン・ハオは、米国のAI専門ジャーナリストである。マサチューセッツ工科大学で機械工学を学び、卒業後、テクノロジー分野の報道に進んだ。MIT Technology ReviewではAI担当上級編集者として、AIの技術開発、倫理、企業戦略を取材した。その後、Wall Street Journalで米国と中国のテクノロジー企業を担当した。2019年からOpenAIの内部取材を続け、AI開発を支える労働環境や資源消費、企業統治の問題を追究してきた。本書は、その長期取材を集大成した初の単著である。
本書の内容
1.AI帝国の誕生
本書は、人工知能の発展を単なる技術革新の歴史としてではなく、新しい経済的・政治的権力が形成される過程として描く。2015年に設立されたOpenAIは、人間の知能を広範囲に再現する汎用人工知能（AGI）を開発し、その恩恵を人類全体に行き渡らせるという理念を掲げていた。創設者たちは、Googleなどの巨大企業が高度な人工知能を独占することを危惧し、営利目的から独立した研究機関を設立する必要があると考えた。しかし、AIの研究が進展するにつれて、最先端のモデルを開発するためには膨大な計算資源、大量の学習データ、優秀な研究者、巨額の資本が必要となった。OpenAIはこうした資源を確保するために組織を拡大し、当初の非営利研究機関から世界有数の商業的影響力を持つAI企業へ変貌していった。ハオは、この過程を19世紀の植民地帝国の形成になぞらえる。かつての帝国が遠隔地の資源や労働力を集めて本国の富を増大させたように、現代のAI企業も世界中からデータ、労働力、電力、資本を集め、その成果を少数の企業に集中させている。著者が問題視するのはAI技術そのものではなく、人類全体の利益を掲げる企業が、実際には極めて集中的な権力構造を形成していることである。
2.アルトマンの思想
サム・アルトマンは、シリコンバレーの起業家支援組織Y Combinatorの代表を務めた経験を持ち、技術開発だけでなく、資金調達、経営者との関係構築、社会的な影響力の形成に優れた人物である。彼は、人工知能が将来の経済と社会を根本から変革し、科学研究、生産性、医療などに飛躍的な進歩をもたらすと確信していた。同時に、強力なAIが誤った目的に使用されれば、人類に重大な危険をもたらす可能性があるとも主張した。ハオは、この二つの考え方がアルトマンの経営戦略において重要な役割を果たしたと分析する。すなわち、AIは人類を救うほど重要な技術であり、同時に人類を危険にさらす可能性があるため、その開発は十分な資金と能力を持つ特別な組織が主導しなければならないという論理である。しかし、誰がその特別な組織を選び、何をもって人類の利益と判断するのかという問題は残る。著者は、アルトマンが人類の未来という壮大な理念を語ることで、巨額の投資、優秀な研究者、政治的な支持を獲得していった過程を描く。ここでは、アルトマンの思想を単純な欺瞞として断定するのではなく、理想主義と経営者としての野心が結び付くことによって、強力な組織が形成されていく仕組が問題とされている。
3.非営利理念の変質
OpenAIは設立当初、研究成果を広く共有し、特定企業によるAI技術の独占を防ぐことを目指していた。しかし、深層学習の進歩によってAIモデルの規模が急速に拡大すると、研究費用は従来の大学研究室や非営利組織では負担できない水準へ達した。特に大規模言語モデルの開発には、膨大な計算能力を持つGPU設備と、それを長期間稼働させるための電力が必要となった。OpenAIは2019年に利益上限付きの営利子会社を設立し、外部投資を受け入れる仕組へ移行した。同年、Microsoftとの大型提携が始まり、OpenAIは資金とクラウド計算資源を確保する一方、Microsoftは最先端のAI技術を自社製品に利用する機会を得た。ハオは、この組織転換によってOpenAIの内部に根本的な矛盾が生まれたと指摘する。人類全体の利益を優先する非営利組織が、巨大企業から資金を調達し、商業的な競争に勝つために研究開発を加速させる構造となった。更に、当初は公開を重視していた研究成果も、競争上の優位性や安全性を理由として非公開となる部分が増えていった。著者は、OpenAIという名称に込められた開放性の理念と、実際の経営における閉鎖性との隔たりを重要な問題として取り上げている。
4.AGIという信念
本書で繰り返し登場するのが、AGIという概念である。AGIとは、特定の作業だけでなく、人間が行う幅広い知的活動に対応できる人工知能を意味するが、その厳密な定義や実現条件について研究者の間で完全な合意がある訳ではない。OpenAIの内部では、AGIの実現が人類史上最も重要な技術的成果になるという信念が共有され、研究者たちはその開発に強い使命感を持って取り組んでいた。一方、AGIが実現すれば人間の制御を超える可能性があるという危機感も存在し、安全性を重視する研究者と開発速度を重視する経営陣との間には緊張関係が生じた。ハオは、AGIという壮大な目標が研究者を結束させる一方、通常の企業活動では正当化しにくい巨額の資源投入や急速な事業拡大を正当化する役割も果たしていたと論じる。もしAGIが人類の未来を左右する技術であるなら、その開発を急ぐことは重要な使命となり、競争相手に先を越されることは重大な危険とみなされる。しかし、この論理が強まれば、開発に伴う社会的負担や外部からの批判を二次的な問題として扱う危険性がある。著者は、AGIという理念が科学的な研究目標であると同時に、組織の権力を拡大するための強力な物語として機能したことを描いている。
5.ChatGPTの成功
2022年11月30日、OpenAIはChatGPTを一般公開した。ChatGPTは自然な会話形式で文章を生成し、翻訳、要約、プログラミング、情報整理など幅広い作業に対応する能力を示し、短期間で世界的な利用者を獲得した。この成功によって、それまで研究者や技術者の間で議論されていた大規模言語モデルが、一般社会の重要な技術として認識されるようになった。OpenAIは世界のテクノロジー産業における中心的な存在となり、Microsoft、Google、Metaなどの巨大企業も生成AIの開発と商業化を加速させた。しかし、ハオはChatGPTの成功を単純な技術的勝利として描いていない。ChatGPTが安全で使いやすい製品として公開されるまでには、大量のデータ収集、モデルの学習、危険な出力を抑制するための人間による評価作業など、多くの見えにくい労働が必要であった。また、一般公開によってAIの利用が拡大すると、計算資源の需要も急増し、データセンターの建設、電力消費、水資源の利用などの問題が拡大した。著者は、利用者から見れば便利な会話型サービスであるChatGPTが、その背後では世界規模の産業と資源供給網に支えられていることを明らかにする。技術の利便性だけを評価していては、その発展に伴う社会的な費用を理解できないというのが著者の問題意識である。
6.ケニアの隠れた労働
ハオが本書で特に力を入れて取材したのが、AIの安全性を支える発展途上国の労働者たちである。ChatGPTのような大規模言語モデルは、インターネット上の大量の文章を学習するため、暴力、性的虐待、差別、憎悪などに関する有害な内容を生成する可能性がある。OpenAIは、こうした出力を抑制するため、ケニアの業務委託企業Samaを通じて現地の労働者に文章の分類や評価を依頼していた。労働者たちは、極めて残酷な暴力描写や性的虐待に関する文章を長時間読み、その内容を細かく分類する作業に従事していたが、報酬は時給2ドル未満と報じられた。ハオは現地で労働者に取材し、精神的な苦痛や労働条件の問題を明らかにしている。ここで著者が指摘するのは、先進国の利用者が安全で便利なAIを利用できる背景に、低賃金で心理的負担の大きい仕事を引き受ける人々が存在するという構造である。AIは人間の仕事を代替する技術として宣伝されるが、その開発と運用には依然として大量の人間の労働が不可欠であり、その負担は経済的に弱い立場の人々に集中しやすい。著者は、この構造を、豊かな地域が貧しい地域の労働力を利用して利益を蓄積する植民地主義的な経済関係と重ね合わせている。
7.データ収集の問題
高度なAIを開発するためには、大量の文章、画像、音声、動画などの学習データが必要である。大規模言語モデルの性能向上には、モデルの設計や計算能力だけでなく、学習データの量と質が重要な役割を果たすため、AI企業はインターネット上の膨大な情報を収集してきた。しかし、その情報には作家、報道機関、芸術家、研究者、一般利用者などが作成した著作物や個人情報が含まれており、著作者や情報の提供者がAIの学習利用に同意していたとは限らない。ハオは、こうしたデータ収集の仕組を、AI企業が他者の知的成果を大規模に取り込み、自社の商業的な技術へ転換する過程として批判する。特に、インターネット上で公開されている情報を自由に利用できることと、それを営利企業が大規模に収集して独自のAIモデルを開発することは同じではないという問題を提起する。著者が重視するのは、データの利用について誰が同意し、誰が利益を受け取り、誰が管理権限を持つのかという点である。データがAI産業の重要な生産資源となるほど、その収集と利用をめぐる権利関係は経済的な権力の問題となる。ハオは、AIの開発が進むにつれて、人間が長年蓄積してきた知識や文化的成果が、少数の企業の管理する技術基盤へ取り込まれていく危険性を指摘している。
8.南米のデータ労働
ハオは、ケニアだけでなく、ベネズエラなどの南米諸国にも取材を広げ、AI産業が低賃金の労働力に依存している実態を描く。AIモデルを開発するためには、画像に写っている物体の識別、文章の意味の分類、回答の品質評価など、膨大なデータ処理作業が必要となる。こうした仕事はデータアノテーションと呼ばれ、機械が学習できるように人間がデータに意味や評価を付け加える作業である。AI企業はこの業務を専門企業に委託し、その企業が更に世界各地の労働者を雇用することで、大規模なデータ処理体制を構築している。しかし、経済的に困難な状況にある国々では、労働者が低賃金や不安定な雇用条件を受け入れざるを得ない場合がある。更に、業務の発注元である巨大AI企業と現場の労働者との間には複数の企業が介在するため、労働条件に対する責任の所在が不明確になりやすい。ハオは、このような国際的な分業体制が、AI企業にとっては効率的な事業運営を可能にする一方、労働者には十分な保護や交渉力を与えないことを問題視する。人工知能が人間の知的労働を自動化するという華々しい物語の背後で、機械の能力を支えるために人間が低賃金の作業を続けているという逆説が、本書の重要な主題となっている。
9.水と電力の収奪
AI産業の拡大によって生じる環境問題も、本書の中心的なテーマである。大規模言語モデルの学習と運用には高性能なGPUを大量に設置したデータセンターが必要であり、その稼働には膨大な電力が消費される。また、計算設備から発生する熱を取り除くためには冷却設備が必要となり、方式や立地条件によっては大量の水資源が使用される。ハオは、チリやウルグアイなどを取材し、データセンター建設が地域社会の水資源や環境に与える影響を調査した。特に、長期的な干ばつに直面する地域では、データセンターの水利用が住民の生活用水や農業用水と競合する可能性がある。企業はデータセンター建設による投資、雇用、税収などの経済効果を強調するが、施設が高度に自動化されている場合、建設後に地域へ提供される雇用は限定的となる。ハオは、巨大AI企業が地域の資源を利用して世界規模の利益を得る一方、その環境負担が立地地域に集中する構造を批判する。
10.安全性をめぐる対立
OpenAIの内部では、AIの能力向上を急ぐべきだという考え方と、安全性の研究や社会的影響の検証を優先すべきだという考え方の間に対立が存在した。高度なAIが誤情報の生成、犯罪への悪用、社会的な差別の拡大などを引き起こす可能性があることは、研究者たちも認識していた。しかし、OpenAIがGoogleやAnthropicなどとの競争を激化させるにつれて、新しいモデルを迅速に開発し、市場へ投入することが重要な経営課題となった。ハオは、こうした競争環境が安全性を重視する研究者の発言力や、研究成果の公開方針に影響を与えたと描く。特に、AIの安全性という言葉には、差別や誤情報など現在の社会に存在する問題への対策と、将来の超高度なAIが人類の制御を超えるという長期的な危険への対策という、異なる意味が含まれていた。著者は、遠い将来の破滅的な危険が強調される一方で、現在既に発生している労働搾取、著作権問題、環境負荷、権力集中などへの対応が不十分になる危険性を指摘する。AIの安全性を考える上では、未来の技術的な危険だけでなく、現在の社会に生じている具体的な損害を重視する必要があるというのが著者の立場である。
11.アルトマン解任事件
2023年11月、OpenAIの取締役会はサム・アルトマンをCEOから突然解任した。取締役会は、アルトマンとの意思疎通や信頼関係に問題があったと説明したが、その具体的な経緯は当初十分に明らかにされなかった。この事件は、OpenAIの特殊な企業統治構造が抱える矛盾を浮き彫りにした。OpenAIは非営利組織の取締役会が営利事業を統制する仕組を採用しており、取締役会は投資家の利益よりも人類全体の利益とAIの安全性を優先することになっていた。しかし、アルトマンの解任に対してMicrosoftや多数の従業員が反発し、組織の存続が危機に直面した。最終的にアルトマンは数日後にCEOへ復帰し、取締役会の構成も大幅に変更された。ハオは、この事件を通じて、形式的な統治権限と実際の経済的権力との違いを明らかにする。取締役会は制度上アルトマンを解任する権限を持っていたが、アルトマンが築いた資金調達、人材、企業提携のネットワークを失えば、OpenAIの事業を維持することが困難になるという現実があった。著者は、この事件を単なる経営者の権力闘争ではなく、人類の利益を守るために設計された統治制度が、巨大な商業的利害に直面した時にどこまで機能するのかを示す象徴的な出来事として描いている。
12.巨大資本への依存
OpenAIの急成長は、AI開発における資本力の重要性を決定的に高めた。大規模言語モデルの性能を向上させるためには、優秀な研究者を確保するだけでなく、高性能なGPU、巨大なデータセンター、安定した電力供給、膨大な学習データが必要となる。このため、最先端の基盤モデル開発に参加できる企業は、巨額の投資を調達できる少数の組織に限定されやすくなった。OpenAIはMicrosoftとの提携によって計算資源を確保し、GoogleやMetaも自社の資金力とインフラを利用して開発を進めた。ハオは、この構造がAI産業に新しい参入障壁を形成していると指摘する。かつてインターネットは小規模な企業や個人にも新しい事業を生み出す機会を提供したが、最先端の基盤モデル開発では資本と計算資源を持つ企業が圧倒的に有利となる。更に、基盤モデルを提供する企業は、その技術を利用する多数の企業や開発者に対して価格、利用条件、技術仕様などを決定する影響力を持つ。著者は、AIの普及が経済活動を民主化する可能性を持つ一方、技術基盤を少数の企業が管理することによって、逆に経済的な権力集中が進む危険性を強調する。
13.帝国という比喩
本書の題名にある帝国とは、単にOpenAIが巨大企業になったという意味ではない。ハオは、現代のAI産業が世界各地の資源や労働力を集め、その成果を中心部の企業に集中させる構造を、歴史上の帝国主義と比較している。かつての植民地帝国は、軍事力や政治的支配を背景に、遠隔地の土地、天然資源、労働力を利用して本国の富を増大させた。これに対して現代のAI企業は、軍事的な占領ではなく、資本、技術、契約、知的財産、デジタル基盤を通じて世界的な影響力を形成している。AI企業が提供する技術には大きな社会的価値があるものの、その開発に必要な労働や資源の負担と、技術から生まれる利益の分配は必ずしも均衡していない。ハオは、この非対称性こそがAI帝国の本質であると考える。
14.AIの民主的な未来
本書の終盤でハオは、AIの発展が現在のような巨大企業中心の構造以外にもあり得ることを示そうとする。その象徴として取り上げられるのが、ニュージーランドの先住民族マオリの言語を保存するためにAI技術を活用する取り組みである。マオリ語の音声データを収集して言語技術を開発する活動では、地域社会が自らの文化的資源を管理し、利用目的や権利関係を主体的に決定することが重視されている。これは、世界中のデータを大量に集めて巨大な汎用モデルを開発する方式とは異なり、特定の共同体が自らの必要に応じて技術を開発し、その成果を管理する考え方である。ハオは、AIの未来が必ずしも少数の巨大企業による技術支配へ向かう必要はないと論じる。大学、公的研究機関、地域社会、中小企業などが技術開発に参加し、データや計算資源へのアクセスを広げることで、AIの利益をより公平に分配できる可能性がある。また、AI企業に対する情報開示、労働者の権利保護、環境負荷の検証などを通じて、企業の権力を社会的に監督する必要があると主張する。著者が最終的に問いかけるのは、AIをどこまで高度化できるかという問題だけでなく、誰のためにAIを開発し、その方向性を誰が決定するべきなのかという問題である。AIの未来は技術の進歩によって自動的に決まるのではなく、人間社会がどのような制度と価値観を選択するかによって決まるのである。
本書が言いたかったこと
人類全体の利益を掲げて誕生したOpenAIが、巨大な資本と計算資源を必要とする開発競争の中で、世界中の労働力、データ、エネルギーを集める新たな経済的権力へ変貌した。著者は、AIがもたらす技術革新を否定しているのではない。問題は、その開発を少数の企業が支配し、利益を集中させる一方、低賃金労働、環境負荷、知的財産の利用などの社会的費用を他者に負担させる構造にある。更に、AGIの実現という壮大な理想が、巨額の投資や急速な事業拡大を正当化し、現在発生している具体的な問題への対応を後回しにする危険性を指摘する。著者が求めるのは、AIの開発を停止することではなく、その技術を誰が所有し、誰が管理し、誰が利益を得るのかを社会全体で決定する仕組である。本書は、AI革命の真の問題が技術的な能力の限界ではなく、その技術を支配する経済的・政治的権力のあり方にあることを訴えている。