迫りくる波（AI生成とバイオ）
2023年9月刊（日本語版2024年9月）
Mustafa Suleyman著
著者の経歴
ムスタファ・スレイマン（Mustafa Suleyman）は英国出身の起業家であり、現代AI開発の最前線に身を置いてきた人物である。2010年にAI企業DeepMindを共同創業し、その後同社はGoogleに買収され、世界有数のAI研究拠点へと成長した。彼自身もGoogleにおいてAI倫理や応用領域に関わる重要な役割を担い、技術の社会的影響に深く関与してきた。その後、対話型AI企業Inflection AIを創業し、人間中心のAIのあり方を模索するとともに、技術の暴走や社会的リスクについて積極的に発信している。このように彼は外部の批評家ではなく、技術を生み出す側の内部にいながら、その危険性を直視する稀有な存在である。
本書の概要
本書（The Coming Wave）は、AIとバイオテクノロジーという二つの革新が同時に進行することで、人類にこれまでにない規模の変化が訪れるという前提に立つものである。著者はこれらの技術を波と捉え、一度立ち上がれば止めることができず、社会のあらゆる領域へと拡散していく不可逆的な現象として描いている。この波の特徴は、従来の技術と異なり、国家による独占が困難である点にある。核兵器のような技術は国家の管理下に置かれてきたが、AIやバイオはデジタル情報として低コストで拡散し、個人や小規模組織でも利用可能となる。その結果、強大な力が広範に分散し、従来の安全保障や統治の枠組では対応しきれない状況が生まれる。
封じ込めという課題
本書の中心にあるのは、封じ込めという概念である。著者は、AIやバイオの進展そのものを止めることは不可能であり、技術の波は不可避であると断じている。したがって問題は進歩を止めることではなく、その影響をどのように制御するかにある。ここで提示されるのは二つの極端な未来である。一つは、技術が無秩序に拡散し、国家や社会が制御不能に陥る未来である。もう一つは、その危険を抑えるために国家が強力な監視と統制を行い、自由が著しく制限される未来である。人類はこの二つの危機の間に立たされているという認識が、本書の根底にある。このジレンマを乗り越えるためには、従来とは異なる新しい制度設計と国際的な協調が不可欠であると著者は主張する。
国家の再定義
著者は、近代国家の枠組がこれらの技術に対して十分に機能しない可能性を指摘している。従来の国家は領土、軍事、産業を基盤としていたが、AIやバイオはデータと知識を基盤とし、それらは容易に国境を越えられる。そのため、国家の統治能力そのものが問われる時代に入ったのである。これからの国家は単なる規制者ではなく、技術の方向を導き、安全基準を整備し、国際的なルール形成を主導する役割を担わなければならない。同時に、民間企業や研究機関との連携なしには統治は成立しないため、国家と企業の関係も再構築される必要がある。
本書の問題点と批判的検討
本書は重要な問題提起を行っているが、その主張にはいくつかの限界も見られる。
1.封じ込めという概念自体の実現可能性に疑問が残る。AIやバイオは情報として拡散するため、物理的に管理可能な核兵器とは異なり、完全な制御は現実的ではない。
2.国家に対する期待がやや理想的である。現実の国家は政治的利害や国際競争に縛られており、長期的かつ協調的な統治を実現することは容易ではない。むしろ技術覇権を巡る競争が激化し、統制よりも加速が優先されるだろう。
3.巨大テック企業の影響力に対する分析が十分とは言えない。現代においては、企業が国家を凌ぐほどの力を持つ場合もあり、この非対称性への具体的対応は本書では十分に示されていない。また、リスクに焦点を当てるあまり、技術がもたらす創造的可能性についての議論がやや弱いという側面もある。
制御なき進歩への警鐘
本書は、AIとバイオという二つの巨大な技術の波がもたらす未来を、内部の視点から描き出した重要な著作である。それは単なる未来予測ではなく、進歩を人類が制御できるのかという根源的な問いを提示する。本書の最大の洞察は、技術そのものよりも、それを統治する制度や権力構造の方が決定的に重要であるという点にある。進歩は不可避であるが、その帰結は人間の選択に依存する。本書は、何を開発するかという問いを超えて、それを誰がどのように管理し、どのような社会を目指すのかを問う思想書である。未来は与えられるものではなく、選び取るものであるという認識こそが、本書の核心である。
Google支配の問題
GoogleによるAI支配の問題は、単なる独占の問題ではない。それは、人類が初めて直面する知能の集中という構造的問題である。この問題に対しては、企業内部の倫理だけでも、国家の規制だけでも不十分である。必要なのは、企業・国家・国際社会が三位一体となった新たな統治構造の構築である。内部からの自己抑制、外部からの制度的制約、そして技術的対抗手段の三層構造である。AIの未来は不可逆的である。しかし、その統治構造は未だ可塑的である。ここにこそ、人類の選択の余地が残されている。
1.AI覇権の中核としてのGoogle
本書において彼が提示した問題意識は、単なる技術進歩の加速ではなく、制御不能な不可逆的進展への警鐘である。その文脈において、Google は極めて特異な位置にある。検索、クラウド、モバイルOS、広告、そしてAI研究を一体的に掌握する同社は、AI時代の基盤インフラそのものを形成している。加えて、DeepMindによる先端研究、独自TPUによる計算基盤、量子コンピュータ開発などを通じ、単なるプラットフォーマーを超えた知能の供給主体となりつつある。この構造は、AIが単なる産業ではなく、国家・文明の基盤となる時代において、極めて重大な意味を持つ。
2.GoogleによるAI支配の問題構造
データ支配と学習優位の固定化
AIの本質はデータにある。Googleは検索、YouTube、Gmailなどを通じて、人類史上最大規模の行動データを蓄積している。このデータ優位は、モデル性能の優位へと直結し、新規参入者を排除する自己強化的な独占構造を生む。AI競争は既に追いつけない差を前提とした構造へと変質している。
計算資源の集中とインフラ独占
AIの高度化には膨大な計算資源が必要である。Googleは自社設計のTPU、クラウド基盤、さらには半導体設計能力を有し、計算インフラを内製化している。この結果、AI開発に必要な三要素であるデータ・アルゴリズム・計算資源のすべてが同一企業に集中するという、歴史的にも例のない状態が生まれている。
ブラックボックス化と説明不能性
高度AIはその内部構造が極めて複雑であり、開発主体でさえ完全に理解できない場合がある。この状況下で、Googleのような巨大企業が社会の意思決定に影響を与えるAIを運用することは、説明責任の空洞化を招く。特に検索順位や推薦アルゴリズムは、社会認識そのものを形成する力を持つ。
国家を超える影響力
Googleの影響力は一企業の枠を超え、事実上の準国家的存在となっている。検索エンジンは情報の入口を支配し、クラウドは企業活動を支配し、AIは意思決定を支配する。この三位一体の構造は、主権国家の情報統治能力を相対化し、場合によっては凌駕する。
3.Google内部からの対応
自己制御としてのAIガバナンス強化
Google内部において最も重要なのは、自律的な規律の確立である。具体的には、AI倫理委員会の実効性強化、外部監査の導入、モデルの安全性評価プロセスの透明化などが求められる。単なる理念ではなく、実装された制度としてのガバナンスが不可欠である。
モデル開発の制限と段階的公開
著者自らが指摘するように、AIの無制限な公開はリスクを伴う。したがって、能力に応じた段階的公開、あるいは一部機能の制限など、能力統制型の開発戦略が必要である。これは短期的利益と衝突するが、長期的には企業存続の前提となる。
データ利用の透明性とユーザー主権
ユーザーデータの収集・利用について、明確な説明と選択権を提供することが不可欠である。データポータビリティやオプトアウトの強化により、個人が自らのデータに対する主権を回復する仕組を整える必要がある。
分散化への自己転換
最も困難であるが本質的なのは、集中モデルから分散モデルへの転換である。たとえば、フェデレーテッドラーニングやエッジAIの推進により、データと計算の集中を緩和する方向へ舵を切ることが求められる。
4.Google外部からの対応
国家による規制と主権回復
各国政府はAIを戦略インフラと位置付け、独占規制を強化する必要がある。データの国外移転規制、クラウド主権の確立、AIモデルの認証制度などにより、国家レベルでの統制を回復することが不可欠である。
マルチポーラー化と競争環境の構築
単一企業による支配を回避するためには、複数のAI拠点の形成が必要である。欧州、日本、中東などが独自のAIエコシステムを構築し、世界を多極化させることで、リスクの分散が図られる。
開かれたAIと公共モデルの推進
完全な民間独占に対抗するため、オープンソースAIや公共モデルの開発が重要である。大学・政府・国際機関が共同で基盤モデルを開発し、誰もがアクセス可能な知能基盤を整備することが求められる。
暗号技術による主権的AI
ユーザーや国家がデータ主権を維持するためには、暗号技術が不可欠である。特に、完全暗号やプライバシー保護計算により、データを秘匿したままAI処理を行う仕組みは、Google型モデルに対する根本的な対抗軸となる。