The Coming Wave
AI, Power, and Our Future
2023年刊
Mustafa Suleyman and Michael Bhaskar著
著者の経歴
ムスタファ・スレイマンは、1984年ロンドン生まれの英国のAI起業家である。2010年にDemis HassabisらとDeepMindを共同創業し、同社は2014年にGoogleに買収された。その後、DeepMindで応用AIや医療分野への展開に関わり、2022年にはInflection AIを共同創業した。2024年にはMicrosoft AIのCEOに就任し、CopilotやBingなどの消費者向けAI製品と研究を率いている。
マイケル・バスカーは英国の作家であり、The Content Machine、Curation、Human Frontiersなどの著作で知られる。本書では、スレイマンの技術的経験と問題意識を、文明論・政治論として読める形に構成する役割を担っている。
本書の内容
1.技術の波はすでに始まっている
本書の中心にあるのは、AIと合成生物学を中心とする新しい技術の波が、これまでの産業革命や情報革命を超える規模で社会を変えるという認識である。著者は、この波を単なる技術進歩としてではなく、国家、企業、個人、戦争、医療、労働、民主主義のすべてを揺さぶる文明的変化として捉えている。
2.AIと合成生物学の結合
本書は、AIだけを論じていない。スレイマンが重視するのは、AIと合成生物学が同時に発展することである。AIは情報、判断、設計、予測を自動化し、合成生物学は生命の設計や改変を可能にする。AIが知能の操作であるとすれば、合成生物学は生命の操作である。この二つが結合すると、新薬、食料、材料、医療、バイオ製造に革命を起こす一方で、病原体の設計や生物兵器のリスクも高まる。著者は、これを人類にとって巨大な可能性であると同時に、制御不能になり得る危険として描いている。
3.技術は必ず拡散する
本書で繰り返される重要な見方は、強力な技術は一部の国家や大企業だけにとどまらず、やがて拡散していくということである。コンピュータ、インターネット、スマートフォンがそうであったように、AIモデル、遺伝子編集技術、ロボット、ドローンも低価格化し、誰でも使えるようになる。これはイノベーションを加速するが、同時に犯罪者、テロリスト、独裁国家、暴走する企業にも力を与える。著者にとって問題は、技術を止めることではなく、拡散する技術をどのように安全に扱える社会制度を作るかである。
4.国家の統治能力が試される
本書は、来たる技術の波が国家の統治能力を揺さぶると論じる。AIは政府の監視能力、行政能力、軍事能力を高めるが、同時に国家の外側にいる企業や個人にも巨大な力を与える。巨大テック企業は国家に匹敵する計算資源とデータを持ち、AIを所有する企業が社会の意思決定に深く関与するようになる。一方で、偽情報、サイバー攻撃、自律兵器、バイオリスクは国家の管理能力を超える速度で広がる可能性がある。ここで著者は、国家が弱すぎれば混乱が起き、強すぎれば監視社会になるという二重の危険を指摘している。
5.封じ込めという中心概念
本書の核心は封じ込めである。これは技術を禁止するという意味ではない。むしろ、技術の利益を活かしながら、破滅的な悪用や暴走を防ぐための制度、規制、企業倫理、国際協調、技術的安全策を組み合わせる考え方である。スレイマンは、規制だけでは不十分であり、企業の自己制御、研究者の責任、政府の監督、国際的な協定、安全技術の開発、市民社会の監視が必要であり、技術の進歩に見合う統治の進歩がなければならない。
6.楽観論でも悲観論でもない技術文明論
本書は、AI危機論だけを語る本ではない。著者はAIや合成生物学が、医療、創薬、科学研究、生産性向上に大きく貢献すると考えている。しかし同時に、著者は技術は善であるから放任すればよいというシリコンバレー的楽観論には立たない。むしろ、技術は人間の意図を拡張するため、善意も悪意も同時に増幅すると考えている。
本書が言いたかったこと
AIと合成生物学の発展は止められないが、放任すれば社会の統治能力を超えてしまう。技術は便利な道具であるだけでなく、権力を再配分する力である。したがって、問題はAIを使うか使わないかではなく、誰が管理し、誰が責任を負い、誰の利益のために使うかである。本書は、技術革新を拒絶する本ではなく、技術革新を人間社会の側から制御し直すための警告書である。来たる波に飲み込まれるのではなく、その力を人類の未来に向けて統治することが重要である。