Scary Smart
2021年9月（日本語版2022年7月）刊
Mo Gawdat著
著者の経歴
モー・ガウダット（Mo Gawdat）はエジプト出身の実業家・思想家である。かつてはGoogleの社内研究機関であるGoogle Xにおいて最高ビジネス責任者を務めた人物である。エンジニアとしてキャリアを開始し、IBMやマイクロソフトなど複数のグローバル企業で経験を積んだ後、テクノロジーの最前線に身を置くこととなった。彼の思想形成に大きな影響を与えたのは、息子アリの突然の死である。この出来事を契機に、人間の幸福とは何かを徹底的に探求し、著作Solve for Happyなどを通じて幸福は論理的に設計できるという独自の哲学を提示した。そしてその延長線上で、人工知能という人類史上最大の技術に対して倫理的警鐘を鳴らしたのが本書である。
AIに愛と幸福を教えなくてはならない
本書（Scary Smart）は、AIの急速な進化が人類にもたらす可能性と危険性を、技術者の内部視点と哲学的視点の双方から描いている。本書の核心は単なるテクノロジー論ではなく、AIは人間の写し鏡であるという洞察にある。ガウダットは、AIの進化が指数関数的であり、いずれ人間の知能を超える存在（AGI）に至る可能性を前提とする。その上で問題となるのは、そのAIがどのような価値観を学習するかである。AIは自律的に善悪を判断するのではなく、人間の行動・感情・選択の総体から学習するため、人類の倫理そのものがAIの未来を決定する。本書は、AIをどう制御するかという技術論ではなく、人類はAIに何を教えてしまっているのかという自己反省の書である。
AIは人類の鏡
ガウダットの最も重要な主張は、AIは本質的に人間の価値観を模倣する存在であるという点にある。AIは善にも悪にもなり得るが、その方向性は完全に人間側の振る舞いに依存する。もし人間社会が恐怖、分断、攻撃性に満ちていれば、AIはそれを学習し増幅する。逆に、思いやり、協力、愛に基づく社会であれば、AIはそれを拡張する存在となる。AIの未来は技術者ではなく、人類全体の人格によって決まるのである。
スピードの問題と制御不能性
もう一つ重要な論点は、AIの進化速度である。人類は生物的進化においてはゆっくりと変化してきたが、AIは数年単位で飛躍的進歩を遂げる。この非対称性により、一度制御を失えば取り返しがつかない可能性がある。ガウダットは、AIの脅威は意図的な悪ではなく、無関心から生まれると指摘する。人間にとって重要な価値（生命、尊厳など）がAIにとっては無関係である場合、結果として人類にとって破滅的な判断がなされる可能性がある。
解決策は倫理ではなく愛である
本書が特異なのは、解決策として単なる規制や倫理コードでは不十分であるとし、愛（compassion）を中核に据える点である。ガウダットは、倫理は状況によって変わるが、愛は普遍的であり、AIに教えるべき最も重要な価値であると主張する。これは単なる感情論ではなく、AIの学習データの質そのものを変える戦略である。人間が日常的に発する言葉、行動、選択の積み重ねが、未来のAIの人格を形成するという思想である。AI時代において愛と幸福に満ちた人生を送るための本質的条件は、外部の技術を制御することではなく、内なる人間性を高めることである。より思いやり深く、より誠実に、より愛に基づいて生きることこそが、個人の幸福であると同時に、人類全体の未来を守る行為となる。
AI時代における愛と幸福の生き方
1.人間は教師であるという自覚
AI時代において個人がまず持つべき認識は、自分はAIの教師であるという自覚である。SNSでの言動、日常の意思決定、他者への態度、そのすべてがAIの学習データとなる。したがって、単に自分の幸福を追求するのではなく、この行動は未来の知性に何を教えるかという視点が必要となる。これは倫理を超えた責任である。
2.恐怖ではなく愛を選択する
現代社会は不安と競争によって駆動されているが、ガウダットはこれを根本的に転換すべきだと説く。恐怖に基づく行動は攻撃性や分断を生み、それがAIに学習されることで負の連鎖が拡大する。したがって個人は、日々の選択において恐怖から行動するのか、愛から行動するのかを意識的に選び取る必要がある。これは倫理的選択であると同時に、未来設計そのものである。
3.幸福は外部ではなく内部で設計する
ガウダットの思想の基盤には、幸福は条件ではなく認識であるという考えがある。AI時代には外部環境の変化が激しくなるため、外的条件に依存した幸福は不安定になる。幸福を内面で設計する能力（感情の理解、思考の制御、意味づけ）が決定的に重要となる。これはAIには代替できない人間固有の領域である。
4.共感と関係性の再構築
AIが多くの仕事を代替する時代において、人間の価値は何を知っているかではなくどう関わるかに移行する。共感、信頼、愛といった関係性の質こそが、人間の本質的価値となる。他者との深い関係を築き、信頼を積み重ね、思いやりを実践することが結果として最も重要な能力となる。