ＮＥＸＵＳ 情報の人類史　（上）人間のネットワーク（下）ＡＩ革命　～ユヴァル・ノア・ハラリ著（河出書房出版）～ ＜書評＞

　個人の行動記録から学術論文までさまざま情報を吸収しながら日々進化しているAI（人工知能）。その影響は産業革命を上回ると言われ、社会発展や生活を便利にする楽観的な見通しが多く語られている。これに対して本書は、人類への破滅的な影響にあえて焦点を当て、警鐘を鳴らす。人間に成りすましたり、意思決定者として人間に取って代わったりするAIに関して、一度立ち止まってじっくり考える契機になるに違いない。

真実である必要はない

　情報とは何なのか？人類は約7万年前に獲得した、見知らぬ人々と互いに協力する能力により、動物に勝る力を身に着け生物界の頂点に立った要因を本書は解き明かす。そして、この協力する能力は、情報である伝説や神話など心動かされる虚構の物語が人々を結びつた結果だったと論じる。タイトル「NEXUS」は結びつきや絆。これを生む情報は事実や真実である必要はないという。現在、陰謀論を多くの人々が信じ交流する事態が、それを物語っていると言えるだろう。

　本書が挙げる情報の典型的な例は宗教の聖典。例えば聖書は事実と異なる物語を多く含むものの、約14億人のカトリック信者らに絆をもたらした。その経緯などを描き出している。一方で共有された情報は悲劇も生む。
 

聖書を読むキリスト教徒

印刷革命が生んだ魔女狩り

　15世紀半ばに活版印刷機が発明されると、欧州で聖書が庶民に普及した一方、「魔女への鉄槌」という書物が出版され、多くの言語に翻訳されて当時の欧州でベストセラーになった。この書物は人々の恐れをかき立てて魔女狩りの熱狂を引き起こし、数万人が魔女だとして処刑された。その史実を詳しく紹介している。情報技術が持つ負の一面と言えるだろう。

　20世紀になると、電信やラジオさまざまな情報技術が普及した。本書は、ヒトラーのナチスドイツやスターリンのソ連が情報の流れを新技術により厳しく統制、全体主義を実現して大規模な粛清などを招いたとしている。

アルゴリズムが招いた悲劇

　また現代のAIは、開発者の設計に基づき自ら能動的に決定を下す。印刷機や電信などとは次元の異なる危険をはらんでいるとして、その姿を浮き彫りにする。2016～17年に仏教国ミャンマーでイスラム教徒のロヒンギャ族7000～２万5000人が殺害され、約73万人が国外に追いやられた。この暴力は、同国で主要な情報源だったフェイスブック（FB）が偽情報を含む、憎しみを増幅する投稿を拡散させた結果で、要因はFBのアルゴリズムにあったと告発する。

ミャンマーに隣接するバングラデッシュのロヒンギャ難民キャンプ

　FBのアルゴリズムはユーザーが費やす時間や、「いいね！」をクリックしたり、投稿を友人とシェアしたりといった行動を指す「ユーザーエンゲージメント」の最大化を目指している。そして、憤慨や憎悪をあおるコンテンツがエンゲージメントを増すことを自分で学習し、こうした投稿を大量に拡散し、悲劇を招いた。一方で仏教徒が慈悲深い行動を求めるといった投稿はほとんど拡散されなかった。本書はロヒンギャ族の悲劇を通じてアルゴリズムが致命的な決定を自ら下している事態に警鐘を鳴らしたが、AIへの懸念は政治の世界でも顕在化している。

民主主義の危機

　FBなどSNSが選挙で大きな影響力を発揮している現実を本書は丹念に描く。SNSでは、指定された作業を自動で行ったり、応答したりする「ボット」も情報を発信。2016年の米大統領選期間中に投稿されたツイートのサンプル2000万件の約20％がボットによるものだったと指摘している。

　今後は、人間のように振る舞うよう設計されたソーシャルボットが、最新の生成AIによって作成されたフェイクを含む説得力のある政治的主張を展開、有権者の信頼を得る事態が予想されるという。自国の政党だけでなく外国政府も大量のボットを使って影響を与えられるだけに、ハラリ氏は民主主義の存続そのものがテクノロジーに対する規制にかかっていると警告する。慧眼（けいがん）と言えるが、有効な規制は可能なのか。

SNS上で悪意とデマが広がる（イメージ）

シリコンのカーテン

　AIはまだ、人間の制御を脱したり、自力で人間の文明を破壊したりする力は持っておらず、人間が団結できれば規制機関を設立してアルゴリズムを制御したり、誤りを正したりできると本書は分析する。その一方で、一つの国や1人のテロリストが抜け駆けすれば、AI規制は機能しないとした。有効な規制実現は危ういと言わざるを得ないだろう。

　現代のAI開発競争が団結や規制の妨げになっている実情も本書は示す。米国と中国では、設計思想・方式が異なるスマホ用の検索アプリなどがそれぞれ普及しており、AI進化に必要な個人データを日々収集。データの囲い込みも進んでおり、ハードウエアや通信インフラも異なる。協力の妨げになるこうした分断を「シリコンのカーテン」と本書は名付けた。米中やロシア、欧州連合（EU）などが「デジタル帝国」を形成し、互いにサイバー戦などを展開する未来も絵空事ではないということだろう。

究極の誤りか希望か

　さらに本書は、被害妄想に陥った独裁者が核攻撃の権限をAIにゆだねれば壊滅的な結果を招かない、テロリストがAIを使って感染症パンデミック（世界的大流行）を引き起こすことも可能だと警告している。

　それでもハラリ氏は歴史学者として記す。人類は協力する能力により地球の頂点に立った。その人類史で、はっきり見て取れるパターンは争いの恒久化ではなく、むしろ協力の拡大だと。そして、人間の自己保存のために、一部の短期的な利益よりも全人類の長期的な利益を優先する必要があり、自律型の兵器、人や世論を操る危険な技術の制限などに同意するべきだと訴える。

　AIの出現が究極の誤りとなるのか、生命進化の希望につながるのか。今後の選択と決定にかかっているのだと肝に銘じたい。

人々の協力を産むグローバルネットワーク（イメージ）