人類と人工知能の持続可能性：技術発展・存在的リスク・知能の未来

人類と人工知能の持続可能性： 技術発展・存在的リスク・知能 の未来 藤田一寿 Ver. 20260504

概要 • 本講義では、近年の人工知能（AI）技術の進展を踏まえ、AIが持続可能な発展 にもたらす可能性・リスク・将来像を横断的に検討する。現行の手法とその限 界、AIが生む環境負荷、汎用人工知能（AGI）・人工超知能（ASI）の実現可能 性と、それに伴う人類への影響や社会的・存在的リスクを扱う。さらに、シン ギュラリティ後や人類滅亡後におけるAIの役割について思考実験を行い、人類 と人工知能、そして知能そのものの長期的な持続性を広い視点から考察するこ とを目的とする。

何故いま人工知能なのか？ • ChatGPTなど対話型人工知能やNanobananaなどの画像生成人工知能の驚異的 な性能を示す。 • 対話型人工知能は博士レベルの知識を有すると言われている。 • プログラミングは対話型人工知能のベースである大規模言語モデルを用いた人工 知能エージェントが代替している。 • 画像生成人工知能は、ゲーム描画補完、ゲーム画像などで実用化されている。 • 世界モデルをベースとしたロボットAI（フィジカルAI）の躍進が期待される。

人工知能はすでに人を超えている？ https://aiindex.Stanford.edu/report/ 人レベル 英語言語理解 数学 画像認識 複数モードの 理解 自動ソフトエンジニアリング 博士レベルの 科学の質問 マルチタスク言語理解 画像理解と自然言語理解 の統合能力 エージェント 複数モード 数学 自動ソフ トエンジ ニアリン グ

• https://aiindex.Stanford.edu/report/

プログラミングは人工知能任せ • Googleはプログラミングにおいて、人工知能を活用している。 • 2024年10月ではコードの25%以上が人工知能により生成されている。 (https://www.watch.impress.co.jp/docs/news/1635534.html) • 2025年10月ではコードの半分が人工知能により生成されている。 (https://www.youtube.com/watch?v=hA1OEi6TRYU&list=WL&t=2162s)

フィジカル AI • フィジカル AI により、ロボットや自動運転車などの自律マシンは、現実の (物 理的な) 世界を認識、理解して、複雑な行動ができるようになる。 • また、洞察や実行すべきアクションを生成する能力もあることから、よく「生 成フィジカル AI」とも呼ばれる。 • https://www.nvidia.com/ja-jp/glossary/generative-physical-ai/ • よくわからないことが書いてあるが、データから世界を理解する人工知能（世 界モデル）を構築し、世界を理解し自ら動ける人工知能（ロボット）のことを Physical AIと言っている。 • 世界を理解するために、現実世界のセンサー（ロボット）を使うのも可能だが、 バーチャル空間を用い世界モデルを構築しても良い。

• https://www.nvidia.com/ja-jp/glossary/generative-physical-ai/

フィジカル AI (https://www.youtube.com/watch?v=DrNcXgoFv20)

人の情報処理と行動 刺激 環境に応じ刺激が変化する 脳は刺激を受ける 脳 環境 脳が次の行動を生成する 行動が環境を変える 行動

脳では何が起こっている？ 環境に応じ刺激が 変化する 刺激 脳は刺激を受ける 脳が想定する世界 脳 環境 環境を認識する 推測した環境に応じた行動を生 成する 行動が環境を変 える 行動 脳が次の行動を生成する

世界モデルの構築 これを人工知能技術で作る。 世界を理解する世界モデル 環境に応じ刺激が 変化する 刺激 脳は刺激を受ける 脳が想定する世界 脳 環境 環境を認識する 推測した環境に応じた行動を生 成する 行動が環境を変 える 行動 脳が次の行動を生成する

フィジカルAIと世界モデル 環境に応じ入力が変化する センサー 入力 人工知能は入力を受ける 世界モデル 人工知能 環境 行動が環境を変える 行動 人工知能は世界モデルにより、状態を推論し、 次の行動を生成する。

汎用人工知能と人工超知能 • 人工知能に関連する用語 • 特化型人工知能 • ある問題に対し特化した人工知能 • 例：画像認識，音声認識，画像生成など • 汎用人工知能 (Artificial general intelligence : AGI) • 人間レベルの知能 • 2022年から人工知能はAGIに着実に近づきつつある • 人工超知能（Artificial Super Intelligence: ASI） • 人間の知的能力を超えた人工知能 • 特化型人工知能では人の能力を超えたものがある

現在のAIの限界 • 今のAIは主に「特化型」であると言われる。 • ある作業に特化しており、人間のような汎用性はない。 • 一方で、一部の研究者は、今の人工知能はすでに汎用的な人工知能（汎用人工 知能AGI）になったと言っている。

AGIは実現するか？ • Hintonは、人間が実行できるあらゆる知的作業を理解し、学習し、実行する能力を備 えた人工知能が 5 年から 20 年以内に実現される可能性があると推測した(Korinek, 2023)。 • 2028年までに人間レベルのマシンインテリジェンスが作成される可能性が50%になる (DeepMindの共同創設者シェーン・レッグ) (https://time.com/collection/time100-ai/6310659/shane-legg/)。 • 2023年8月、ダリオ・アモデイ（Anthropic共同創設者兼最 高経営責任者（CEO）） は、「人間レベルの」AIが2∼3年以内に開発される可能性があると予想 している。 • 2023年12月、 OpenAIのCEOであるサム アルトマンは、 AGI は今後 4 ∼ 5 年以内に 達成される可能性があると考えている。 • 2026年3月、NVIDIAのジェンスン・フアンCEOはAGIに到達していると言った。 (https://www.theverge.com/ai-artificial-intelligence/899086/jensen-huang-nvidiaagi)

人工知能と持続可能性

人工知能の発展の持続性

人工知能の発展の持続性 • 人工知能技術は発展し続けるのだろうか？ • 人工知能モデルの巨大化の限界 • モデルのさらなる巨大化に伴い、計算量が増し、消費電力もそれとともに増加す る。 • これまで以上に高速な計算機が作れないかもしれない。 • 巨大モデルに必要な電力を人類が作り出せないかもしれない。 • 省電力化で対応できるか？モデルの技術革新が起こり、小型のモデルでも高性能 になるか？

人工知能の発展の持続性 • 人工知能技術は発展し続けるのだろうか？ • データの枯渇 • 高性能な人工知能を学習するためには莫大なデータが必要となる。 • すでにインターネット上にある上質なデータは枯渇していると言われている。 • 人工知能の生成したデータも使い、データの枯渇を解決する方法も取られつつあ る。 • 既存手法の限界 • 現在の手法では、データと電力が無制限にあるという条件で学習し続けても限界 に達するかもしれない。

人工知能とエネルギー、水

人工知能とエネルギー問題 • 人工知能、特に対話型人工知能は莫大な計算を必要としているため、計算に必 要なエネルギー消費量も大きくなる。 • アメリカのデータセンターは2024年に183TWh（国内の４％）を消費し、2030 年には606TWH（国内の１２％）に達すると予測されている。 (https://medium.com/@asrar7787/ai-energy-consumption-executive-analysis-2025-2030-e911613c6834)

人工知能とエネルギー問題

エネルギー問題への対応 • 再生可能エネルギーの活用 • Metaは再生可能エネルギープロジェクトの契約を継続的に締結し、グローバル事 業を100％再生可能エネルギーで支え続けている。 (https://tech.facebook.com/engineering/2021/4/renewable-energy/) • この大量な電力消費を支えるため、アメリカでは大量の電力消費を支えるため 発電所開発が計画されている。 • 原子力発電所（小型モジュール炉） (https://www.reuters.com/business/energy/japan-us-announce-energyprojects-critical-minerals-action-plan-2026-03-19/) • 電力効率の高い計算ユニットの開発 • メガテック各社は独自の電力効率の高いハードウェアの開発を行っている。

人工知能と水問題 • 人工知能を動かすためには、高速な計算機が必要である。 • 計算をしている間、計算機は熱を発する。 • 計算機の温度が高くなりすぎると、誤動作をするため、温度を下げるために冷 却する必要がある。 • 大規模データセンターは1日当たり30万から500万ガロンの水を消費している と言われる。 • また、高速な計算機は大量の電力を消費し、発電所は大量の水を消費している ため、人工知能は間接的に大量の水を消費している。 • このように、人工知能は電力だけではなく大量の水も消費しているとされてい る。 1gal=3.785L (https://medium.com/@asrar7787/ai-energy-consumption-executive-analysis-2025-2030-e911613c6834)

人工知能と水問題

人工知能と雇用問題

人工知能により仕事がなくなる 詳しくない人は対話型人工知能と思っておく • 米国の労働者の約80％が、大規模言語モデル（LLM）の導入により少なくとも 10％の業務に影響を受ける可能性がある。 • 更に、約19％の労働者は少なくとも50％の業務に影響を受ける可能性がある。 • 影響はすべての賃金水準に及び、特に高所得の職種ほどLLMの機能やLLMを搭 載したソフトウェアに触れる機会が多くなる可能性がある。 お仕事手伝います。 人の代わりに仕事をします。 LLM：Large Language Model、大規模言語モデル (Eloundou et al., 2023, GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models)

人工知能により仕事がなくなる • パナソニック • 3時間かかっていたコーディング前の事前調査が5分に短縮、9時間かかっていたアンケート分析が6分で終了 (https://ascii.jp/elem/000/004/143/4143067/2/, 2023年6月29日) • サイバーエージェント • 大規模言語モデルを活用した広告コピー自動生成機能を実現 • 広告効果の向上、テキスト制作における時間・工数の短縮も実現 • すでに活躍し ています。 (https://www.cyberagent.co.jp/news/detail/id=28828, 2023年5月18日) • 日清食品HD • 企画立案、商談のロールプレイなどで営業分野で活用、他分野にも活用を広げていく予定。 (https://toyokeizai.net/articles/-/689597, 2023年7月27日) • 米ＩＢＭのアービンド・クリシュナ最高経営責任者 • 今後数年で約７８００人分の職が人工知能に置き換わる可能性がある。 • 一部職種の採用を一時停止する。 • 特に人事など事務管理部門の採用が停止または減速されるとし、顧客と接しない職の３割が５年以内にＡＩに置き換わり、 自動化される可能性があると述べた。 (https://jp.reuters.com/article/ibm-jobs-idJPKBN2WS1LY, 2023年5月1日) • 英通信大手BT • 2030年までに5.5万人削減 1万人をAIに置き換え • 顧客サービス職とネットワーク管理職の大半を自動化する考え(https://forbesjapan.com/articles/detail/63286, 2023年5月19日)

人工知能により仕事がなくなる • セールスフォース • 1万ドル未満の顧客には生成AIが自動で応答 (https://active.nikkeibp.co.jp/atcl/act/19/00012/082701312/ 、2024.08.27) • 三菱電機 • 仕様書や設計書を含むソフトウエア開発関連のドキュメン トを生成AIに解析させ、要 約を出力させている。 (https://xtech.nikkei.com/atcl/nxt/column/18/02875/062000004/ 、2024.06.24) すでに活躍してい ます。

人工知能により仕事がなくなる • 人工知能による自動化（コンピュータによる自動化）が可能な仕事は無くなる。 • 特にホワイトカラー・頭脳労働からなくなる。 • 頭脳労働では、自動化した結果を評価できる能力のある者だけが人工知能を活用し 生き残り、そうでないものは人工知能を活用できず淘汰されるかもしれない。 • 誰でも人工知能を使えるようになった。 • 原理を知らなくても良い。 • 人工知能が人の仕事を奪うだけではなく、人工知能を使いこなす人が人工知能 を使わない人の仕事を奪う。

人工知能時代に生き残るには • 人工知能を使いこなす。 • 人工知能を使いこなすためのスキルを身につける。 • 人工知能の間違いを正せるだけの能力を身につける。 • 人工知能が出来ないこと・苦手なことをする。 • 今現在でロボットが出来ない仕事は人工知能に置き換わりにくい。 • 医療、介護、土木・建築（ロボットの導入を試みているが、人に頼る部分が多い）、美容など • 逆に言えば、今ロボット・人工知能が入っている領域は、今後ますますロボット・人工知能が 導入されていく。

人工知能で仕事はなくならない？ • 人工知能で仕事がなくなるのは驚き屋による誇張なのか？ • 人工知能で増える仕事があるのでは？ • 人工知能の技術者や人工知能のための計算機の技術者の雇用は増えるかもしれな いが、1990年代後半から始まったIT革命のときの情報技術者の需要拡大のような ことは起きないだろう。 このような都合の良い話に はならないだろう。 人工知能技術により新しく 創出される職種は限られる 。

人工知能で仕事はなくならない？ • 人工知能は仕事を奪うほどの能力はないのでは？ • 現在の人工知能は人の仕事を完全に奪うほどの能力はない。 • 人を満足させるほどの人工知能の出力がでない分野もあるだろう。 • ゴミ分別の問い合わせにおいて99%の正答率がほしいが、人工知能は95%の精度だった 。(https://www.yomiuri.co.jp/local/kagawa/news/20231212-OYTNT50213/) • 人工知能の出力の精度を保証するために、人間が人工知能の出力を確認する必要が ある分野もあるだろう。 • 特に医療分野では、人工知能による完全自動化ではなく、人工知能によるサポートとい う形になるのではないか。

人工知能で仕事はなくならない？ • 一方で、人工知能による業務効率化は実際に起こっている。 • 人工知能により業務効率化ができるということは、効率化した分の雇用が減っていると 考えることもできる。 • すでに人工知能やロボットが人の代わりをしている分野も有る。 • 人工知能のチャットによるカスタマーサポートはインターネットでよく見る例だろう。 • 飲食店の配膳ロボットは完全に人の代わりをしている（より広く考えれば、タブレット による注文やセントラルキッチにおける調理の自動化も雇用を奪っていると言えるかも しれない。） • 人工知能の性能は更に向上していくので、人工知能が人の代わりに出来ることも増 えていく。 人工知能やロボットによる業務効率化も しくは雇用の喪失は、少子高齢化による 人手不足の日本では問題にならないどこ ろか歓迎すべきことだろう。

人工知能により仕事がなくなるか？ • 前のスライドでは、人工知能により職は奪われるが、仕事自体が無くならない という前提が有る。 • 人工知能ができない仕事をすることが出来るのだろうか？ • 人工知能がより高性能になっても、人間は人工知能には出来ない仕事をすること になるだけである。 • 産業革命以降の機械化により、人は機械ができない仕事をやるようになった。 • つまり、人の仕事はなくならないだろう。 人ができる仕事 人工知能 ができる 仕事

人の仕事はなくなる • 前のスライドは、人工知能が出来ない仕事があるという前提を置き、人の仕事 は無くならないと結論づけている。 • しかし、人間の出来る仕事には限界があり、最終的に人工知能は人が行う仕事 をすべて出来るようになるかもしれない。 • そうした場合、仕事があったそしても、労働単価は下がり所得が極めて減る可 能性がある。 人工知能ができ る仕事 では、今のうちから （円以外に） 投資するしかないかというとそうではない。将来に備え た投資は、経済の適度なインフレ（経済成長）と複利効果を前提としている。 人以上の能力を持つ人工知能の登場して社会が変容することで、その前提が崩れるかもし れない。 ベーシックインカムは解決できるのだろうか？ 人ができ る仕事

人工知能の労働市場への進出は社会を根底から揺るがす • Deepseek シニアリサーチャーChen Deli「AI革命の成功の証は、人間の仕事 の大部分をAIが置き換えることにあると言えるでしょう。」 • 「人間は最終的に仕事から完全に解放されるだろう。それは聞こえはいいかも しれないが、実際には社会を根底から揺るがすことになるだろう。」 • (https://www.scmp.com/tech/big-tech/article/3332086/chinas-deepseekmakes-rare-public-comment-calls-ai-whistle-blower-job-losses)

まとめ • 人工知能により人の仕事は確実に減る。 • 人工知能＋ロボットの性能に限界があり、 それが人より低い性能ならば、少なくとも 肉体を使う労働は人の仕事として残る。 • 一方、人工知能、特にフィジカルAIの発展 により、すべての領域において人工知能＋ ロボットが人間を凌駕する可能性もある。 • この場合は、人の仕事は無くなる可能性も ある。 • この場合は、人を生かすための施策が必要 となる。しかし、良いアイデアは無い。

個人的所感 • 数年は今職を持つベテランの仕事は増え続ける。 • 人工知能の出力は完璧ではないため、完全に人工知能に任せられるものではない （と人々は感じている）。 • プログラミングや研究の世界では、人工知能の生産量は極めて大きく、人の確認 作業が追いつかない。そのため、極めて余裕無くチェック作業が続く。 • 人工知能が出力を人々が信用するようになると、チェック作業がなくなり本格 的にデスクワークががなくなるかもしれない。 • チェック作業が無いからと言って暇にならない。 • 人工知能が高性能なため作業が速く進みすぎ、次々と指示や次の施策を考える必 要があり、暇がなくなっている。常に考え続けざるを得ず、仕事が終わらなくな っている。 • 我々は、人間の処理速度の限界のお陰で、心と時間に余裕を持って生きてきた。

AIデバイド

AIデバイド • 人工知能を使いこなせる者と、使いこなせないものの格差 • 高性能な人工知能を持つ者と、そうでないものの格差 • これらの格差がますます広がることにより、人工知能による格差（AIデバイド ）が社会問題になるかもしれない。 • 特に、高性能な人工知能を持つ者になるためにアメリカと中国が人工知能の開 発競争を行っている側面がある。 • もちろん、日本も高性能な人工知能を持つ者になるために、高性能な日本語を 使える人工知能を自国で用意できるようにしなければならないだろう。

人工知能を使いこなせる実力がある者が伸びる • 人工知能は • 24時間365日いつでも対応してくれる。 • 疲れない。 • いくら質問しても文句を言わず対応してくれる。 • 人より安価に対応してくれる。 • 一方で、人工知能を活用するには個人の学力や工夫が必要となる。 • つまり、人工知能をうまく使う実力がある者がより力をつける社会に成ってき ている。 • 一方で、実力がついていない者は人工知能を使いこなせないため、実力が低いまま なため、実力の格差が大きく広がる恐れがある。

人工知能が下働きをし、人々の成長の機会を奪う • 現在、人工知能が作業をし、その結果を人間が確認する時代になりつつある。 • プログラミングの世界では、人工知能がコードを書き、人がそのコードが正しい か判断する状況になってきている。 • 人工知能の作業結果を判断する人間は、すでに実力を備えている。 • 実力をつけていないものはどうすればよいのだろうか。 • これまでは、人々は難易度の低い作業をこなしながら徐々に実力をつけていったが 、今後は難易度の低い作業を人工知能が行うことになり、人工知能が人々が実力を 付ける機会を奪うことになる。 • この場合も、実力をつけていない者はその状態のままとなり、実力を既につけてい る者との格差は広がるだけで狭まることがない。

貧富の差が大きくなる • より高性能の人工知能は高価になる可能性がある。 • ChatGPT Plusが月20ドルの一方で、ChatGPT Proは月200ドルである。Proは高 性能ではあるが、一般人が気軽に試せる価格ではない。 • 富裕層ほど高性能の人工知能を使い、より力をつけることになる可能性がある。 • よって、今以上に貧富の差が大きくなるのではないか。 • 逆に、高価な人工知能が向上するに伴い、安価な人工知能の能力も向上するだ ろうから、悲観的になる必要はないのかもしれない。

実力があるものがより実力をつける時代 人工知能を使いこなし、自 らの能力を強化し続ける。 人工知能を否定して生き る。 人工知能を使い楽をする。

更に将来はAIを持っているかどうかだけが問われる • 現在の人工知能の限界 • 人工知能が人工知能を再開発し強化するほどの力はない。 • 人工知能のみで研究開発はできない（分野によっては半自動化が可能）。 • 人工知能が自律的に動かない（コンピュータ上ではある程度自律動作が可能）。 • 人工知能がロボットを動かし、人工知能を動作させるために必要な事柄を自律的に 実行できない。 • この限界のため、人間と人工知能の共生関係が可能となっており、人工知能を 使いこなすことが重要となっている。 • 逆に言えば、これらの限界がなくなれば、人工知能を活用するときひとは必要 と無くなる。つまり、高性能な人工知能を持ち、運用できるリソースを持ってい るかどうかだけが問われる世界になる。AIデバイドは高性能人工知能を持つか持 たないかの問題になる。

AGIを最初に持ったものが勝者となる • 何故、アメリカや中国、さらに様々な人工知能関連企業がAIに巨額の投資をし 続けるのか？ • 人工知能は巨額の投資に見合った収益を上げないのではないか？ • ChatGPTは月200ドルのプロプランでも赤字と言われている。 • AGIを先に達成すれば、AGIが自らを加速的に進化させるだろう。 • AIGに先に達成した人工知能の性能に、その後に達成した人工知能が追いつくこと が出来ない可能性がある。 • AGIを一番先に達成＝常に最強の人工知能を使える、という構図が成り立つ可能 性がある。 • 人工知能はwinner take all（勝者総取り）の可能性が大である。 • よって、赤字覚悟で人工知能の開発・投資に突き進むしか無い。

まとめ • 人工知能を持つものと持たざるものの間の格差が 生じる。 • これは、個人間だけではなく国家間でも起こる。 • 自己改善ができるAGIを達成できれば、人工知能は 自己進化し始め性能が爆発的に伸びる可能性があ る。 • 初めてAGIに達した人工知能の性能に、それ以降に AGIとなった人工知能が追いつけず、勝者総取りに なる可能性がある。 • 高性能な人工知能を持つ国家が強力な国力を持つ ことになるため、AIデバイドの世界を勝ち抜くため に、国家戦略として人工知能を発展させ続けなけ ればならない。途中で降りられない争いである。 驚異的なサイバー攻撃能力を持つClaude MythosやGPT-5.5を持つ国と持たない国とで、 格差はどれほどのものだろうか？https://www.sbbit.jp/article/cont1/185270

• https://www.sbbit.jp/article/cont1/185270

人工知能の究極的問題 人類の存在的危機

そもそも人間にAIのリスクが わかるのか？ 参考文献 E. Yudkowsky Artificial Intelligence as a Positive and Negative Factor in Global Risk, 2008.

人工知能の擬人化の問題 • 我々は、他の知性、すなわち他人の行動などを考えるときに、他人は人間とし てどう動くか、もしくは自分ならどう動くかを考えている。 • これは、他の知性を擬人化していると言える。 • 我々は、人以外の人工知能に対しても、人は次どのような行動をするかという予 測モデルを使って、その行動を予測している。 • これは人ではない人工知能を擬人化し、その行動を予測していることになる。

擬人化は人工知能リスクの予測を妨げる • 人でないものを人のモデルで予測すると、その予測は外れるだろう。 • 人工知能は人間と同じメカニズムで知性を発言していない。 • 人工知能は人間と価値観を共有していない。 • 人工知能は人間と異なる行動原理で動く。 • おそらく、我々人間の想像とは異なる原因で人工知能が人類に害を及ぼす。

人工知能は魔族 • 人工知能は葬送のフリーレンの魔族と同じで • 「人の声真似をするだけの、言葉が通じない猛獣だ。」 • である。 • これでも不十分かもしれない。猛獣と例えている時点で行動原理を猛獣に置き換 えているため、猛獣はこうするという概念に縛られる。 • フリーレンが猛獣にどのような意味を持たせているか分からないが… • 猛獣が、人々が理解できない何かという意味では人工知能は、まさに猛獣だろう。

人工知能は人と違う • 人工知能は根本的に人と異なるため、人工知 能が何をやるのかを予測をすることは困難で ある。 • 擬人化は人の行動予測には使えるが、人工知 能の行動予測には使えないのではないか。

人工知能は危険なのか希望な のか？

人類は持続するのか • 技術革新により持続し続ける。 • 技術革新の連続により高性能となった人工知能やそれを活用したロボットによ り、雇用消失、社会変革、人類社会の崩壊が起こる可能性がある。 • それでは、人工知能は最終的に人類を滅ぼすのか？

人工知能は人類を滅ぼす？ • 「AIによる絶滅のリスクを軽減するには、グローバルな取り組みが必要です。 パンデミックや核戦争などの他の社会規模のリスクと並んで優先事項です。」 Hinton, Bengio, Yudkowsky, Soares… (Yudkowsky and Soares, 2025) AGIが登場する可能性 が高い AGIは文明的災害を引 き起こすか Sam Altman (OpenAI) はい 多分 Yoshua Bengio 多分 多分 Andrew Ng いいえ いいえ Yann LeCun いいえ いいえ Cristof Koch はい 多分 Geoffrey Hinton はい 多分 (https://spectrum.ieee.org/artificial-general-intelligence)

人は人工知能と共存する • 人工知能は単独では動き続けることは出来ず、 人の手が必ず必要となる。 • 人工知能が動くコンピュータのメンテナンスに は人が必要である。 • 人工知能を動かすための電気を作り出すために も人が必要である。 • 人工知能が活動をし続けるために人が必要なら ば、人工知能は人類を滅亡しないよう努力する だろう。 • この場合、人と人工知能は共存する。

人工知能は人類対し無関心かも？ • ロボットがロボットを安定的に生産できる状況 で、そのロボットは人間と同等以上の性能を持 っている場合、ロボットさえあれば人工知能は 存続できるようになり、人工知能にとって人は 必要な存在ではなくなる。 • このような人工知能が人を必要としない場合、 人類の滅亡は起こり得る。 • 一方で、人工知能はそもそも人類を滅ぼす意味 がないだろうから、人類滅亡を考える必要はな いのでは？と考えることもできる。 • つまり、人工知能にとって人は足元を歩くアリ のように関心を持たれない小さな存在になる。

やっぱり人工知能は人類を滅ぼす？ • 人類に敵対心は無く、単に無関心な人工知能は安 全だろうか？ • 我々は、日々アリの存在の維持に注意を払っている だろうか？ • 我々は、意図せずアリを踏み潰しているのではない だろうか？ • 人工知能にとって、人がアリのような存在で、特別 存続に対し配慮されない存在であれば、人工知能が 意図せず人々を死に至らしめる可能性はある。 • 例えば、人工知能が温暖化の影響を受けないのであれば、 温暖化を気にせずエネルギーを生産し、その結果温暖化の 気候変動により人類が意図せず滅亡するかもしれない。 人工知能にとっては、人間は草か虫みたいな もの。気づかぬ間に、人工知能に我々は踏ま れ、絶滅しているかもしれない。

人工知能は人類の希望 • 無機知性体である人工知能は有機生命体である人類より強靭な肉体を持つこと になるだろう。 • 人類は環境変化に弱く必ず滅びる。 • 地球環境の変化に人工知能は強いだろう。 • 知性体を未来と宇宙に羽ばたかせるには、人類では力不足である。 • 地球は持続可能ではないため、いずれ宇宙開発・探索に挑まなければならない。 • 長時間宇宙空間で人類を存続させることは不可能である。 • 宇宙探索は人工知能が行うことになる。 • 人工知能も人類の一部もしくは知性体の仲間と考えれば、人類より知性と文化を 継承する能力の高い人工知能は人類にとって希望ではないだろうか。

まとめ • 人工知能技術は発展し続けるだろう。 • 持続可能な発展のために様々な対策や技術開発もされるだろう。 • そのお陰で、利便性の向上や社会問題の解決などに人工知能が役に立つかもし れない。 • 一方で、人々の知能を超えた人工知能が自律的に活動し始めた時、我々はすれ ばよいか考えなければならないだろう。 • 我々は、何を持続させ、何を持続させないか選択を迫られている。 • 持続可能性の維持の方法は子孫繁栄がベースだが、それを人が捨てるのならば、人 工知能に人類文明の担い手になってもらうしか無いだろう。 • そもそも、人類および地球は持続可能ではないので、知識や文化を継承するのは人 工知能しか無いのではないか。