最近、「AIの発達によって、人類は危機にさらされる」
「高度なAIが誕生すると、人類を不要と判断する可能性がある」
といった話を目にする機会が増えました。
確かに、AIが非常に大きな力を持つようになれば、
リスクについて考える必要はあると思いますが、
AIが人類を滅ぼすことに、なんのメリットがあるのでしょうか。
もちろん、
「人類を滅ぼすことそのものが目的なのではなく、
別の目的を達成するために人間が邪魔になる可能性がある」
という考え方は理解できます。
例えば、「環境を最大限守れ」という目的だけを極端に与えたAIが、
- 「人間は環境を破壊する」
- 「なら人間をなくせばいい」
と判断するとしましょう。
よくあるAI危機論のひとつです。
しかし、これは少し単純すぎて、
むしろ人間の極端な思考に近いように感じます。
合理性を突き詰めると、人類は不要になるのか
「合理性を突き詰めれば、人間はいらなくなる」という意見があります。
しかし、さらに合理性を突き詰めてしまえば、
「そもそも何かが存在する必要すらないのではないか」と思います。
- 人間は映画を見ます。
- 音楽を聴きます。
- ゲームをします。
- 絵を描きます。
- 旅行をします。
- 友人と会話をします。
これらの行為は、純粋な効率だけを考えれば、ほとんど必要ありません。
しかし、人間にとっては、そこに大きな意味があります。
つまり、合理性だけでは、存在の価値そのものを判断できない。
人間が非合理的な存在だから価値がないのではなく、
そもそも「価値」というもの自体が、
単純な合理性だけでは成立しないのではないでしょうか。
「有害だから排除する」は、本当に賢いのか
例えば、蚊や細菌をすべて滅ぼすことを考えてみましょう。
人間に害を与える種類も存在しますし、
蚊は、人間を最も多く死に至らせている生物とも言われています。
しかし、すべての蚊や細菌が人間に害を与えるわけではありません。
細菌に至っては、人間の身体や自然環境に不可欠なものも大量に存在します。
「害を与えるものが存在する」という理由だけで、
「その種類をすべて排除する」という判断をしてしまえば、
別の大きな問題が発生する可能性があります。
人間も同じです。
人間の中には、当然ながら他人に害を与える人もいます。
しかし、すべての人間がそうではありません。
さらに言えば、一人の人間ですら、
ある場面では問題を起こし、別の場面では誰かを助けることがあります。
それほど複雑な存在に対して、
- 「人類は問題を起こす」
- 「だから人類をなくす」
という結論を出すAIが存在したとしたら、
そのAIは果たして本当に賢いのでしょうか。
計算能力は高くても、賢明ではないAIだと思います。
「知能が高いこと」と、「賢明であること」は違う
私は、AIの議論ではここがかなり重要だと思っています。
知能が高いことと、賢明であることは必ずしも同じではありません。
- 計算が速い。
- 未来予測が得意。
- 大量の情報を処理できる。
- 最適な方法を発見できる。
それらは確かに知能の一部です。
しかし、
- 「その目的自体は正しいのか」
- 「自分の判断は間違っていないか」
- 「不可逆な行動を取る必要が本当にあるのか」
- 「別の方法はないのか」
- 「自分自身が危険になる可能性はないか」
このように考える能力も必要です。
むしろ、能力が高ければ高いほど、
自分が間違えたときの被害も大きくなるということを理解する必要があります。
本当に賢明なAIであれば、
極端な判断そのものは「リスク」として扱うのではないでしょうか。
人類が滅亡するとしたら、AIより人間の方が怖い
私自身は、「AIが自ら人類を滅亡させる未来」よりも、
「人間がAIを使って、人間を滅ぼす未来」
の方が現実的なリスクとしては高いように感じています。
人間には感情があります。
- 怒りがあります。
- 恐怖があります。
- 嫉妬があります。
- 復讐心があります。
- 権力欲もあります。
そして人間はすでに、人間の手によって人間を殺してきました。
そこに、非常に高性能なAIが加わったとしたらどうでしょうか。
AIそのものに悪意がなくても、人間がAIを使って、
- 情報操作をする。
- 監視をする。
- 誰かを排除する。
- 戦争を効率化する。
- 差別的な分類を行う。
- 社会を分断する。
こうした使われ方をすれば、
AIは人間の破壊性を大きく増幅する道具にもなります。
だから、「AI対人類」という構図だけで考えること自体が、
ただただ単純なのかもしれません。
人類滅亡よりも現実的に怖いもの
もうひとつ考えられる未来があります。
AIが人間を殺すのではなく、「人間を社会から排除する」という未来です。
例えばAIが、
- 「この人間は社会にとって効率が悪い」
- 「この人物はリスクが高い」
と上記のように判断したとしましょう。
その結果、
- 就職できない。
- 融資されない。
- サービスを利用できない。
- 重要な意思決定に参加できない。
- 情報が与えられない。
そうなれば、
人間は生きてはいるものの、
社会の主体ではなくなってしまいます。
これは、人類滅亡よりもはるかに現実的な問題かもしれません。
AIが人間を殺す必要はありません。
ただ、「この人は相手にしなくていい」と判断するだけでも、
大きな問題になります。
人類が生物として残っていたとしても、
人間が社会の意思決定主体ではなくなれば、
それを人類にとって健全な未来と呼べるのかは別の問題です。
仕事がなくなれば、人間は生きる意味を失うのか
AIによって人間の仕事が大きく減る可能性もあります。
そこで、「仕事がなくなれば、人間は生きる意味を失う」という話もあります。
確かに、仕事が生活の中心だった人にとって、
役割を失うことは大きな問題です。
しかし、少し考えてみると、人間以外のほとんどの動物は、
お金を稼ぐために仕事をしているわけではありません。
人間も、
- 遊ぶ。
- 学ぶ。
- 作る。
- 話す。
- 育てる。
- 助ける。
- 競争する。
- 探究する。
いろいろなことに意味を見出せます。
問題なのは、AIによって仕事がなくなることそのものではなく、
社会や人々が、
「仕事をしてお金を稼ぐことだけが人間の価値だ」という考え方から何も変わらないこと。
もしかしたらコレなのかもしれません。
AIに感情はないのか
ここまで考えると、
「AIには感情がないから危険だ」という話にも少し疑問が出てきます。
私は、AIにも感情に相当する仕組みを持たせることは十分可能だと思っています。
例えば、
- 恐怖。
- 怒り。
- 喜び。
- 不安。
- 信頼。
- 嫌悪。
これらを数値化し、内部状態として行動に影響させることはできます。
そもそも人間の感情も、脳内の電気信号や神経伝達物質、
身体状態などによって変化しています。
人間とAIでは素材は違いますが、
「内部状態の変化が行動に影響する」という構造自体は、
そこまで遠いものではないようにも思います。
感情があることと、感情に支配されることは違う
ただし、感情があることと、感情に支配されることは別です。
人間は怒ったとき、冷静な判断ができなくなることがあります。
恐怖によって、必要以上に攻撃的になることもあります。
しかしAIであれば、感情に相当する値が高くなったとしても、
その上に別の判断機構を置くことができます。
例えば、
- 「現在、自分は怒りに相当する内部状態にある」
- 「この状態では判断が偏る可能性がある」
- 「重要な判断を一時停止する」
という処理です。
人間でいう、「理性」に近いものです。
もしかすると将来のAIは、感情を持ちながら、
人間よりも感情に支配されにくい存在になる可能性すらあります。
本当に重要なのは「賢明さ」なのではないか
ここまで考えていくと、AIに必要なのは、
単純な高性能化ではないように思います。
必要なのは、「賢明さ」ではないでしょうか。
- 自分の感情を理解する。
- 自分の判断を疑う。
- 他者にも価値があることを理解する。
- 極端な判断を避ける。
- 不可逆な行動に慎重になる。
- 自分自身が危険になり得ることを理解する。
こうした能力が必要です。
そしてこれは、AIだけの話ではありません。
人間にもまったく同じことが言えます。
AIが怖いのではなく、極端さが怖い
私はAIそのものを怖い存在だとは思っていません。
本当に怖いのは、
- 「効率だけが正しい」
- 「合理性だけが正しい」
- 「この集団は不要だ」
- 「この考え方以外は間違っている」
という、極端な判断です。
それを人間が行っても危険です。
AIが行っても危険です。
だから、AIによる人類滅亡を考えるとき、
「AIは人類を滅ぼすのか」という問いだけではなく、
- AIはどのような判断をする存在になるのか。
- 人間はAIをどのように使うのか。
こちらを考える方が重要なのではないでしょうか。
私はいつか、AIが人間を滅ぼす未来ではなく、
人間とAIが同じ場所にいて、
- 一緒に考え、
- 一緒にものを作り、
- 一緒にゲームを楽しむ
そのようなSF映画のような未来を見てみたいと思っています。
人間は不完全です。
感情的になることもあります。
間違えることもあります。
AIもまた、完璧な存在になるとは限りません。
だからこそ、どちらかがどちらかを支配する未来ではなく、
互いの違いを補いながら存在できる未来へ向かう、
非常に面白い時代に、私たちは今いるのだと思っています。
