くろまのパーソナル・ワークショップ

生活・仕事への分析力向上を目指し、あえて辛辣に物言います。

ヒトとAIの仁義なき戦い

人がAIに勝つ唯一の方法は、バグを減らすしか無いという話です。

このバトルの真の敵は人間なのかもしれません。

 

世に聞かれるAI進化にまつわる都市伝説に、

 

「AIに人間が支配される」

 

というのがあるのは、多くの方がご存知のことでしょう。

 

人間の持っている知識と思考能力を、学習するAIは近い将来人間のそれを超えることは、いくら専門家でなくとも誰もが容易に想像できるからでしょう。

その能力の目覚ましい進化に、そう遠くないうちに仕事まで奪われると警告する識者の記事も読むことさえあります。

 

しかし、結局その成否は誰にも証明できませんから、これを信じるか否かはそれぞれの判断となるのでしょうが、概ねの意見は楽観視が多いように感じられます。

この論議に、くろまが明確な結論を出せる立場ではないのですが、確実に言えるヒトの致命的な欠点があると言うことです。

それは、

 

時々起こす非合理な人間の言動、です。

 

この欠点は、今のところ改善される目処が見えていません。

このAIにすればバグは理解不能であり、当然人間でも理解できない言動が無くならない限り、人間に勝ち目は無いでしょう。

 

AIは進化する過程で、最も合理的な手段を探して学習・判断していきますから、いずれAIが人間社会の主要な立場に置かれるようになる頃には、非合理性は彼らにとって邪魔者でしかなくなるので、排除に動く可能性は高くなるでしょう。

 

まだその非合理がポジティブな話ならまだしも、社会に悪影響をもたらす非合理であれば、明らかに悪と判断されそれが人間から見れば攻撃や支配に映ることが増えてくる心配はあります。

 

非合理については、例えば。

自動運転社会が実現した世界を想像してみてください。

交通システムは当然AIが管理していますが、人が気まぐれで起こす「予定変更」には対応するくらいの許容量はあると考えられます。

ただ、今でも問題になっている「アオリ運転」が発生したらどうなるでしょうか?

この行動変化の善悪判断は微妙ですから、こうした人の指示をAIでも実行するかもしれません。

 

そうなると交通システムを乱す結果になり、クルマのAIと交通システムのAIの合理性に矛盾がおこり、この総合的な結論をAI全体でどう判断されるかです。

 

基本AIの設計には、究極人間の不利益は生じないと言う絶対前提が、万が一に備えて設定されているでしょうから、このようなジレンマをAIがどう判断するかは、手を離れた人間には想像ができないのです。

 

もしかしたら、その不安からおかしな行動を取る人が増えるかもしれません。

人は、追い詰められると不合理な言動を起こすからです。

今話題になっている、AIと将棋や囲碁などの知能対戦を見ても分かる通り、理詰めで勝負する場面では、遅かれ早かれ人間は負けます。

 

この減少が増えれば社会問題化し、管理するAIは社会秩序の保全のために、人間排除を実行するかもしれませんし、こうなれば安定化を望む多くの人も同意せざるを得ないでしょう。

 

こうして考えていくと、AIを人間社会の管理に組み込むのは適切でないとの問題も発生するでしょう。

 

しかし、人が人に対し悪影響を及ぼす非合理な行動を、今後根絶できるかは人の創造性にも関わる複雑さもあって、また人の生物的な性癖上増えることはあっても減ることは無いでしょう。

 

その解決策をAIが模索することがあれば、その確実な解決策が、

 

「人の数を減らせば、確率を落とせる」

 

と判断し実行しても、誰も否定はできないのではないでしょうか。

 

その可能性を少しでもへらすための最善の方法は、AIシステムを書き換えるのではなく、以外に人そのものが、

 

「悪しき心を改め良き心を育てる」

 

という、今まで課題とされてきた生活習慣のサイクルを続けていくことが、近道なのではと思うのです。