AIは人間にこれ以上近づかないと思う話

Table of Contents

こんにちは、殿内(@tonoccho)です

最近AIというといつかシンギュラリティが来て人々はマトリックスよろしくコンピュータに支配される世の中が来るようなことを言う人がどうもいるようなんですが、それについて考えたことを書きます。というか、「AI vs 教科書が読めないこどもたち」という本を読んだのでその感想文です。

この本はAIが東京大学に合格できるかというテーマで実践された方の書籍です。AIは最終的に東京大学に入学することはできなかったのですが、偏差値65くらいにはなったそうです。

AIとはなにか?

この用語自体はそうとう昔からありました。ようは「プログラムの力で人間が判断するように判断するソフトウェアを作れないか」ということです。そして様々なSF作品でAIを持ったロボットや機械が登場して、あるときは友人(ドラえもんとかないと2000とか)として描かれ、あるときは敵として描かれますマトリックスとかね。

今自分たちの身の回りにも「AIスピーカー」とかそういったものが出てきています。iPhoneのSiriやOKグーグルとかもそうだし、Amazonの「これを買った人はあれも買っています」という部分も実はAIが出しています。そしてこれらの受け答えは人間然としていますので、もしかしたら「ドラえもんとは行かないまでも結構近いものが出ているんじゃないだろうか?」という感じにはなってきているかもしれません。

ただ、SFのAIと現実のAIには大きな違いがあります。それは、SFのAIは人間の言ったことをきちんと理解して的確なコミュニケーションを取るのに対して、現実のAIは人間の言ったことを理解しないで「こういうときはこう返せば大体あってるでしょ」くらいで答えているのです。

機械学習について

AIは「こういうときはこう返せばだいたい合ってる」くらいで回答するんですけど、それが割とあたっていたりします。これがなぜかというと、機械学習ということをしているからです。機械学習とは何かというと、「膨大なあるデータを読み込ませてそのパターンを式にする」ということです。なのでこれが本当に学習かというとそうでもありませんね。

例えば、Amazonであれば、「ある商品を買った人が次に買った商品」というデータを山のように用意してパターンにします。割と有名なエピソードとしては「おむつを買い物かごに入れたお母さんが次に買い物かごに入れたのはビール、なのでおむつとビールを並べて陳列しよう」というお店の話です。

AIを人間のように見てはいけない

人間であれば「育児はストレスが溜まるからお酒を飲んでリラックスしたいよね」とわかりますが、AIが見ているのは「おむつを買った人が次に買ったのはビール」です。なので、これは割と人間の感覚をうまいこと数式にできているかもしれませんし、人間の行動を上手にサポートした例かもしれません

一方で、マイクロソフトがAIを利用したツイッターアカウントを公開したら、ナチスを讃え始めたりしたり、Googleの写真判定AIが黒人を不適切な動物として判定して炎上したりしました。また、たまにAIに絵を書かせてみたとかやって割と不気味な作風を作り出したりしています。更にいうと、Alpha Goが囲碁の世界チャンピオンに勝利したりもしていますが、これを「AIが人間を超えてしまったし下手に転ぶと人間に牙を向くんじゃないか」と考えることはしてはいけません。

これは機械学習のもう一つの側面なのです。例えばAIのツイッターアカウントに特定の政治的な言論をすることが正しいと言うようなことを教えればそのアカウントはそういう発言をするようになるだけです。別にAIが「この政治心情は正しい!」と考えているわけでは全くありませんし、例えばAIが「特定民族を抹殺すべき」と言い出して軍事設備を乗っ取ってミサイルを発射するなんてこともありません(人類がAIと軍事設備を接続しちゃったら話は変わるかもしれませんが)。

AIの重要なポイントは「意味を理解していない、単に数式で結果を出しているだけ」ということと「AIが出した結果をどうするかは人類の責任」ということです。

AIが世界を滅ぼすとしたら

そんなAI自体には世界を滅ぼすことは当然できませんが、例えば「AIを使って不穏な動きをしている国を判別したい」といったとします。で、「95%の確率で不穏な動きをしている国にミサイルを打ち込むシステムを作った」とします。更にこれらをシステムとして接続するとAIはすごい勢いでミサイルを発射するかもしれませんが、それは「AIが人間を攻撃した」のではなく「スカタンな人類が変なシステムを作った」ということでしかないので、やはりAIが人類を滅ぼすことはなさそうです。

AIが意味を理解しないことの意味

という感じで話していてもあれなので、「AIが意味を理解しない」というのがどういうことかを改めて書いてみます。 サンプルとして以下の文章題を使います。

たけしくんは100円持っています、30円のりんごを3つ買いました、残りはいくらでしょう

答えは当然10円ですね。

まず人間はどういうふうに文章を読むのか

答えから言うと10円(スーパーな数学者が言うと10円じゃないかもしれないけど)なんですが、人間は

100円がもともとあるお金、そこから30円のりんごを3つ、合計90円支払ったから残りは10円

というように論理立てて計算すると思います。ではAIはどういうふうにこれを計算してるでしょうか?

AIは単語をピックアップしてパターンに当てはめる

先程の文章題から重要そうな単語をピックアップします。

で、こういうときはだいたいこういう計算式になるという統計を持っています。

100-30x3

この式をAIが見出すために膨大な数の文章題を入力して計算させます。100万個とか。で、その100万個には答えも書かれていて「AIが見出した式の計算が答えとあっているならその式が正しいはず」という感じで処理をするわけです。

なので、AIによっては見出す式が

100x30-3とかになっちゃうかもしれません。ポンコツもいいところですね。一方で微分や積分をがっちゃがちゃにやるけど答え自体は正しいとか、精度が99.9999%の答えを出す式を見出して満足する場合もあるでしょう。この場合はどれも結局ポンコツですけど。

なので、AIによっては、出す答えは10かもしれないし、9.9853462とかかもしれませんし、はたまた50万とかの素っ頓狂な数字かもしれません。これはAIが書かれたものの意味を理解していないからです。

AIが人類を支配する未来はこなさそうだけど偏差値65になったことの意味はある

さて、そんなわけでAIが人類を滅ぼす未来は今のAI技術である限りは永遠に来ないと思いますが、それでも偏差値65になったことの意味はありそうです。というのも今こどもたちが学んでいることの大半は「数式に置き換えられるくらいにパターン化している」ということだからです。何かを数式に置き換えるにはそこにパターンが必要です。人類はそんなパターンなんか無いように工夫して問題を作っているかもしれませんが、AIからするとパターンがあるということになりますし、だったらAIでも解けるということでもあります。

文章題を見たら読まないで答えを書く子供はAIには勝てなくなる

この表題でドキッとする親御さんは多いかもしれません。子供の中には文章題を読まないで答えを書く子供がいます。例えば「出た数字を全部足せばいいんでしょ」とか「今やってるのはこういう単元だからこの数字をこういう式で計算すればいいんでしょ」とかそういう子供です。恥ずかしながら自分もそうでしたが、そもそも「読んで理解することの意義」がわからない場合、結局AIと同じ様に問題をとこうとしてしまいますが、そうなるとAIには叶いません。

AIでできることを人間にやらせるかという問題

AIだったら99.85%の確率で正解を出しますが、24時間365日無休で働きますし、給料もいりません。電気代とか設備仕様料は人件費に比べると実は大したことがありません。ということはAIと同程度の人(ここでは仮に偏差値65くらいの子供とします)だったら、AIを利用する法を選ぶのではという懸念があります。まぁ、だからといってみんな偏差値75になった世界では偏差値50になって、AIの偏差値が40とかになるとは思いますけど。

なので、AIにはできないこと、ようは読解力がいる仕事とかそういったことをある程度意識したほうがいいでしょう。

AIは人類を支配しないけど人類が支配されに行く未来はあるかもしれない

この書籍の中では「AIが人類を支配する未来は来ないけど、AIにでもできることしかできない人たちには冬の時代が来るかもしれない」というようなことを書いていますが、自分としては一方で「人類がAIに支配されに行く未来」はあるかもしれないと思っています。

例えばAmazonの「この商品を買った人は・・・」というのについついつられて買い物をしちゃう人、音楽サービスの「この曲を好きなあなたが気に入りそうな曲」を気に入っちゃう人、そのうちAIがおすすめの旅行先を提示したらそこに行っちゃうとか、AIがおすすめする仕事をしちゃうとか、そんな感じですし、もしかしたらそういう人は今すでにかなりいるかもしれません。

なので、この書籍の中では「読解力が必要」ということもあるわけですが、一方で「AIにおすすめされるがままに行動しない芯」のようなものも必要かもしれませんね。

勘違いしてはいけないのは高い偏差値を目指すことではないということ

そんなわけなので、皆さん偏差値65以上の学校に入りましょう!ということを言いたいわけではなくて、「自分で勝手に勉強できるレベルの読解力を身に着けましょう!」ということなのだろうと思うわけです。例えば、先日高校の数学を独学したのですが、今見ると「あーそういう事ね」と合点がいく程度の読解力は幸いにして自分にはありましたので、AIに仕事を奪われたなら別の分野を目指すこともある程度はできるかもしれません。

ですが、「書いてあることの日本語の意味がわかる」を読解力と勘違いしている人は意外と多いかもしれません。先に書いた問題文のこれ

たけしくんは100円持っています、30円のりんごを3つ買いました、残りはいくらでしょう

を読んで「あーたけしくんが買い物したのね、はい100-30-3で答えは67!」とかやっちゃう人は読解力がないということになりますし、そもそも落ち着いて文章を読むこともできないかもしれないのでAmazonの上客になるかもしれません。

いずれにしても人間とAIは違う、AIには到達できない人間の能力は物事を文脈に従って読み解く力だという点は大事だと思いました。

技術の最新記事

考えの最新記事