プロセスが辿れない、AIのリスク

美馬さんはだいぶ早い段階からコンピュータに著目されていたんですよね。

コンピュータに興味を持って研究し始めたのは、1980年代、いわゆる第二次人工知能ブームの頃です。當時、AIの父と呼ばれるマービン?ミンスキー教授が創設に関わったMITメディアラボに、大學院生として在籍していたこともあります。あの頃は、ものすごい可能性を感じていて、「これから社會はどんどん変わっていくぞ」と強く思っていました。

でも今はリスクが高まってきて、美馬さんをはじめ、世界中の専門家が警鐘を鳴らしています。

當時のAIは、なぜその結論に至ったのかをきちんと辿ることができたんです。例えば、薬を処方する際に薬の組み合わせに問題がないかを確認する、分野特化型のエキスパートシステムなら、結果に至るまでのプロセスを追うことができました。でも今のAIは違います。人間の脳を模した仕組みであるディープラーニングが登場してから、なぜその結果が出たのか、ブラックボックス化し、私たちには辿れなくなっているんです。

プロセスが不透明だということですね。よく考えると、それは怖いですね。

マービンは、ChatGPTや生成AIが登場する前に亡くなりましたが、その兆しが見えていた段階から強い危懼を抱いていました。彼が問題視していたのは、AIが人間を超えるような結果を出すことではなく、人間の思考とは何かという本質的な問いに挑むことをやめ、結果が同じであれば仕組みがブラックボックスのままでも構わないとする態度です。

私自身、AIの仕組みにはある程度の理解がありますし、教育の観點からも研究を続けています。いずれリスクが高まってくると予想していました。だからこそ、AIの仕組みを理解する人が、その本質や問題點を社會に伝える役割を擔わなければならないと考え、使命感を持ってこれまで何冊かの書籍を出版してきたのです。

2024年8月に上梓した『AIの世界へようこそ 未來を変えるあなたへ』（Gakken）

AIで一発逆転を狙おうとした日本

Ipsos（イプソス）※の調査によると「日本はAIへの興奮度は高くもなければ、低くもない一方、AIへの『不安』は世界で最も低く、先進國?新興國を含む32カ國の中で過半數の日本人が『AIを理解していない』と回答した」（AI Monitor 2024）とする結果が出ています。これはやはり楽観的すぎるのでしょうか。

日本は、いわゆる「失われた30年」の間に、経済成長も科學技術研究も國際的に相対的な停滯を経験しました。そうした中で、AIによって一発逆転を狙おうという期待があるように感じます。そのため、楽観的なムードや、やや勇み足の姿勢も見受けられます。本來であれば、AIの仕組みやリスクをきちんと理解した上で取り組まなければ、最終的にはうまくいかないと私は考えています。

アメリカの場合、すでにAIシステムの倫理的チェックを擔う団體がいくつも存在します。興味深いのは、こうした分野で活躍するコンピュータサイエンティストや社會學者、倫理學者に女性が多いことです。こうした事実は、多様な視點や経験を持つ人々が最初から対等な立場でチームに參加することの重要性を改めて示していると感じます。

※：フランス?パリに本社を置くグローバル?マーケティング?リサーチ會社。

多様な視點によってバイアスを補正する、ということですね。

そうです。そうでなければ、こぼれ落ちる重要な視點があり、結果として被害を受ける人が出てきてしまいます。それを防ぐのはとても大変なことですが、実はそこにこそイノベーションの種があります。日本でも、より多様なバックグラウンドを持つ人たちが最初から関わるようになることが、理想だと考えています。

AIにどこまで任せるかを考える

私たちは、AIと共にどんな未來をつくっていくのでしょうか。

大切なのは、AIが社會に入り込んだ後、私たち自身がどんな暮らしを望むのかを考えることです。便利さは、時に自分たちでコントロールする力を手放すことにもつながります。例えば、AIに「これがおすすめです」と言われて自分で選ぶのか、「そろそろ買っておきましょうか」と提案されたら買うのか、それとも完全に任せて放っておいても買ってくれるようにするのか……。買い物くらいならそれでもいいかもしれません。単純なビジネスメールや議事録作成を任せるのも問題ないでしょう。でも、自分の趣味は？ 家族とのやりとりは？ 大事なことの判斷までAIに委ねてしまっていいのでしょうか。どこまで任せていいのかは、私たちが真剣に考えるべき問いです。

そして今は、AIを導入することで何が得られるかばかりが語られていますが、何を"失うのか"も考えないといけないですね。私が教育の重要性を強調するのは、放っておけば「分からなければAIに聞けばいい」という発想が広がり、自分の頭で考える力が失われかねないと感じているからです。

やはり教育なんですね。

本當に大切なのは、さまざまな思考のかたちに出會い、自分の考えを広げ、深めていくことだと思います。それを支えるのが教育の役割です。數學には數學の、歴史や蕓術にはそれぞれの思考方法があり、それを學ぶことは、生きていくための大切な道具を手に入れることと同じです。だからこそ、AIと共に生きる未來を、一人ひとりが自分の頭で考えてほしいと心から願っています。

それぞれが思い描く未來は異なっていても、やがて重なり合い、一つの大きな未來を共につくり上げていきます。だから私は伝えたいのです──あなたにも、未來は変えられる。誰もが、問いを立て、対話し、行動することで、チェンジメーカーになれるのです。