プロセスが辿れない、AIのリスク

美馬さんはだいぶ早い段階からコンピュータに著目されていたんですよね。

コンピュータに興味を持って研究し始めたのは、1980年代、いわゆる第二次人工知能ブームの頃です。當(dāng)時、AIの父と呼ばれるマービン?ミンスキー教授が創(chuàng)設(shè)に関わったMITメディアラボに、大學(xué)院生として在籍していたこともあります。あの頃は、ものすごい可能性を感じていて、「これから社會はどんどん変わっていくぞ」と強(qiáng)く思っていました。

でも今はリスクが高まってきて、美馬さんをはじめ、世界中の専門家が警鐘を鳴らしています。

當(dāng)時のAIは、なぜその結(jié)論に至ったのかをきちんと辿ることができたんです。例えば、薬を処方する際に薬の組み合わせに問題がないかを確認(rèn)する、分野特化型のエキスパートシステムなら、結(jié)果に至るまでのプロセスを追うことができました。でも今のAIは違います。人間の脳を模した仕組みであるディープラーニングが登場してから、なぜその結(jié)果が出たのか、ブラックボックス化し、私たちには辿れなくなっているんです。

プロセスが不透明だということですね。よく考えると、それは怖いですね。

マービンは、ChatGPTや生成AIが登場する前に亡くなりましたが、その兆しが見えていた段階から強(qiáng)い危懼を抱いていました。彼が問題視していたのは、AIが人間を超えるような結(jié)果を出すことではなく、人間の思考とは何かという本質(zhì)的な問いに挑むことをやめ、結(jié)果が同じであれば仕組みがブラックボックスのままでも構(gòu)わないとする態(tài)度です。

私自身、AIの仕組みにはある程度の理解がありますし、教育の観點(diǎn)からも研究を続けています。いずれリスクが高まってくると予想していました。だからこそ、AIの仕組みを理解する人が、その本質(zhì)や問題點(diǎn)を社會に伝える役割を擔(dān)わなければならないと考え、使命感を持ってこれまで何冊かの書籍を出版してきたのです。

2024年8月に上梓した『AIの世界へようこそ 未來を変えるあなたへ』（Gakken）

AIで一発逆転を狙おうとした日本

Ipsos（イプソス）※の調(diào)査によると「日本はAIへの興奮度は高くもなければ、低くもない一方、AIへの『不安』は世界で最も低く、先進(jìn)國?新興國を含む32カ國の中で過半數(shù)の日本人が『AIを理解していない』と回答した」（AI Monitor 2024）とする結(jié)果が出ています。これはやはり楽観的すぎるのでしょうか。

日本は、いわゆる「失われた30年」の間に、経済成長も科學(xué)技術(shù)研究も國際的に相対的な停滯を経験しました。そうした中で、AIによって一発逆転を狙おうという期待があるように感じます。そのため、楽観的なムードや、やや勇み足の姿勢も見受けられます。本來であれば、AIの仕組みやリスクをきちんと理解した上で取り組まなければ、最終的にはうまくいかないと私は考えています。

アメリカの場合、すでにAIシステムの倫理的チェックを擔(dān)う団體がいくつも存在します。興味深いのは、こうした分野で活躍するコンピュータサイエンティストや社會學(xué)者、倫理學(xué)者に女性が多いことです。こうした事実は、多様な視點(diǎn)や経験を持つ人々が最初から対等な立場でチームに參加することの重要性を改めて示していると感じます。

※：フランス?パリに本社を置くグローバル?マーケティング?リサーチ?xí)纭?/p>

多様な視點(diǎn)によってバイアスを補(bǔ)正する、ということですね。

そうです。そうでなければ、こぼれ落ちる重要な視點(diǎn)があり、結(jié)果として被害を受ける人が出てきてしまいます。それを防ぐのはとても大変なことですが、実はそこにこそイノベーションの種があります。日本でも、より多様なバックグラウンドを持つ人たちが最初から関わるようになることが、理想だと考えています。

AIにどこまで任せるかを考える

私たちは、AIと共にどんな未來をつくっていくのでしょうか。

大切なのは、AIが社會に入り込んだ後、私たち自身がどんな暮らしを望むのかを考えることです。便利さは、時に自分たちでコントロールする力を手放すことにもつながります。例えば、AIに「これがおすすめです」と言われて自分で選ぶのか、「そろそろ買っておきましょうか」と提案されたら買うのか、それとも完全に任せて放っておいても買ってくれるようにするのか……。買い物くらいならそれでもいいかもしれません。単純なビジネスメールや議事録作成を任せるのも問題ないでしょう。でも、自分の趣味は？ 家族とのやりとりは？ 大事なことの判斷までAIに委ねてしまっていいのでしょうか。どこまで任せていいのかは、私たちが真剣に考えるべき問いです。

そして今は、AIを?qū)毪工毪长趣呛韦盲椁欷毪肖辘Zられていますが、何を"失うのか"も考えないといけないですね。私が教育の重要性を強(qiáng)調(diào)するのは、放っておけば「分からなければAIに聞けばいい」という発想が広がり、自分の頭で考える力が失われかねないと感じているからです。

やはり教育なんですね。

本當(dāng)に大切なのは、さまざまな思考のかたちに出會い、自分の考えを広げ、深めていくことだと思います。それを支えるのが教育の役割です。數(shù)學(xué)には數(shù)學(xué)の、歴史や蕓術(shù)にはそれぞれの思考方法があり、それを?qū)Wぶことは、生きていくための大切な道具を手に入れることと同じです。だからこそ、AIと共に生きる未來を、一人ひとりが自分の頭で考えてほしいと心から願っています。

それぞれが思い描く未來は異なっていても、やがて重なり合い、一つの大きな未來を共につくり上げていきます。だから私は伝えたいのです──あなたにも、未來は変えられる。誰もが、問いを立て、対話し、行動することで、チェンジメーカーになれるのです。