ChatGPTの登場でAI旋風の吹き荒れる昨今、今後AIによって、われわれの仕事や取りまく環境がどのように変化していくかは、誰もが気になるところです。AIにさまざまな仕事の領域が奪われるかもしれない中で、AIに奪われることのない、人間の優位性とは何でしょうか？

名古屋工業大学の秀島栄三教授に、社会工学的、そしてさらに広い視点から「AIが人間に及ばない領域」について伺いました。

関連記事：
AI時代、若者に求められる力とは？｜名古屋工業大学教授 秀島栄三

• 関連記事：「儲けることが最大の社会貢献」テクノツール代表取締役 島田真太郎氏の仕事の流儀＜Professional 7rules＞
• 関連記事：弥生がプロダクトをゼロから開発するために意識している7つのコト
• 関連記事：プロジェクトの成功のカギは「果たすべき目的」と「求める役割」を一致させること――広木大地氏に聞く

AIには真似のできない「プロの仕事」とは

――AIによって、わたしたちの仕事はどのように変わっていくと考えられるでしょうか。

秀島栄三教授（以下秀島）：
昔はすべてのデータを、時間をかけて処理していました。だから、スーパーコンピュータのような大きな計算機が必要だったわけです。

現代ではデータを大ざっぱに選び、AIであらかじめ処理します。ChatGPTもそうですし、Google検索もそうですね。「すべて」ではなく「多数派の好みに合わせて」「処理されたもの」であることが当たり前の時代なのです。現代の学生など若い人はそれに慣れています。

ChatGPTをつかえば、なんとなくまともっぽく見えるレポートの作成は可能です。プロじゃなくても、それなりのものをつくれて、それなりの評価を得られてしまいます。それを「残念」ととらえることもできますが、いっそ「まかせればいい」「人間は違う能力を持てばいい」と考えることも可能です。

まだ先の話ですが、人間はAIの影響でさらに高度にプロ化していくと考えられます。AIにはできない「難しい仕事」のみを人間がおこなうようになるのかもしれません。

――もしそうなると、難しい仕事ができない人は取り残されてしまうのでしょうか。

秀島：
そうなるのかもしれません。最後に残るのは「クリエイティブ」な人、業界だけかもしれませんね。ほかはAIに任せることにしよう、となるのかも。ほかの業界の人々は腹立たしいかもしれませんが。

――クリエイティブもかなり危険なことになっています。たとえば、彼（※カメラマン）は、写真の世界こそ、いずれはAIに取って代わられるといいます。最初から距離や角度などを決めたり、「クライアントの希望に近い写真」のイメージをデータ化して仕込んだりすれば、あとはAIでも撮影が可能だというんですね。

秀島：
クリエイティブであっても当事者の方々にとっては、危機感を覚える部分はあるかもしれませんが、自分で頭を使っておこなっていることに関しては、まだ大丈夫だと思います。

その上でお話しすると、AIに任せれば「多数の人が支持するもの」がつくれます。AIの価値観が「いいものとはたくさんの『好き』を集めたもの」だからです。スマートフォン搭載のカメラは、多くの人の「好き」を加工のパターンとしてとらえています。

ただ、スマートフォンのデータとプロの中に蓄積した経験とを比較すると、一番大きな違いは「プロは失敗もしている」ことだと思います。

そこにのびしろがあると思うんですね。プロは「ここまで持っていくとこうなる」といった感覚がつかめています。本来はそういった感覚抜きで「いい写真」は撮れないはずなんです。失敗は大切です。限界まで達して、その上で「コレという一枚」を生み出すわけですね。

――なるほど。クリエイティブの世界には「数稽古」という考え方があります。数をこなすことは決して自分を裏切らない、といった意味です。一説によると、何事も1万時間費やせば達人の域になれるそうです。不思議なことに写真の講師は、生徒の撮った写真を見ればその生徒がたくさん撮っているかどうかがわかるといいます。それはつまり、数値だけでない何かがあるということでしょうか。

秀島：
プロはおそらく、おもしろい写真だけでなく、つまらない写真も撮れるのでしょうね。そのふり幅が重要なのでしょう。自転車に乗れるようになるとき、何度も転びながらバランスをつかんでいきます。人間が何かを習得するときには、必ず一直線ではなく、あちこち行っては戻りながら少しずつ上達していきます。その過程を経ずに一直線に正解だけを求めるようになるのは、恐ろしいことだと思いますね。

――「成功のみ欲しがるクライアント」も現れそうです。そのうち失敗データも吸い上げられて「悪い見本としてデータ化」されるかもしれません。そうなったときに人間に優位性はありますか？

秀島：
人間にできてAIにできないことで最も大きなことは、現在の状況をもとにした「的確な判断」でしょう。そこへさらに「自分なりの感性」が加われば、AIは人間には勝てないと考えられます。

AIにはかなわない「人間のもつ優位性」とは

――AIに関する最新の研究や動向で、注目しているものはありますか。

秀島：
ある合意形成のためのシステムをご紹介します。情報工学の先生がメインでつくり、わたしも参加しています。「いったいどうしたら多くの人々が納得できるか？」を考えて仕組みをつくったんですね。

たとえば「名古屋城を今後どうするか？」について話し合います。議論する場合、7～8人で話し合うのが合理的です。それ以上人数が多いと、話を聞かない人がいたり、話題が分かれたりしますから。しかし「名古屋城の今後」のような重要な議題を7～8人では決められませんよね。

そこで、ネット上で話し合う場をつくることにしました。Facebookや2ちゃんねるのような、チャット風のものが完成。書き込みは自由ですが、書き込むのは面倒だろうと「いいねボタン」も用意して、合理的になっています。

キャッチフレーズは「100万人の合意形成」です。議論する100万人の中には、架空の人、つまりAIを紛れ込ませるのもアリかもしれないと考えました。マイナスに作用する危険性もありますが、大勢の人が無理に参加しなくてもよくなります。AIがネット上の書き込みから意見を探してきて投稿すれば、大勢の人が投稿したのと似たような結果になるかもしれません。

――社会工学的な観点から見て、AIがどれほど発達しても任せられないこととは何でしょうか。

秀島：
「社会工学」という分野は、文字通り社会、人間関係を研究の対象に含みます。そうなると、財産の問題や医療・福祉などのプライバシー、倫理の問題も関わってきます。膨大なデータを取得したもののAIに任せられないものが混ざっている、ということが起こるのです。データを扱う上での注意、配慮というAI以前の問題ともいえます。

――可能であれば、具体的な例を挙げてみてください。

秀島：
さきほどお話しした「ビッグデータ」は、AIによってさらに「大ざっぱ」に処理されます。大ざっぱな処理が許されることと許されないことがあります。

たとえば、スマートフォンの会社が利用者の移動の記録や位置情報の変化を時間ごとに知りたいと思った場合、ある場所を1,000人が歩いたとしても全部は使いません。別の通信会社の利用者もいるでしょうし。かなり大ざっぱなものになりますが、そういった「統計」については、一部を抜き出した大ざっぱなデータで問題ありません。反対に、誰がいつどこを歩いていたかまで詳細にわかるデータは、プライバシーの点で問題があります。

最近気づいたのが「お金の取引」と「人の生死」については、大ざっぱが許されないということです。これらに関しては、ある部分を抜き出して「この部分の取引はプラス100万なので、そこから全体は～」などとやってはいけません。お金の取引は端折ってはいけないのです。人の生死に関しても、「この人」が「生きているのかどうかわからない」のは困りますよね。

もちろん「日経ダウ平均」のように、ピックアップした平均値から社会全体の流れを知ることが必要なケースもあります。これはAIの得意な領域ですね。

――建築の分野ではどうでしょうか。

秀島：
建築物にみられる美的なデザイン、使いやすいデザイン、こうした感覚に関わる問題処理がAIでどこまでカバーできるものか。おそらくカバーしようとする研究も進んでいると思いますが、くわしくは知りません。デザインは「悪定義問題」といわれ、美しいとかかっこいいなどと定義ができない、ゆえに正解が唯一に定まらない、たくさんの正解があるということです。

複数の関係者でデザインの問題に取り組もうとすれば、対話が必要です。AIにそのことを取り組ませるのは至難の技でしょう。人間がやるほうがずっとはやい。

AIの時代に牧野富太郎は生まれない

――ほかに「人間にできてAIにできないこと」はありますか？

秀島：
「空想」も人間にしかできません。たとえば、がけっぷちに立つ危機的な状況に陥ったとします。人間はそれまでに同じ経験がなくても、どうやってこの危機から抜け出せるか、空想をめぐらせられます。向こうのがけまで飛べるか、目視で距離を測ることもできますよね。

AIはデータを元にしか動いていません。経験に基づくデータの中でしか答えを選べないのです。計算方法を教えておかないと、飛べるかどうかの計算もできません。

――教えておかないとダメなんですね。教えるには人力が必要ですよね。教えている時間に人がおこなったほうが早いのではないかとも思いますが……。

秀島：
それなんですよ。今この時期にChatGPTが実用化されたのは、インターネットが普及して年月が経って、今まで教え込んで来たデータが蓄積されたからといえます。世界中の人々によるWeb上の大量の書き込みが、AIの辞書データとして使えるほどのボリュームになったんですね。

テキストデータだけでなく、画像データもそうですね。ある画像データとよく似た画像を探すことも簡単にできますし、スマートフォンを花にかざすと花の名前を教えてくれるアプリもあります。

――わたしは昔、花の名前にくわしくて、周りから「植物博士」と呼ばれていたんです。でももう自分の知識は必要ないなと。加齢でどんどん忘れていきますし。

秀島：
ずっと衰えず、ただ蓄積されていくものがAIではあります。

――そう考えると、牧野富太郎先生（朝ドラ『らんまん』のモデルで植物学者）の時代は平和でしたね。

秀島：
まさに、AIの時代に「牧野富太郎」は生まれないかもしれませんね。もしAIがあれば、われを忘れてのめり込むようなことはなくなっていくのかもしれません。

――たしかに！ 花にスマートフォンをかざしてすぐに名前がわかってしまえば、あそこまで必死に「この花は何か知りたい」とは思いませんよね。

秀島：
この先にどのようなことが予測できるかといえば、「好奇心の低下」です。知りたいと思う欲望が瞬時に満たされてしまえば、どんどん欲望が失われていきます。

――下世話な話ですが、ネット上に裸があふれたせいで、男性の性欲が減退したとも言われますよね。それと同じことかもしれませんね。

秀島：
まさにその通りです。欲望がなくなるのは問題です。性欲があるからこそ、ビデオテープが普及したわけですし。技術革新とは、欲望から生まれるものです。満たされてしまい「もうこれでいい」と思えたら、そこで終わってしまいますね。

ただ、AIはつまらない社会をもたらすといった面もあるかもしれませんが、違うものが置き換わっていく可能性もあります。悲観的観測だけを語りたくはないですね、少なくとも工学部の教員としては。

AIに意志はない、意志を持つのは人間

―― 一般的な見地から、AIに任せられないこととは何でしょうか。

秀島：
AIが知らずに常識めいたことを生み出していることがあります。いかにも正解のように書いていますが、Web上の間違いもそのまま書いてしまうので、正しいかどうかはわからないですね。そう考えると、AIに「正しさを判断する力」は手渡せないと思います。

AIに求められないものの一つは倫理の理解です。「人として正しいかどうか」という点は、AIに任せられません。そこは人間が考えないとダメです。反対にルールが決まれば、あとはAIに任せられる部分があるかもしれません。ただし、論理の上にいくほど任せられなくなります。

――現状のAIに「ここまでなら任せられる」としたら、どのような点でしょうか。

秀島：
AIは倫理を理解できませんが、AIで倫理の教科書はつくれます。こういった内容の本をつくりたいと説明すれば、どこかから調べてきて書いてくれるでしょう。しかし、具体例を出して「このような場合はどうするか」といった即興性のある問いを投げた場合、データの中に同じような事例がなければ、AIに答えることはできません。

AIにとっての「正しい・正しくない」の基準は「大勢の人がしゃべっていることが正しい」ということですね。でも実際には多数派の人間がまちがうこともあります。インフルエンサーがつぶやいて多くの人が拡散したことは間違っていて、フォロワーが0の人がつぶやいたことが正しい、ということもあるでしょう。

――AIに判断を任せると、マザーコンピュータが暴走して、まるでSF映画の世界になりそうです。

秀島：
現在流行っている「AI」と判断能力のある「上位のAI」は分けて考えなければいけません。SF映画で不安を感じさせるものは大抵上位のAIですね。現状のAIは暴走することはないでしょう。

――映画「ターミ―ネーター2」では、アンドロイドであるターミ―ネーターが、自らが消えることで人類を救おうとする点が感動的です。AIもそのような判断をすることはありえるのでしょうか。

秀島：
AIにそのようなことができるわけがない、とわかっているから、映画を楽しめるんですね。

話はそれますが「わかった気になる」のも人間の能力の一つです。わたしは『エヴァンゲリオン』が大好きなのですが『エヴァンゲリオン』は設定や前提が不明瞭なままで話が進みます。ある部分がわからないままでも、うまく補完しながら物語を理解できるのは、人間の能力です。

小説を読むときも、序盤はよくわからないままに読み進めますよね。わからなくても、なんとなく「事件が起きそうな不安」を感じ取ったり味わったりしながら、話がつながっていきます。この「感じ取る」「味わう」能力を、いつになったらAIが獲得できるでしょうか。

AIの暴走は止められるのか

――「感じる」「味わう」ことができるのは、今のところAIにはない人間の優位性ですね。「われ思うゆえにわれあり」のような……意味はかなり違いますが。

秀島：
デカルトですね。AIについて考えると、まさにそういった哲学的な領域に近づいていきます。

「味わう」「感じる」って何だろう？どういうことだ？と考えていくと、AIがまるで何かを感じ取っているように見えることがあります。ChatGPTがうまくレポートしているときにそう見えるんですね。実際は人がどこかに書き込んだことを引っ張ってきているだけなのですが。

――AIに質問すると「わたしには、判断することはできません」「好き嫌いはありません」と答えますが、よく考えれば、それもAIが判断して答えているわけではありませんよね。

秀島：
たしかに。その答えも、人間がどこかに書いているだけなのかもしれません。本当に判断しているのかどうか「正しいことはわからない」というロジックになりますね。おもしろい！

――将来的に人類を超える存在の「上位のAI」が暴走して、人類を滅亡させることはありえますか。

秀島：
ここで二つのことをはっきり分けなくてはいけません。もしAIが意図をもって人類を滅ぼそうとしたなら人類の敵です。しかしAIは上位になって、判断はできたとしても意志はないですね。意志も意図もないAIに、いつの間にか人類が滅ぼされてしまうほうが恐ろしいです。

「人類を滅ぼしたいという意図を持つAI」は「人類を滅ぼしたい人間」が先に出てこないと生まれないのではないでしょうか。AIには意志がありませんので。人間が指令を出さなければ、AIは人類を滅ぼそうとはしません。

ただ、核ボタンをAIに委ねると、たとえ人類を滅ぼしたい意志がなくても、何かの拍子に押してしまうかもしれませんね。

――AIが自己防衛することもあり得ますよね。SFでよくある「もうAIいらない、壊そう」という人間の会話はAIには当然筒抜けでしょうから。

秀島：
AIにあらかじめ「自分を破壊しようとする者を殺す」指示を与えておけば、AIは先に人間をやっつけようとします。調べたら、核ボタンを押せばいいとわかって、ポン、とか。

AIには押しとどまるという選択肢はありませんからね。ボタンを押せば自分も消えるんですが、そこは平気で、人間さえいなくなればいいと判断するわけですね。

そう考えると、人間は「死にたくない」という気持ちがあらゆることの原動力になっているかもしれませんね。自分が死にたくないから、人も死なないようにしようと思う。だから協調性を持つのかもしれません。AIに協調性はありませんが、「協調性を持つことは、人間関係をよくするために大切です」と言いそうではあります。

「われ思う、ゆえにわれあり」が可能なのは人間だけ

本文中にも登場した、フランスの哲学者デカルトの有名な言葉「われ思う、ゆえにわれあり」。これは実際には、すべての存在を疑ってかかったとしても、最後に「疑っている自分の存在そのもの」は疑うことのできない事実だ、という意味です。

AIと人間との違いは、まさにここにあるのではないでしょうか。AIには「感じる」ことも「味わう」ことも現状はできない、とは秀島先生の言葉。同様に「思う」ことも「疑う」こともできないでしょう。現状のAIにできるのは「人間が残したデータ」から引っ張ってくることだけ。上位のAIに可能だとされる判断の基準も「人間の与えた指令」です。

AIはある部分に限っては、人間よりはるかに優秀です。今後、AIには大量のデータ処理などAIの得意な作業を任せて、人間は「人間にしかできないこと」に特化していくのかもしれません。「その場に応じた的確な判断」と「意思決定」こそが、AIが人間に及ばないこと。AI活用に当たって、人間がルールを決め、AIを管理することも重要です。

余談ですが、この原稿ができあがるまで、秀島先生と何度か対話をくり返しました。先生からは「予想はよそうと思いましたが、予想してみます」と得意のダジャレも飛び出し、絶好調。先生によれば「ダジャレを考えるのも即興力を鍛えるのに有効」だとのこと。

「原稿ができあがるまでの陽菜さんとのやりとりは楽しいです。AIにはこの楽しさがわかるかな」と先生。AIについて考えるとき、人間の根源、哲学の領域まで行き着きます。本来はライターにとってあまり歓迎できないはずの原稿の赤字ですら、思考の喜びを生み出します。こうしたやりとりを重ねて、一つの真理にたどり着くようなことが、いつかAIによって可能になる日は来るのでしょうか。

（文／取材：陽菜ひよ子、撮影：宮田雄平）

関連記事：
AI時代、若者に求められる力とは？｜名古屋工業大学教授 秀島栄三

― presented by paiza