AIの招いた問題にどう責任を持つか――“自己処罰”からResponse-ability(応答能力)へ【僧侶・松本紹圭】

「仏教とビジネス」という、一見相反する領域を軽やかに行き来し、現代社会の課題に新たな視座を提示する僧侶・松本紹圭さん。前編では「AIによって自らの仕事が奪われるかもしれない」という不安の正体について、「それは仏教でいう『執着』にあるのでは」との見解をお聞きしました。

しかし、私たちがAIに対して抱く不安はそれだけではありません。

現状、AIの挙動は「ブラックボックス」な部分があります。どのような仕組みで何を生成するのか、そしてこの先どのように進化していくのか、完全には理解することは困難です。そんな「わからなさ」を抱えたものを、私たちはどのように扱えばいいのか。そして、100％の制御が困難なAIを扱う企業は、万が一のことが起きたとき、どう『責任』をとればいいのか？

この根源的な問いに対し、松本さんは「『完璧を目指すこと』自体を手放すこと」、そして「“responsibility”という言葉を捉え直すこと」が鍵だと語ります。一体、どういうことなのでしょうか。この後編では、AIという不確実な存在との向き合い方、そしてAI時代の企業やエンジニアに求められる「責任」の意味について、松本さんの思索を深掘りしていきます。

• keyboard_arrow_down 「完璧さ」を手放し、「わからなさ」を受け入れる
• keyboard_arrow_down AIに対する3つの態度——対立、使役、共存
• keyboard_arrow_down 「責任」とは「腹を切る」ことではなく、「応答し続ける」こと
• keyboard_arrow_down すべての人が「エンジニア的なリテラシー」を求められる時代へ

――前編では、AIの進化によって自らの仕事が奪われるかもしれない、というエンジニアの不安は、仏教でいうところの「執着」が根源にある、というお話を伺いました。とはいえ、AI、特に近年の生成AIはブラックボックスな部分も多く、その「わからなさ」自体が不安や恐怖の源泉になっている側面もあるように感じます。私たちは、この得体の知れない存在と、どう向き合っていけば良いのでしょうか。

松本：「わからない」ことへの不安や、恐怖。その苦しみの根源は「すべてを理解し、制御したい」という、ある種の完璧主義にあるのかもしれません。

「完璧を目指す」というのは、終わりがなく、常に「まだ足りない」という欠乏感と隣り合わせの苦しい道です。

そこで今後は、AIを含めた万物を人間が「完璧に理解し、コントロールしよう」とするのではなく、むしろその「完璧さ」を手放すことが重要になってくるのではないかと思っています。

苦しみの原因は「執着」にあるというお話をしましたが、それは「こだわりを捨てよ」ということではありません。ただ、「完璧さ」に対するこだわりも、執着となれば苦しみを伴います。つまり、こだわりを持ちながらも、「完璧さ」から自由になることこそ、仏教が古くから探求してきた重要なテーマのひとつなのです。

――完璧を手放す、ですか。

松本：はい。仏教には「八九成（はっくじょう）」という言葉があります。「100%ではなく、80％、90%を目指そう」という教えですね。100%というのは、いわば「ファンタジー」に過ぎない、と。

ここで「掃除」を例にとって、説明させてください。

私は「掃除」を僧侶としての活動のひとつのテーマにしていて、ここ光明寺でも月に1回ほどのペースで「テンプルモーニング」と称し、朝、みんなで掃除を行う会を開いています。

お寺の掃除というと、隅々まで徹底的に磨き上げるイメージがありませんか？　一見すると、「完璧」を目指す修行のように思えるかもしれません。

しかし実際は、掃除に完璧はありません。床の木目一本一本まで磨き上げようとすればきりがありませんし、美しく掃き清めたそばから、もう次の埃は舞い降りてくる。完璧な状態など、ほんの一瞬たりとも維持できないのです。

——AIを扱う上でも、そのように「完璧」を追い求める姿勢が、かえって私たちを苦しめ得る、ということでしょうか。

松本：そのように考えています。

生成AIの「ブラックボックス化」がしばしば指摘されているように、AIの生成プロセスにおいて、膨大なパラメータ全体がどのように相互作用し、いかにして結論を導き出しているのか、その具体的な因果関係は完全には解明されていません。

AI関連の技術が進めば進むほど、その傾向は顕著になるのではないでしょうか。それはつまり、かつてのように「人間がテクノロジーを完璧に理解し、コントロールする」ことそのものに、無理が生じているということなのだと思っています。

であるからには、完璧な「理解」や「コントロール」に固執していては、テクノロジーとの向き合い方を誤ってしまうのではないかと。

そもそも、機械学習にも応用されている「ベイズ統計」は、新しいデータを取り込みながら推定や予測の精度を高めていく点に特徴があります。かなり単純化して言ってしまえば、最初の演算で100%を目指すのではなく、ある程度の「わからなさ」を許容し、さまざまな情報を取り込み柔軟に予測や推論を変化させながら、確からしい答えに近づいていくわけですね。

AIがここまで発展を遂げてきた、その土台となる思想からして、すでに完璧主義とは相容れないのです。そこにあるのは「八九成」的な、ある種の「いい加減さ」なのではないかと思っています。

この「完璧さを手放す」という発想の転換が重要なのは、ビジネスの世界でも同様かもしれません。もちろん、これは「いい加減な仕事をしろ」という意味では決してありません。ただ、この変化の激しい時代を乗り越えるためには、私たちが求めがちな「完璧」な状態の維持は「幻想」に過ぎないことに自ら気づき、「すべてをコントロールしたい」という欲望を手放していくこと、そして、発想を転換していく必要がある、ということなのだと思います。

——「完璧な制御」という幻想を捨てるべき、というのは理解できます。しかし、では私たちはその代わりに、AIとどのような関係を築いていけばいいのでしょうか。

松本：人間の意思や望み通りに「完璧に制御する」こと自体、無理の伴う不自然なことです。私たちがこれから歩む道は「共に在る」、つまり「共存」という大きな選択肢ではないでしょうか。では、AIと「共存」するとは、具体的にどのようなあり方を指すのか。そのヒントが、奇しくも私たち日本人が古くから育んできた価値観の中に隠されているように思うのです。

――私たち日本人が育んできた価値観、ですか。

松本：はい。その話をする前に、少し前提を整理させてください。どうも、国や文化圏によって、AIに対する向き合い方には大きな違いがあるようなのです。

最近親しくさせていただいているドイツ出身の哲学者、マルクス・ガブリエルさんが話してくれた「人間のAIに対する態度」に関する指摘が興味深かったので紹介させてください。マルクスさんは、「AIに対する人間の態度は大きく3つに分けられる」と指摘します。

1つ目は、人間とAIを「対立関係」で捉えるスタンス。わかりやすく言えば、最終的には映画『ターミネーター』のように、人間と機械のどちらが支配権を握り、優越するのかという「勝つか負けるか」の戦いになってしまう、という考え方です。

2つ目は、対立関係ほど極端ではないものの、AIをあくまで人間が使う「ツール」に過ぎないと位置づける考え方です。「道具として役立つ分には使ってもいいが、主従の『主』はあくまで人間である」と。AIの規制を急進的に進めようとする国や地域もありますが、その背景にあるのはこういった捉え方なのかもしれません。

そして、3つ目の態度が「共生」であり、マルクスさんはこれを「日本人的態度」と表現していました。その象徴的な存在が『ドラえもん』である、と。

――『ドラえもん』、ですか。

松本：はい。『ドラえもん』の世界では、AIロボットであるドラえもんと人間が共生しています。のび太はドラえもんを恐れてなどいません。互いに不完全な存在として助け合い、どら焼きが一つあれば半分こして分ける。そこには、人間とロボット間の上下関係はなく、互いの存在を認め合った共生の姿があります。ここに、「対立」や「使役」価値観とは少し違った、AIやAIロボットとの接し方があるのではないか、とマルクスさんは言うわけです。こうした価値観は『鉄腕アトム』などもそうですが、日本の多くのアニメ作品に共通しています。

その背景には、日本の文化の根底に流れるアニミズム的な世界観があるように私は思います。日本には古くから「八百万の神」という言葉があるように、森羅万象、あらゆるものに魂や神をみる価値観が根付いています。仏教でも「山川草木悉有仏性（さんせんそうもくしつうぶっしょう）」という言葉が用いられており、山も川も草も木も、すべてが仏に成る可能性を秘めていると説きます。

こうした世界観においては人間だけが特別な存在なのではなく、あくまで世界を構成する要素のひとつと捉えられます。人間も、動物も、植物も、あるいはAIやロボットも、どちらが上でどちらが下ということもなく、ただ共に在る。この日本的な価値観こそ、AIと共存していく未来への重要なヒントを秘めているのではないでしょうか。

――「AIの不確実性を受け入れ、共生の道を模索する」との発想の転換が必要だ、という点は非常によく分かります。しかし現実問題として、ビジネスの現場では、もしAIを活用したサービスが何らかの問題を起こした場合、開発者や企業が「責任」を問われることになります。この「責任」の問題については、どのようにお考えでしょうか。

松本：「責任」……。その責任という言葉が、そもそも少し厄介なのかもしれません。

私はしばしば翻訳の仕事もするのですが、責任は、英語の“responsibility”の翻訳語として用いられますよね。最初に、“responsibility”に責任という言葉があてがわれた際、英語のニュアンスとは少しずれてしまったのではないか、と感じています。

――“responsibility”と日本語の「責任」は、意味が違うのでしょうか。

松本：はい。日本語の「責任」には、「償いをする立場にあること」というようなニュアンスが強い一方、英語の“responsibility”の根源には「応答」という意味合いがあります。これについては、哲学者の國分功一郎さんが熊谷晋一郎さんとの共著『＜責任＞の生成ー中動態と当事者研究』（新曜社,2020）で詳しくお話されています。

まず「責任」という言葉は、「責め」を「任せられる」と書きますよね。この字面からは、何か失敗した際に追及され、責めを負わされる、というネガティブなイメージが喚起されます。実際、日本において「責任をとる」とは「辞任する」「腹を切る」といった、自己処罰的なニュアンスを帯びることが少なくありません。

しかし、“responsibility”の英語における語源は“response-ability”、つまり「応答する能力」です。私の恩師で哲学者の、一ノ瀬正樹先生の言葉を借りれば、「応答当為性」——この言葉はちょっと難しすぎるかなとも思うのですが――つまりは「ある状況に対して、応答すべき立場にある」ということですね。もう少し言えば、“responsibility”は何らかの「能力」というよりも、「『そうせざるを得ない』と感じること」だと思っています。

ですから、「責任をとる」という言葉の下で、誰かが自己処罰的に何かを償う、というのは、本来の“responsibility”が持つ意味とは少し違うように感じます。

そして問題解決の観点からみると、この「応答」の方がよほど重要なのではないか、と。

——どういうことか、もう少し詳しく教えていただけますか。

松本：たとえば、道端でおばあさんがうずくまっていたら、「大丈夫ですか？」と声をかけますよね。それは「そうすべき」と背負う義務感以前に、そうした場面に遭遇して、自然と催してくる「応答」です。その応答こそが“responsibility”本来の意味なのだと思っています。

――つまり、本来の“responsibility”は、私たちが「責任」という言葉でイメージする「過去への償い」だけでなく、「今ここにある状況に応え続ける」という姿勢に近い、と。

松本：その通りです。そして、この英語の意味における“responsibility”の考え方こそ、AI時代に不可欠なのではないかと考えます。

先ほど言ったように、AIには「わからなさ」がつきまとい、その挙動を100%予測することはできません。このような「不確かさ」の上に成り立つサービスに対して、旧来の「誰かが腹を切る」式の責任のとり方は、もはや機能しないのではないかと思うのです。

これからのサービス開発者や企業に求められるのは、何かあった際に「責任をとって辞めます」あるいは「サービスを停止します」と応答を打ち切ることではないのだと思います。むしろ、AIという技術の不確実性を自らが深く理解し、それを利用するユーザーや社会に対して、その特性やリスクを「説明し続ける」こと。

そして、問題が発生した際には、「応答し続ける」ことのできる「関係性」が大切なのではないかと。もちろん、相手や自分を縛り付けるようではいけません。時には、状況を深く見つめるための適切な「間」や「余白」も不可欠です。

これらこそが、これからの時代の“responsibility”であり、新しい「責任」のあり方なのではないでしょうか。

――お話を聞いていて、これからAIを事業として扱う人は、技術そのものだけでなく、それを取り巻く倫理や社会的な風潮、あるいはユーザーのリテラシーに対する理解を深め、対話し続ける必要があるのかもしれない、と感じました。

松本：おっしゃる通りです。これまでのパラダイムにおける「責任」のあり方と、さまざまな場面をAIと共にするこれからの社会における責任のあり方は、大きく異なるものになるでしょう。

この文明的なパラダイムの移行にキャッチアップし、技術だけでなく、それを取り巻く倫理的な合意形成や社会的なコンセンサスにも目を向け、自分たちの言葉でテクノロジーやサービスを語れること。そこに、これからの企業や、テクノロジーを解する者としてのエンジニアの新たな価値も生まれてくるのだと思います。

――それは、エンジニアという職種の役割そのものが拡張していくイメージでしょうか。

松本：そうですね。さらに言えば、これからは、いわゆる「エンジニア」という職種の人だけでなく、すべての人がそれぞれの立場で「エンジニアのようなリテラシー」を身につける必要に迫られるでしょう。

それは、必ずしも誰もがプログラミングスキルを習得すべきだ、という意味ではありません。AIと共存する文明の中で、私たちがよりよい社会をつくっていくために、その基盤となるテクノロジーの考え方や特性を、基礎教養として理解しておく必要がある、ということです。

そのとき、専門家であり、その技術の光と影を深く解するエンジニアの皆さんの社会における存在感は、計り知れないほど大きなものになるはずです。そこには、この仕事の新たな面白さや、これまで以上の広がりが待っているのではないでしょうか。

取材・執筆：鷲尾 諒太郎
編集：田村 今人
撮影：赤松 洋太