名古屋大学 大学院情報学研究科
社会情報学専攻 情報哲学講座 准教授
久木田 水生（くきた・みなお）
京都大学大学院文学研究科博士後期課程修了。博士（文学）。専門は情報哲学、技術哲学。AIやロボット技術などが社会に与える倫理的・哲学的影響について研究を行う。著書に『麦とTwitter―情報技術がもたらすコミュニケーションの変容―』（共立出版）、共著に『AI・ロボットからの倫理学入門』（名古屋大学出版会）など。
AIの発達でコーディングのハードルが大きく下がり、「アイデアを形にして、アプリをつくってみた」といった投稿を、SNSでよく見かけるようになりました。
そして、そうして公開されたアプリやツールをめぐって、ときおり「技術者倫理」という言葉が交わされます。「このアプリは、技術者倫理を欠いている」というような指摘です。
ただ、「技術者倫理」という言葉が使われる範囲は意外と広く、明らかに法律や規約に反しているものから、「具体的に何に反しているのか」がはっきりせずユーザー間で議論が分かれるものまで、さまざまなケースで「技術者倫理」が用いられます。そうした中で、「これは本当に技術者倫理の問題なのだろうか」というような声も見かけるなど、このワードをめぐる見解は一枚岩ではないようです。
誰もが開発の力を手にできる時代に、「技術者倫理」という言葉をどう捉えればいいのでしょうか。今回は技術者倫理やソーシャル・メディアに詳しい、名古屋大学准教授・久木田水生さんに、お話をうかがいました。
まず「技術者倫理」について
――昨今、個人が公開したアプリに対して、SNS上で「技術者倫理に反するのではないか」というような言葉が向けられる場面をたびたび見かけます。情報哲学・技術哲学を専門とされる立場から、この現象をどのように見ていますか。
久木田：それらが「技術者倫理」の問題かというと、「厳密には、いささか本来の主旨と異なっているのでは？」という気がしています。
ただ、より広い意味で、「倫理」に関わり得る問題かとは思います。
歴史的な背景を少しお話ししますと、技術者倫理という概念は、もともとは二度の世界大戦などを経て「科学技術の巨大な力に直接的に関わる技術者は、社会に対して重い責任を負う」という意識が工学者らの間で根付いたのが発端です。そうして、アメリカの学会などで技術者が遵守すべき行動規範や原則を定めた倫理綱領が整備されていきました。1980年には技術者教育の標準を定めるAccreditation Board for Engineering and Technology（ABET）が発足（前身のECPDから改称）し、技術者が受けるべき専門的教育の中に技術者が持つべき倫理、社会的責任についての教育が組み込まれます。
日本でも1990年代後半から、ABETに対応するJABEE（日本技術者教育認定機構）が設立されるなど、技術者教育の標準化が進められるにつれて、大学の工学部などで技術者倫理に関する教育が導入されていきました。
学会や分野によって倫理綱領の細部は異なりますが、多くに共通して最も重視されているのは、「社会の公益に貢献すること」や「個人の権利や尊厳を尊重すること」、「自己の研鑽につとめること」などです。そうした考え方は、情報工学分野においても同じだと私は認識しています。
そして、これらの綱領は本来、主に「プロフェッショナルとしてシステムを開発し、世に出す人」に向けられたものです（※1）。
（※1）：なお、近ごろはACM（国際計算機学会）の倫理綱領（2018年改訂）のように、「影響力のある方法でコンピューティング技術を使用する人」にまで対象を広げる例も出ている。
――プロフェッショナル。つまり仕事として開発を行う人たちのための規範、ということでしょうか。
久木田：はい。専門職としての高い社会的地位や信頼を得ることと引き換えに求められる規範ですね。
ただ大前提として申し上げておきたいのは、法律や利用規約への抵触は、プロかそうでないかにかかわらず、避けるべき一線だということです。これは「技術者倫理」以前の、コンプライアンスの問題です。趣味や個人の制作だからといって、そこが免除されるわけでは決してない。
そのうえで、「技術者倫理」という言葉の枠組みにのみ照らして考えるなら、話は少し変わってきます。ここ最近SNS上で話題になった事例の多くは、本職のエンジニアが仕事として対価を得て世に出したものというより、個人が仕事の枠の外で手がけたもの、という側面が強いように見えます。技術的に詳しい方が手がけている場合もあるでしょうが、いずれも職業としての開発とは文脈が異なります。
もちろん、プロのエンジニアが自分たちの会社の事業として社会に悪影響をもたらし得るアプリケーションをつくったら、それはまさしく技術者倫理に反しているといえます。
しかし、一個人の立場でつくったものに対して、専門職に向けられた「技術者倫理」という言葉をそのまま当てはめるのは、前提となるカテゴリーが違うように思います。
なので、法や規約に関わる問題であれば「コンプライアンス」の問題として。そこまで至るかは明確でないが気になるケースでは、「情報技術を利用するユーザーとしての倫理」の問題として、それぞれ切り分けて捉えるのがいいかもしれません。
――法律や規約に違反する場合は、誰がつくったものであってもアウトなのは当然。しかし、プロでない人に「技術者倫理」を用いることが適切かは、疑問の余地がある、と。ただ、不特定多数に何かを公開して使わせる時点で、何かしらの責任は生じるのではないでしょうか。
久木田：もちろんどんな人間でも守るべき一定の倫理はあります。正当な理由なく他者を傷つけたり、他者に損害や迷惑を与えたりすることは、法律や規約に明確に反していなくても、倫理的な非難の対象となる可能性があります。あるいはそういった行為を助長することが明らかなアプリを作成して公開することも非難されて然るべきかもしれません。
――では、なぜ「技術者倫理」という言葉が、しばしばこの文脈で用いられるのでしょうか？
久木田：そこについては、難しいですね。はっきりとはわからない、というのが正直なところです。
例えば、エンジニアの方自身が過去に受けた技術者倫理の教育や、情報の授業などで「こういうプロダクトをつくってはいけない」という事例を聞いたことがあり、それに類するアプリを目にしたときに、反射的に連想して言葉が口をついて出るのかもしれません。
――ときに、明確な法令・規約違反とは言い切れない段階でも「技術者倫理を欠いているのでは」といった形で、SNS上で懸念や注意喚起の声が広がっていく場面をよく見かけます。こうした現象について、久木田さんはどう見ていますか。
久木田：さまざまなパターンがあり、ひとくくりにするのは難しいかと思います。
ここでは「明確な法律違反や規約違反とまではすぐには言い切れないものの、『このまま多くの人が使うようになれば、第三者のサービスやシステムに負荷がかかるのではないか』と心配されるケース」について考えてみましょう。
こうした反応の背景にあるのは、いわゆる「共有地の悲劇」（※2）が起きることに対する懸念ではないかと思います。
例えば、誰もが無料で利用できる便利なWebサービスやAPIなど、みんながある程度節度を持って使っているからこそ維持されているシステムがあるとしますよね。そこに、想定以上の負荷をかけるような使い方をする人が現れる。
その人が1人でやっている分にはギリギリ耐えられても、もしもみんなが同じことをやり始めたら、そのシステム自体が立ち行かなくなってしまう。そうした事態は、インターネット上でも起こり得ることです。
（※2）：共有資源を節度なく使い続けることで、最終的に資源が枯渇し、全員が不利益を被る現象を指す言葉。
――全体に関わるような振る舞いを目の当たりにしたときに、自然に湧いてくる反応である、と？
久木田：はい。「みんなが協調して少しずつ利己心を抑えることで全体がうまくいく」という前提は、まさしく倫理や道徳の根本にあるものです。
ですから、その秩序を乱し得る行為に対して「それはよくないのでは」と感じ、声を上げる人がいるのは、ごく自然なことです。むしろこの感情は、人々が利己的に振る舞ってシステムが立ち行かなくなってしまうのを防ぐうえで、重要な役割を果たしている面があると、社会心理学や道徳心理学でも指摘されています。
ただ、私たちのこうした感情は、SNSのような環境を想定して備わったものではありません。かつては身近なコミュニティの中で「おいおい、それはやめておこうよ」と伝わっていたものが、SNS上では世界中に一気に広がり、反応そのものが増幅されやすい。同じ感情でも、届く規模がまるで変わってくる、という点には注意が必要かもしれません。
組織的な仕組みがあるといいけれど
――AIが普及していくにつれ、今後、「危うげだが、明確な法令・規約違反とも言い切れない」アプリが公開される事例が増えるかもしれません。こうした現状に対し、社会はどう対応していくべきだと思いますか。
久木田：社会的な危害を与えることが明らかなものについては、当然取り締まる必要があります。
例えばヨーロッパなどでは、AIのリスクをカテゴリー分けし、高いリスクのものには厳しい規制をかける動き（EU AI規制法）が進んでいます。AIによってつくられるプロダクトも念頭に、そうした法整備や、監査機関の役割が今後重要になってくるでしょう。
ただ、個人の開発をすべて事前に取り締まるのは現実的ではありません。ですから、一般ユーザー側にも、提供元や仕組みがはっきりしないアプリをむやみに使わない、という情報リテラシーが求められていくかと思います。
――では、専門的な知識や、それこそ「技術者倫理」に関する知見を持つプロのエンジニアは、SNS等で気になるプロダクトを見かけた際、どのようなスタンスで接するのが理想だと感じますか。
久木田：これは、ジャーナリストがフェイクニュースに対してどう向き合うべきか、という問題の構造に少し似ているかもしれません。
たとえば、フェイクニュースを信じてしまった人によってデマが拡散されているとき、ジャーナリストが「ジャーナリズムの倫理を勉強してこい！」と声を張り上げても、あまり意味はありませんよね。
ですが、ジャーナリストは、自らの専門性を活かして「ファクトチェック」を行うことがあります。何がどう間違っていて、どのような危険があるのかを、客観的な事実として示すわけです。
これはあくまで理想論ですが、エンジニアの方々も同じように、気になるアプリを見かけたときには「このアプリはこういう理由でサーバーに負荷をかける可能性がある」といった具体的な事実を提示する。そうした役割を担えると、建設的なのではないでしょうか。
――専門家としての知見を用いて、具体的な問題点が指摘できるといい？
久木田：そうですね。
特に、個人が悪意なく「これ便利そう！」と思ってつくったものの場合、直ちに攻撃的な態度をとることは、やはり望ましくないと思います。攻撃的になってしまうと、相手は萎縮するか反発するだけで、聞く耳を持てなくなってしまいますから。
繰り返しとはなりますが明らかに法律に違反していたり、他者に明確な危害を与える恐れがあるような場合は、しかるべき対応が必要でしょう。しかし、そこまでではない相手に対して、いきなり「技術者倫理」という言葉で切り込むのは、少し要求が過ぎるかもしれません。申し上げた通り、技術者倫理とは、専門職としての高い社会的地位や信頼と引き換えに負うべき責任だからです。
もちろん、こうして一つひとつ丁寧に伝えるのは、実際にはとても手間がかかりますし、本来エンジニア個人が無償で背負うべき義務ではありません。
そこで、フェイクニュースにおける日本ファクトチェックセンターのように、個人任せにせず、コミュニティや組織としてその役割を担える仕組みが生まれるといいのかもしれません。
そのうえで、もし個人でも余力があるなら――何がよくなくて、どうすれば安全に実装できたのかを、攻撃的にならず、できれば丁寧に伝える。頭ごなしに否定するのではなく、より良いつくり方を一緒に考えていく。そうした関わりが、万人がコードを書けるこれからの時代において、めぐりめぐって技術コミュニティ全体の利益になるのではないかと思います。
取材・執筆：田村 今人
編集：王 雨舟
