「科学技術に付随する倫理的問い」塩瀬隆之先生：講義レポート
プログラムの必修授業「科学技術コミュニケーション基礎論I」は、科学技術コミュニケーションの基礎についてプログラム担当教員のほか、さまざまな立場から第一線で科学技術コミュニケーション研究・活動に携わっている先生方をお呼びして講義をしていただく、オムニバス授業となっています。
7回目は、京都大学総合博物館准教授の塩瀬隆之先生に「科学技術に付随する倫理的問い」についてご講義いただきました。塩瀬先生は京都大学大学院工学研究科を修了後に経済産業省産業技術政策課課長補佐などを歴任し、最近では著書『問いのデザイン 創造的対話のファシリテーション』を出版されるなど、社会に溢れる問いとの付き合い方について積極的に発信されています。
授業は 2022年11月現在、京都大学博物館で開催されている京都大学創立125周年記念特別展「創造と越境の125年」の展示室の場から始まりました。
京大と東大
京都大学の歴史は当時の文部省専門学務局長、木下広次に端を発します。東京大学に遅れること20年、京都帝国大学が発足すると木下は初代総長に就任し、研究・教授・学修の自由を重んじるドイツ式の大学制度を採用します。展示室にも掲げられている木下の「好学の志操なくんば 百の図書器械 万の標本あるも 皆これ無用の贅物なるのみ」という言葉には、既に多くの研究資料を抱えていた東大への対抗心が透けて見えるようです。また、関東大震災で図書館など主要な建物が一度焼失している東大と比べ、京大には創立当初の資料が未だ多く残されており、今回の特別展でも紙製の人体模型「キュンストレーキ」や1/1000秒の精度で時間を測れる「ヒップ式クロノスコープ」など珍しい研究資料の数々が並びます。
なお、このミュージアムツアーは学生が遠隔操作するカメラ付きの自走式ロボットに向かって塩瀬先生が説明を行うという、インタラクティブな形式で行われました。
無機物としてのテクノロジー、有機物としての生命
ミュージアムツアーを終え、後半は塩瀬先生が出す様々な問いに対し生徒が各々の意見を述べる形で進められました。最初の問いは「火葬で焼け残った人工関節を骨壺に入れるか？」というもの。ほとんどの学生が「入れる」と答える一方、人工関節を実際に作っている技術系の人々は「入れたくない」という意見が多いそう。テクノロジーが元来持つ無機性と、「人体の一部だった」という有機性の狭間で、私たちはどう考えるべきなのでしょうか。
同様のジレンマはいわゆるVR技術を巡っても起こり得ます。例えば2年前、韓国で放送されたあるドキュメンタリー番組が議論を呼びました。その内容は、幼い娘を亡くした母親が最新技術で再現された娘とVR上で「再会」するというもの。これに対して学生からは「自分が死んだ子供だったら嫌だ」とか「子供にも復元されない権利があるのではないか」といった否定的な意見が多く出ました
人の仕事を奪うのは誰か？
続いての問いは「ロボットは人の仕事を奪うか？」というもの。学生からは「現に奪われている」「奪われても新しい仕事が生まれる」などの意見が出る中で、塩瀬先生が提示したのは「人の仕事を奪っているのは結局人なのではないか？」という視点でした。確かに、どんなに技術革新が起きたとしてもそれを導入するかどうかを判断するのは人であり、その判断材料は多くの場合「導入することで自分が儲かるかどうか」の一点です。それを踏まえ、塩瀬先生は「自分の仕事は取られたくないけど、身の回りは便利になって欲しいというのは一種の我儘なのではないか」と問いかけます。
自動運転車のトロッコ問題
「トロッコ問題」とはもともと倫理学の文脈において考え出された有名な思考実験の一つですが、自動運転車の実用化はこれに似た倫理的な問題を孕むことが指摘されています。具体的には、「急ブレーキのみを行った場合は歩行者に被害を与えてしまい、急ブレーキと急ハンドルによって歩行者を回避した場合は搭乗者に被害を与えてしまう状況において、自動運転車のAIはどちらを選ぶようにプログラムされているべきか」という問題です。マサチューセッツ工科大学が提供している「モラル・マシーン」（自動運転車が直面する様々な倫理的ジレンマの例を提示し、回答者がどちらの判断を選ぶかオンライン上でアンケートを取るwebサービス）を用いた調査によれば、倫理的判断の傾向は国によって大きく違うことが示されています。例えば日本や中国のようなアジア圏の人々はアメリカやロシアなどの人々に比べると歩行者保護を選択する割合が高く、また歩行者と搭乗者の人数が異なる場合被害者の数よりも属性（法令を遵守しているかなど）を重視する傾向があります1。今回の授業では「歩行者保護型ならその車を買った時点で自己責任となる」といった意見や「そもそも自動車メーカーはAIがどちらにプログラムされているか明確にしないのでは」といった議論も出されました。
自分の感想／「問う」とは「問われる」こと
今回の講義は講義というよりも、塩瀬先生が提示する答えのない問いに対し学生が自由に議論するワークショップの形式で行われました。ここで重要なのは、「問う」側がその問いに対しどのようなスタンスを取っているかではないかと考えます。参加者に対して問いを投げかけ、そこで生まれる議論が創造的なものになるようにファシリテートするためには、当然その問いに関する深い知識や洞察が前提となります。しかし一方で、「問う」側もまた参加者と同じ「問われる」側に立っていることを強く自覚し、問いに対して真摯にぶつかる姿勢を見せる必要があります。それを怠り、参加者たちの意見を自らの思う最適解に誘導するようなことがあれば、これはまさに双方向コミュニケーションの仮面を被った欠如モデルそのものです。この意味で、答えのない難しい問いを他人に対して投げかけることは、ともすれば「問う」側と「問われる」側という一種の上下関係を強く意識させる行為であり、問いから始まるコミュニケ―ションを真に創造的なものとするためには、まず「問う」側が率先して自らの問題意識を開示し、その場にいる全員が問い、問われる関係となることが重要なのではないかと私は思います。
[1] Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). https://doi.org/10.1038/s41586-018-0637-6
宮坂 一輝（総合文化研究科 広域科学専攻 修士1年／18期生）