人生において選択肢は重要だ。
乙武氏は「選択肢を増やそう」をモットーに活動を行ってきた。彼は少数者であっても多くの選択肢を持てる社会を理想とする。これに異を唱える人は少なかろう。以前バリバラでCIL西宮の玉木氏が「障害児は将来の選択肢を非常に乏しいと感じながら育つ」と指摘していた。私もそうだった。夢が描けないのだ。職業であれ他の活動であれ、将来について本当に狭いイメージしか持てない。それには色々な要因がある。
一つ目は、野球や力士などの健常者スポーツの選手には絶対になれないという物理的制約。
二つ目は制度的障壁やロールモデルの欠如といった社会構造的問題。
三つ目は「私のように迷惑な存在が希望や目標を抱くなどおこがましい」という自己否定を植え付けられ、元々乏しい可能性を余計に低く見積もってしまう心理的傾向である。
それと正反対なのが、今来てくれている同い年のヘルパーさんだ。人格・技能・容姿全てに優れ、仕事でも家庭でも信頼が篤く、常に立派に責任を果たしている。彼は介護士だけでなく看護師や美容師にも惹かれ、色々な選択肢も視野に入れつつ最終的に今の職業に決めたと言う。出会って暫くは「自分と彼は同い年なのに、何故こんなにも違うのだろう」と落ち込んだものだ*1。
とまれ、選択肢を多く持てること、或いはそう感じられること、そして時に迷いながら己の意志で決定していくことこそ、人生の醍醐味と言えよう。
他方で選択には苦しみも伴う。たとえ無限の選択肢があろうとも手に取れるのは一つ。他の選択肢は捨てる他無く、後悔はつきものだ。現代では選択肢のあまりの多さ、決める責任、自由意志の重さに辟易している人も多い。
加えて、選択肢の中にはそれを設けるのに多大な社会的コストを要する(少なくともそう思われている)ものもある。これは障害者に立ちはだかる壁にもなっている。
だから「とにかく選択肢を増やせばいい」と言えば済むような簡単な話ではない。
意思決定支援システム
私は「意思決定支援システム」が問題を解く鍵だと考える。
現在「意思決定支援」と呼ばれているものは、主に知的障害を持つ人などに対して行うことが想定されている。だがAIから見れば人間個体間のIQの差異など塵芥程度のものだ。従って、誰しもが遅かれ早かれその類の支援のお世話になる時代が来るだろう(もう来ているとも言える)。
大事なのはその在り様である。まず自由意思の感覚を残さねばならない。誰に対しても常に「選択肢がある」という感覚を与えるものであることが要求される。加えて「幸せな選択ができるシステム」つまり「人が選択を行うプロセスに幸せを感じられるよう支援するシステム」であるべきだ。
これらの達成には以下の2つの機能が必要である。
自分が豊富な選択肢を持っているかのように各人に感じさせつつ「正解」に誘導する機能
これはつまり、見かけ上は、実際に取り得る(或いは社会的に望ましい)選択肢よりも多くの選択肢を提示しつつ、強い推奨と巧みな動機付けによって実現可能かつ最善な決定に誘導するということである。こうすることで「十分な幅の中から自らの意思で選択した」という自己決定の満足感と、正解(自他の効用最大化)とを同時にもたらせるのだ。
こうした選択肢と決定とを全て保存しておけば、その人の人生のアイデンティティを担保するライフログにもなる。そしてそれを幸福な心理状態にある時を見計らい、折に触れてリマインドするのだ。これは「良い人生を自分の足で歩んできた」という自己肯定感を最大化してくれるに違いない。
これを補完するものとして閻魔帳のような運用も必要になろう。
例えば、法には問われないような悪行、強く非推奨とされるダミーの選択肢を敢えて選ぶような天邪鬼な決定等々、社会に余分に負荷をかけた分は全て罰則点として蓄積させる。これが閾値を超えると自動的に罰が下り、余った端数は死期の直前に清算する。罰は何も禁錮などに限る必要は無い。最もコスパが高く、かつ本人以外を害さない方法で苦痛を与えるのが望ましい。
これがあることにより、ある決定を下す場面において、外部不経済を「将来の本人の効用の低下」として予め計算し組み込んだ上で、それを踏まえた選択肢の提示や誘導を行うことが可能となる。従って如何に利己的な人間であっても、己の欲望と公益を両立するような「正解」が最善であることを理解し、それを自由意思で選択できるようになるのだ。
「したくない選択(苦痛が伴う決定)」をしなくていいようにする機能
具体例をいくつか挙げる。
『ヱヴァンゲリヲン新劇場版』シリーズでは、シンジが「アスカを殺すか、助けるか」を選択できなかった(自分で何も決めなかった)ことを罪深い卑怯さであると自他共に捉えている。しかし本当にそうだろうか。シンジの消極的態度はむしろ人として当然の防衛機制だ。かように非難や糾弾されるべきものではない筈である。
然るに我々が現実においてAIに真っ先に期待するのは、それほどまでに酷な状況自体に直面せずに済むようにしてくれることだろう。
もしそれができない場合でも、より望ましいプロセスは構想し得る。それは以下のようなものだ。
ここで「したくない選択」の究極例としてトロッコ問題を考える。この問題の正解は選択しないことであるのは周知の通りだ。つまりコイントス等、ランダム性に身を任せるなどの方法により、決定の責任主体から降りることが唯一の解である*2。
この局面でAIによる意思決定支援システムにできることは何通りもある。
一つ目は、その解自体をそのまま主人に教えること。
二つ目は、AIが決定を一時的に代行する方法。つまり「トロッコ問題」状況の終了まで、強制的に意思決定を肩代わりするのだ。まず手動操作を無効化し、AIが全ての操縦権限を奪う。その上で、1人を殺すのか5人を殺すのかはAIが何らかの基準で決めれば良い。
例えば中国で運用されている社会信用スコアのように人間の価値を測る何らかの尺度を常に算出しておき、それを利用することもできよう。あるいは、車載AI同士の事故裁判を描いた『Final Anchors』(著:八島 游舷)のように、トロッコの乗員と2つの行き先にいる者の合計7人が各々所持しているパーソナライズAIの合議により決めるのも良い。もっと単純な判断、つまり人数の多寡(5>1)や乱数によって決めるのでも良い。
最もスマートなのは、元凶たるトロッコこそを乗員もろとも自爆させる方法である。犠牲者数も恐怖も罪悪感も最小限で済むからだ。ただしこの方法はAIが持ち主に牙を向いたように見えるため、人間を不安にさせるかもしれない。だからこの方策を受容してもらうには、発動をこうした極めて特殊な状況に限定したり何らかのインセンティブを与えたりするなど、若干の工夫が要るだろう。
コテコテのサイバーパンク世界 VS 伊藤計劃『ハーモニー』
私が『Final Anchors』から得た最も大きな気付きは「AIが如何に人間に比べて優れていようとも、人はAIの能力を部分的に制限したり自分勝手に魔改造したりできる」ということだ。だからたとえシンギュラリティなるものが訪れたとしても、AIの反乱による人類の駆逐などということにはなるまい。また『ハーモニー』のような、全てが一意に決定され人間の自由意思が消失するような世界にもなるまい。人間は伊藤計劃が考える程には思慮深く洗練された存在ではないからだ。人は人間らしさ、つまり衝動で愚行を重ねる性質を保持し続けるためなら、いかなる代償を払ってでもAIの機能を制限するだろう。だからそのポテンシャルが100%発揮されることなどあり得ないのだ。人間によってわざと能力を歯抜け状態にされた各々不完全な並立する人工知能と、その利用に有利なライフスタイルに特化した人間との、奇妙な共存が数百年くらい続く気がする。それはどこか既視感のある、SFファンには懐かしささえ感じさせるような、お馴染みのサイバーパンク世界に案外近いのではなかろうか。
結論:意思決定支援の要諦はAIと人との親子関係にある
思うにAIと人との共同意思決定というのは親子関係に似ている。もちろん親がAIで子供が人だ。しかしAIは現実の親と違い、常に子供の幸せだけを願っており、かつその判断は基本的に全て正しい、という完璧な親たり得る。子供はそれを分かっていながら、親に隠し事をしたり、わざと忠告に背いたり、怪我を負わせたり、家出したり、とにかく絶えず愚かなことをする。
親は子を理解しようと努める過程で、飴と鞭で全てを操縦するのではなく、自分も時には子供と一緒になって少しバカをやることの大切さを学んでいく。子供のほうも、繰り返し痛い目に遭う中で正しさと愚行権との折り合いの付け方を学んでいく。
そして両者が互いに歩み寄った時、はじめて意思決定という宿題に対し共に手を携えて取り組むことができるだろう。大きくは気候変動や貧富の格差、障害者問題、小さくは進学や就職の悩みまで、私達は宿題には事欠かない。
ここで私はふと思い立ち、ずっと残り続けている宿題を今のAIに少し見てもらうことにした。
――アレクサ、生きる意味は何?
「小さい頃から人生の目的を理解している人もいます。一生かけて探す人もいます。しかし最も重要なのは、この質問には自分で答えを見つけることです。」