短編小説: 冷たい人

冷たい人

冷たい人は、数値を信用していなかった。

正確に言えば、数値そのものではなく、それを生み出す人間の営みを信用していなかった。

「多数派は七割です」

画面の中の司会者が言う。
彼は無言でリモコンの電源を切った。

七割。
その数字に意味はない。
定義が曖昧で、測定方法も恣意的で、回答者もまた曖昧だ。

――それでも、人はそれを根拠に意思決定をする。

彼は椅子に深く座り、天井を見上げた。

「測れていないものを、測れたことにしている」

それが、どうにも耐え難かった。

彼の仕事は、ある意味で単純だった。

提案された政策や計画に対して、「それが失敗する条件」を探す。
うまくいく理由ではない。
壊れる条件だ。

「このエネルギー政策は効率が高いです」

資料を差し出される。

彼は一枚だけめくり、言った。

「供給が途絶えた場合は？」

沈黙。

「想定外です」

「では、それが起きた場合の影響は？」

さらに沈黙。

彼は資料を閉じた。

「それは設計ではなく、希望です」

ある日、奇妙な依頼が舞い込んだ。

「社会意思決定の最適化モデルの検証」

要するに、国民の意見を集約し、最も合理的な政策を自動で決定するシステムだという。

「AIが多数意見を解析し、最適解を出します」

説明役の男が誇らしげに言う。

「誤差は？」

彼は短く問う。

「統計的に無視できるレベルです」

「無視するのは誰ですか」

「……え？」

「誤差を“無視する”と決めた人間は、誤差の外側にいますか？」

数秒の沈黙。

AIの説明は止まり、人間がフリーズした。

「では、その誤差が偏った場合は？」

「偏りは補正されます」

「誰が？」

「アルゴリズムが」

「アルゴリズムは誰が作る？」

説明役の男は、言葉を失った。

数週間後、彼は報告書を提出した。

結論は簡潔だった。

「このシステムは、正しく動作する限り有用である。
しかし、誤作動した場合の影響が不可逆であるため、採用すべきではない。」

上層部は難色を示した。

「確率は極めて低いんだ」

彼は首を振った。

「低いことは、起きない理由にはなりません」

「しかし、それを言えば何も決められない」

その言葉に、彼は少しだけ沈黙した。

それは、正しかった。

帰り道、彼はコンビニに立ち寄った。

無人レジが導入されている。
「人手不足解消」
と書かれたポスターが貼られている。

その横で、機械のエラー対応に三人の店員が集まっていた。

彼は少しだけ感心した。

「効率化の結果として、人が増えることもあるのか」

セルフレジは「予期せぬエラーが発生しました」と繰り返している。
妙に人間的な言い訳だった。

外に出ると、空は曇っていた。

天気予報は晴れだったはずだ。

彼はスマートフォンを見て、またポケットに戻した。

「予測は外れる。
だが、それを信じて傘を持たないのは、また別の問題だ」

少し考える。

そして気づく。

「私は、正しさを疑っているんじゃないな」

「“正しいと信じたときの振る舞い”を疑っている」

翌日、彼は報告書に一文を付け加えた。

「なお、本システムは分散的に限定導入し、誤作動時の影響を局所化することで、有用性を検証可能とする」

上司はそれを見て言った。

「珍しく前向きだな」

彼は答えた。

「ええ。“全部任せる”のをやめただけです」

少し間を置いてから、こう続けた。

「人間に任せても危険で、AIに任せても危険なら、
せめて同時に全部壊れないようにするくらいはできます」

机に戻り、彼は次の資料を開いた。

そこにもまた、「最適」という言葉があった。

彼はペンを取り、いつものように書き込む。

「最悪条件は？」

少しだけ考え、さらに一行を加えた。

「なお、この“最適”は、誰にとってのものか」

彼はペンを置き、小さく笑った。

最適という言葉は便利だ。
誰も責任を取らずに、誰かにとって都合がいいことを言える。

思えば人間が昔は、
“神の意思”と呼んでいたものを、
今は“データ”と呼ぶようになっただけかもしれない。

変わっていないのは――

どちらも、間違えるときは黙っている、という点くらいだ。