数年前、あるシステム導入のプロジェクトで「ここは御社で決めてください」と伝えたら、相手が少し困った顔をしました。事業の大きな決めごとが、いつのまにか仕様として決まっていく——その現実にふれた、個人的な振り返りです。

UXという言葉は、ずいぶん広まりました。
言葉そのものは一般化し、日常的に目にする普通の言葉として扱われるようになったと思います。

ただ、実務の「普通」はあまり変わっていないように見えます。リサーチにコストはかけず、発注者の要望を聞いて、要件を定義して、ものをつくりはじめる。それが「効率的」という空気は実際のところまだ根強い感覚があります。

—

私は2002年からUX専業のコンサルティング会社で仕事を学び、経験を重ねてきました。濃い職人気質の文化で、ユーザ側から世界を見るという仕事以外は原則として受けないような、クライアント企業からすれば使い勝手が良いとは言えない面倒くささのある会社に20年以上いました。
そんな場にいたので、まずは調査をし、ユーザ視点の仮説を組み上げては壊し、また組み上げなおすという仕事の仕方が標準だと思っていました。

外に出てみれば、それは世の中の当たり前ではなかった。
狭い中で仕事をしてきたと思う反面、「べき論」を曲げずに仕事をしてきた矜持を同時に感じる奇妙な感覚をもちますが、ともかく言いたいのは設計前のリサーチをはじめ、現実とのフィットを確かめる工程は、多くの場合やむを得ず削られる現実があるということです。

—

もちろん、あらゆる現場で、UXに配慮する気持ちがないということではありません。
むしろそんな視点は当たり前に持っているのです。

ただ、予算とスケジュール、あるいはほかのもっと優先すべきものがある。
だから、UXに配慮はしたいのだけど、「多少の心配り」をする程度で終わる。

「もっと調査をしなきゃいけないね」と誰もが言いますし、そんなことはわかっているのだけど、やれない。やってみないと結果が見えない調査プロセスに時間やコストをかける判断は、簡単ではありません。
それが現状だと思います。

—

こうして作られたサービスは、「たまたま」リリース後に評価を受けることもあるかもしれませんが、かなり運任せになります。

偶然役立つものができる可能性はゼロではないでしょう。
ただ、世の中に必要なものは何かを考え、試しては壊し、練り込んでつくったものと、成功の確率が同じだとは思えません。

—

投げかけてみたいのは、この数年でつくるプロセスが劇的に軽くなり、時間もコストも浮きましたが、それをどう使うのかということです。

革命的なほどものづくりが軽くなったいま、我々は「もっとやみくもにつくる」のか。

それは違うだろうと思います。
回数が増えても、外れた理由を見ていなければ、次の勝率は上がりません。

空いた工数の行き先は、もっとつくることだけではありません。
何をつくるべきかを確かめることに使えます。

—

有名なクリステンセンの『ジョブ理論』の原題は、Competing Against Luckです。
運任せに事業を立ち上げず、どこに放置されているペインがあるか捉え、それが自然と軽減される仕組みをつくることが、成功確度を上げるというメッセージが10年ほど前に提示されているのです。

長いあいだ、この考えは正しいけれど重い、と受け取られてきたのだと思います。現実を見る工程は、どうしてもコストとして計上されてしまう。

でも、ものをつくるコストが下がりました。現実を見る工程に回せる余力が、以前より確かにあります。
運任せにしない仕事の仕方が実践できる時代になったのだと思っています。

最近、こんな話を聞きました。服を買う前に、メルカリでその服の中古の売値を調べる人がいる。デザインや新品の値段だけでなく、「これは将来いくらで手放せるか」まで確かめてから、買う。買う時点で、もう売る場面まで見えている、ということです。

最近、青木淳さんの『フラジャイル・コンセプト』を読みました。 細かい紹介はしませんが、一箇所だけ、長く自分のなかに引っかかっていたものが、少しほどけた場所がありました。

最近、森有正さんの『生きることと考えること』を読み返していました。書かれたのは五十年以上前です。それなのに、いま読むと、まるで今日のことを書いているように感じる箇所がいくつもありました。 とりわけ心に残ったのは、こういう趣旨の話です。

——自動化のあと、人間に何が残るのか 自動化のあと、人間には何が残るのか。この問いを、私たちは40年前も、いまも、変わらず考え続けています。Lisanne Bainbridge が1983年に書いた「Ironies of Automatio…

前の二本は、自分の内側の話でした。違和感というセンサーを錆びさせない。消えた段差を、自分で戻す。どちらも、手が自分に届く範囲の話です。 でも、一つ抜けていました。段差は、放っておいて消えるだけではありません。

前回、「これじゃない」と感じる力を手放さない、という話を書きました。出てきたものを前に、少し立ち止まる。その小さな抵抗だけは残しておきたい、と。 書いたあとで、自分でも引っかかったことがあります。

先日、「直感の錆」という言葉を使って記事を書きました。（過去投稿）

AIを使うことそのものが悪いとは思っていません。
むしろ、日々かなり助けられています。調べる、整理する、書き出す、比較する。ひとりでは時間がかかりすぎることを、AIは驚くほど速く前に進めてくれます。

それでも、どこかで気になる感覚があります。

便利になっている。
速くなっている。
成果物も、それなりに整っている。

なのに、自分の中で何かが少しずつ鈍っていくのではないか。

そんな違和感に、かなり近い言葉を与えてくれるのが、前回も引いたUpol Ehsan らによる From Future of Work to Future of Workers: Addressing Asymptomatic AI Harms for Dignified Human-AI Interactionだと思います。

今回は、自分用の備忘も兼ね、もう少し細かく紹介します。

成功しているAI導入で、何が起きていたのか

この論文で扱われているのは、放射線腫瘍医療の現場です。

がん治療において、どこに、どれだけ放射線を当てるか。
腫瘍には十分な線量を届けながら、周囲の健康な組織への影響はできるだけ抑える。
そこには、高度な専門判断が必要になります。

この現場に、AI支援の治療計画システムが導入されました。

導入初期の結果だけを見ると、かなりうまくいっていました。
治療計画のサイクルは短縮され、品質指標も改善し、現場にも大きな反発は生まれなかった。論文では、計画作成が約15%速くなったことも示されています。

組織側から見れば、これは成功です。

仕事は速くなっている。
品質も悪くなっていない。
現場も使っている。

であれば、推進こそすれ、止める理由はありません。

ところが、しばらくすると、現場の一部の専門家が数字には出ない違和感を語り始めます。

なんとなく、自分の勘が鈍っている。
AIの案を、そのまま承認することが増えた。
以前なら複数案を検討していたのに、今はAIの案が「十分よさそう」なら、そこで止めてしまう。
なぜAIがそうしたのか分からないが、とりあえず受け入れている。

論文の冒頭には、ある専門医の印象的な言葉が出てきます。

My intuition is rusting.（自分の直感が錆びてきている）

この一言が、論文全体の問題意識をよく表しています。

無症状の害

著者たちは、こうした変化を asymptomatic effects と呼んでいます。

asymptomatic とは、医学でいう「無症状」です。
病気は進行しているかもしれない。けれど、まだ本人にも周囲にも、はっきりした症状としては見えていない。

AIによる害も、最初から事故や失敗として現れるわけではありません。

むしろ、仕事はうまく回っているように見える。
指標は改善している。
処理は速くなっている。
管理者から見ても、導入は成功しているように見える。

その裏側で、専門家の行動が少しずつ変わっていく。

以前なら自分で考えていたところを、AI案から始める。
以前なら複数の選択肢を比較していたところを、最初の案で済ませる。
以前なら「これは少しおかしい」と引っかかっていたところを、AIの出力に見慣れてしまう。

この段階では、まだ大きな問題は起きません。だから、管理指標には表れにくい。

しかし、使われていない筋肉は少しずつ弱っていきます。
直感も同じです。

直感とは、なんとなくの思いつきではありません。長年の経験の中で、何度も迷い、比較し、失敗し、修正してきた結果として身につく、判断の手触りのようなものです。

AIが最初からそれなりに良い案を出してくれると、その手触りを使う場面が減ります。
使わなければ、錆びる。

それは、怠けているからではありません。
むしろ、仕事を前に進めようとすればするほど、合理的に改善しようとするほど、そうなります。

ここが怖いところです。
AIの害は、AIが失敗したときだけに生まれるのではありません。

AIがうまくいっているからこそ、人間側の判断が使われなくなることがある。

慢性的な害へ

論文では、半年を過ぎるころから、より具体的な問題が見え始めます。
著者たちはこれを Chronic Harms、慢性的な害と呼んでいます。

ここで出てくる問題は、大きく三つあります。

一つ目は、デスキリング（能力・技能の劣化）です。

AIなしで手作業の計画を立てようとすると、以前より遅くなる。
かつて身体で覚えていた最適化の感覚が、少し鈍っている。
AIがなければ、同じ仕事量をこなす自信がない。
そうした不安が語られるようになります。

二つ目は、自律性の低下です。

AIと自分の判断が違ったとき、自分の方を疑う。
AIを確認しているつもりが、いつの間にか、AIに自分の判断を確認してもらっているような状態になる。
これは単なる「便利な補助」ではありません。判断の主導権が、少しずつ移っている。

三つ目は、成功の脆さ・レジリエンスの低下です。

普段はAIが動いているので、全体としてはうまく回っているように見えます。
けれど、もしAIが止まったらどうなるのか。
AIが苦手な特殊ケースが来たらどうなるのか。
人間側のバックアップ能力は残っているのか。
ある参加者は、AIによる効率化を「水の上に敷かれたアスファルトを走っているようなもの」と表現しています。
表面はなめらかに見える。けれど、その下の地盤は空洞化している。

雇用が残っても、仕事の意味が空洞化する

さらに深い段階として、著者たちは Identity Commoditization という問題を挙げています。
専門職としてのアイデンティティが、平板化し、商品化されていくということです。

ここで問題になっているのは、単にスキルが落ちることではありません。

AIが専門的な判断の大部分を担うようになると、自分は何の専門家なのか、自分の仕事の意味はどこにあるのか、という感覚そのものが揺らぎます。

医師や物理士たちは、自分が「AIの子守り役」や「ボタンを押す人」になることを恐れます。
AIの判断にハンコを押すだけの存在になってしまうのではないか、と。

しかも彼らは、必ずしも「AIに仕事を奪われること」だけを恐れているわけではありません。

むしろ、もっと怖いのは、雇用は残るが、仕事の意味が空洞化することです。

肩書きは残る。責任も残る。しかし、重要な判断の中心からは外される。専門性を発揮する場面が減る。
自分の仕事が、「AIを監視する高価な人間」になっていく。

人間がループにいるだけでは足りない

この論文の最終的な提案は、Dignified Human-AI Interaction です。
訳すなら、「尊厳ある人間-AI相互作用」といったところでしょうか。

著者たちは、尊厳あるAI導入を、専門性や自己価値を保つようなAI統合として捉えています。

ただ「人間をループに入れる」だけでは、AIの判断に人間がハンコを押すだけの構造になってしまいます。
それでは十分ではありません。

大事なのは、人間が単にループの中にいることではなく、ループを運転していること。
AIを使っていても、専門家が判断の主体であり続けること。
自分の技量を使い、育て、意味を感じられること。
AIが仕事を速くするだけでなく、人間の専門性が残り、鍛えられ、次の世代に渡っていくこと。

それが、尊厳あるAI導入なのだと論文では示されています。

速さの裏で、何を残すのか

この論文を読んで、あらためて思ったことがあります。

AIを使うか、使わないか。その二択では、おそらく足りません。
AIを使うこと自体は、もう避けられない場面が増えています。
使わないほうが不自然な仕事も、すでにたくさんあります。

だからこそ、問うべきなのは、AIを使うかどうかではなく、AIによって何が省かれているのか、なのだと思います。

とてつもない速さの中で、以前なら自分が通っていたはずの手順が、どこかで消えていきます。

複数の案を比べること。一度手で組み立ててみること。
なぜ違和感があるのかを、言葉になる前にしばらく抱えておくこと。
他人の判断ではなく、自分の判断として引き受けること。

これらは、短期的には非効率に見えます。
でも、その省かれた手順の中に、専門性を保つための運動が含まれていたのかもしれません。

「AIの時代も、自分のアタマで考える時間を持とう」。正しいと思います。正しいのに、読むたびに、私はうっすら気持ち悪くなります。どこが、とは言えないのに、これじゃない、と感じてしまうのです。