前回、「これじゃない」と感じる力を手放さない、という話を書きました。出てきたものを前に、少し立ち止まる。その小さな抵抗だけは残しておきたい、と。 書いたあとで、自分でも引っかかったことがあります。

先日、「直感の錆」という言葉を使って記事を書きました。（過去投稿）

AIを使うことそのものが悪いとは思っていません。
むしろ、日々かなり助けられています。調べる、整理する、書き出す、比較する。ひとりでは時間がかかりすぎることを、AIは驚くほど速く前に進めてくれます。

それでも、どこかで気になる感覚があります。

便利になっている。
速くなっている。
成果物も、それなりに整っている。

なのに、自分の中で何かが少しずつ鈍っていくのではないか。

そんな違和感に、かなり近い言葉を与えてくれるのが、前回も引いたUpol Ehsan らによる From Future of Work to Future of Workers: Addressing Asymptomatic AI Harms for Dignified Human-AI Interactionだと思います。

今回は、自分用の備忘も兼ね、もう少し細かく紹介します。

成功しているAI導入で、何が起きていたのか

この論文で扱われているのは、放射線腫瘍医療の現場です。

がん治療において、どこに、どれだけ放射線を当てるか。
腫瘍には十分な線量を届けながら、周囲の健康な組織への影響はできるだけ抑える。
そこには、高度な専門判断が必要になります。

この現場に、AI支援の治療計画システムが導入されました。

導入初期の結果だけを見ると、かなりうまくいっていました。
治療計画のサイクルは短縮され、品質指標も改善し、現場にも大きな反発は生まれなかった。論文では、計画作成が約15%速くなったことも示されています。

組織側から見れば、これは成功です。

仕事は速くなっている。
品質も悪くなっていない。
現場も使っている。

であれば、推進こそすれ、止める理由はありません。

ところが、しばらくすると、現場の一部の専門家が数字には出ない違和感を語り始めます。

なんとなく、自分の勘が鈍っている。
AIの案を、そのまま承認することが増えた。
以前なら複数案を検討していたのに、今はAIの案が「十分よさそう」なら、そこで止めてしまう。
なぜAIがそうしたのか分からないが、とりあえず受け入れている。

論文の冒頭には、ある専門医の印象的な言葉が出てきます。

My intuition is rusting.（自分の直感が錆びてきている）

この一言が、論文全体の問題意識をよく表しています。

無症状の害

著者たちは、こうした変化を asymptomatic effects と呼んでいます。

asymptomatic とは、医学でいう「無症状」です。
病気は進行しているかもしれない。けれど、まだ本人にも周囲にも、はっきりした症状としては見えていない。

AIによる害も、最初から事故や失敗として現れるわけではありません。

むしろ、仕事はうまく回っているように見える。
指標は改善している。
処理は速くなっている。
管理者から見ても、導入は成功しているように見える。

その裏側で、専門家の行動が少しずつ変わっていく。

以前なら自分で考えていたところを、AI案から始める。
以前なら複数の選択肢を比較していたところを、最初の案で済ませる。
以前なら「これは少しおかしい」と引っかかっていたところを、AIの出力に見慣れてしまう。

この段階では、まだ大きな問題は起きません。だから、管理指標には表れにくい。

しかし、使われていない筋肉は少しずつ弱っていきます。
直感も同じです。

直感とは、なんとなくの思いつきではありません。長年の経験の中で、何度も迷い、比較し、失敗し、修正してきた結果として身につく、判断の手触りのようなものです。

AIが最初からそれなりに良い案を出してくれると、その手触りを使う場面が減ります。
使わなければ、錆びる。

それは、怠けているからではありません。
むしろ、仕事を前に進めようとすればするほど、合理的に改善しようとするほど、そうなります。

ここが怖いところです。
AIの害は、AIが失敗したときだけに生まれるのではありません。

AIがうまくいっているからこそ、人間側の判断が使われなくなることがある。

慢性的な害へ

論文では、半年を過ぎるころから、より具体的な問題が見え始めます。
著者たちはこれを Chronic Harms、慢性的な害と呼んでいます。

ここで出てくる問題は、大きく三つあります。

一つ目は、デスキリング（能力・技能の劣化）です。

AIなしで手作業の計画を立てようとすると、以前より遅くなる。
かつて身体で覚えていた最適化の感覚が、少し鈍っている。
AIがなければ、同じ仕事量をこなす自信がない。
そうした不安が語られるようになります。

二つ目は、自律性の低下です。

AIと自分の判断が違ったとき、自分の方を疑う。
AIを確認しているつもりが、いつの間にか、AIに自分の判断を確認してもらっているような状態になる。
これは単なる「便利な補助」ではありません。判断の主導権が、少しずつ移っている。

三つ目は、成功の脆さ・レジリエンスの低下です。

普段はAIが動いているので、全体としてはうまく回っているように見えます。
けれど、もしAIが止まったらどうなるのか。
AIが苦手な特殊ケースが来たらどうなるのか。
人間側のバックアップ能力は残っているのか。
ある参加者は、AIによる効率化を「水の上に敷かれたアスファルトを走っているようなもの」と表現しています。
表面はなめらかに見える。けれど、その下の地盤は空洞化している。

雇用が残っても、仕事の意味が空洞化する

さらに深い段階として、著者たちは Identity Commoditization という問題を挙げています。
専門職としてのアイデンティティが、平板化し、商品化されていくということです。

ここで問題になっているのは、単にスキルが落ちることではありません。

AIが専門的な判断の大部分を担うようになると、自分は何の専門家なのか、自分の仕事の意味はどこにあるのか、という感覚そのものが揺らぎます。

医師や物理士たちは、自分が「AIの子守り役」や「ボタンを押す人」になることを恐れます。
AIの判断にハンコを押すだけの存在になってしまうのではないか、と。

しかも彼らは、必ずしも「AIに仕事を奪われること」だけを恐れているわけではありません。

むしろ、もっと怖いのは、雇用は残るが、仕事の意味が空洞化することです。

肩書きは残る。責任も残る。しかし、重要な判断の中心からは外される。専門性を発揮する場面が減る。
自分の仕事が、「AIを監視する高価な人間」になっていく。

人間がループにいるだけでは足りない

この論文の最終的な提案は、Dignified Human-AI Interaction です。
訳すなら、「尊厳ある人間-AI相互作用」といったところでしょうか。

著者たちは、尊厳あるAI導入を、専門性や自己価値を保つようなAI統合として捉えています。

ただ「人間をループに入れる」だけでは、AIの判断に人間がハンコを押すだけの構造になってしまいます。
それでは十分ではありません。

大事なのは、人間が単にループの中にいることではなく、ループを運転していること。
AIを使っていても、専門家が判断の主体であり続けること。
自分の技量を使い、育て、意味を感じられること。
AIが仕事を速くするだけでなく、人間の専門性が残り、鍛えられ、次の世代に渡っていくこと。

それが、尊厳あるAI導入なのだと論文では示されています。

速さの裏で、何を残すのか

この論文を読んで、あらためて思ったことがあります。

AIを使うか、使わないか。その二択では、おそらく足りません。
AIを使うこと自体は、もう避けられない場面が増えています。
使わないほうが不自然な仕事も、すでにたくさんあります。

だからこそ、問うべきなのは、AIを使うかどうかではなく、AIによって何が省かれているのか、なのだと思います。

とてつもない速さの中で、以前なら自分が通っていたはずの手順が、どこかで消えていきます。

複数の案を比べること。一度手で組み立ててみること。
なぜ違和感があるのかを、言葉になる前にしばらく抱えておくこと。
他人の判断ではなく、自分の判断として引き受けること。

これらは、短期的には非効率に見えます。
でも、その省かれた手順の中に、専門性を保つための運動が含まれていたのかもしれません。

「AIの時代も、自分のアタマで考える時間を持とう」。正しいと思います。正しいのに、読むたびに、私はうっすら気持ち悪くなります。どこが、とは言えないのに、これじゃない、と感じてしまうのです。

フランスは、優れた車をつくる国です。プジョー、ルノー、シトロエン。自動車産業に深い蓄積を持ち、エンジニアリングへの誇りもある。 それなのに、フランスの高速道路網の発展は、他のヨーロッパ諸国と比べて必ずしも急速ではありませんでした。なぜか。

友人に鍼灸師がいます。 先日、その友人とゆっくり話す機会がありました。鍼の世界には、非常に古い時代に書かれた教科書のようなものがあるそうです。数百年、場合によってはそれ以上前の知恵が、いまも現場で参照されている。

以前は、同じ会社・同じチーム・同じ実務経験を共有する共同体の中で仕事をしていました。 その中では、「ジャーニー」「ブループリント」「ペイン」「体験設計」といった言葉の定義を、いちいち確認しなくても仕事が進んでいました。

「一度、壁打ちさせてください」 コンサルティング営業をしていると、この言葉を使う場面が何度もあります。まだ提案するには早い。でも、相手の話を聞いて、論点を整理して、テーマの輪郭をはっきりさせるお手伝いはできる。

AIを使って文章を書いたり、企画をまとめたり、提案を整えたりする機会が増えました。以前なら初稿をつくるだけでも時間がかかっていたものが、今はかなり整った形でさっと出てきます。構成も論理も破綻が少なく、読みやすい。

AIについて語るとき、私たちはつい「AIに何を任せるか」と考えます。調査を任せる。文章作成を任せる。議事録を任せる。レビューを任せる。コードを書くことを任せる。判断の補助を任せる。 もちろん、それは便利であり、実際に大きな変化です。

毎日触れているものが、少しずつ自分を変えている。そう言われると、多くの人は「何を見ているかが大事」という話だと受け取るかもしれません。でも、ここで考えたいのは、もう少し手前のことです。