Creative
先日、「直感の錆」という言葉を使って記事を書きました。（過去投稿）
AIを使うことそのものが悪いとは思っていません。
むしろ、日々かなり助けられています。調べる、整理する、書き出す、比較する。ひとりでは時間がかかりすぎることを、AIは驚くほど速く前に進めてくれます。
それでも、どこかで気になる感覚があります。
便利になっている。
速くなっている。
成果物も、それなりに整っている。
なのに、自分の中で何かが少しずつ鈍っていくのではないか。
そんな違和感に、かなり近い言葉を与えてくれるのが、前回も引いたUpol Ehsan らによる From Future of Work to Future of Workers: Addressing Asymptomatic AI Harms for Dignified Human-AI Interactionだと思います。
今回は、自分用の備忘も兼ね、もう少し細かく紹介します。
成功しているAI導入で、何が起きていたのか
この論文で扱われているのは、放射線腫瘍医療の現場です。
がん治療において、どこに、どれだけ放射線を当てるか。
腫瘍には十分な線量を届けながら、周囲の健康な組織への影響はできるだけ抑える。
そこには、高度な専門判断が必要になります。
この現場に、AI支援の治療計画システムが導入されました。
導入初期の結果だけを見ると、かなりうまくいっていました。
治療計画のサイクルは短縮され、品質指標も改善し、現場にも大きな反発は生まれなかった。論文では、計画作成が約15%速くなったことも示されています。
組織側から見れば、これは成功です。
仕事は速くなっている。
品質も悪くなっていない。
現場も使っている。
であれば、推進こそすれ、止める理由はありません。
ところが、しばらくすると、現場の一部の専門家が数字には出ない違和感を語り始めます。
なんとなく、自分の勘が鈍っている。
AIの案を、そのまま承認することが増えた。
以前なら複数案を検討していたのに、今はAIの案が「十分よさそう」なら、そこで止めてしまう。
なぜAIがそうしたのか分からないが、とりあえず受け入れている。
論文の冒頭には、ある専門医の印象的な言葉が出てきます。
My intuition is rusting.（自分の直感が錆びてきている。）
この一言が、論文全体の問題意識をよく表しています。
無症状の害
著者たちは、こうした変化を asymptomatic effects と呼んでいます。
asymptomatic とは、医学でいう「無症状」です。
病気は進行しているかもしれない。けれど、まだ本人にも周囲にも、はっきりした症状としては見えていない。
AIによる害も、最初から事故や失敗として現れるわけではありません。
むしろ、仕事はうまく回っているように見える。
指標は改善している。
処理は速くなっている。
管理者から見ても、導入は成功しているように見える。
その裏側で、専門家の行動が少しずつ変わっていく。
以前なら自分で考えていたところを、AI案から始める。
以前なら複数の選択肢を比較していたところを、最初の案で済ませる。
以前なら「これは少しおかしい」と引っかかっていたところを、AIの出力に見慣れてしまう。
この段階では、まだ大きな問題は起きません。だから、管理指標には表れにくい。
しかし、使われていない筋肉は少しずつ弱っていきます。
直感も同じです。
直感とは、なんとなくの思いつきではありません。長年の経験の中で、何度も迷い、比較し、失敗し、修正してきた結果として身につく、判断の手触りのようなものです。
AIが最初からそれなりに良い案を出してくれると、その手触りを使う場面が減ります。
使わなければ、錆びる。
それは、怠けているからではありません。
むしろ、仕事を前に進めようとすればするほど、合理的に改善しようとするほど、そうなります。
ここが怖いところです。
AIの害は、AIが失敗したときだけに生まれるのではありません。
AIがうまくいっているからこそ、人間側の判断が使われなくなることがある。
慢性的な害へ
論文では、半年を過ぎるころから、より具体的な問題が見え始めます。
著者たちはこれを Chronic Harms、慢性的な害と呼んでいます。
ここで出てくる問題は、大きく三つあります。
一つ目は、デスキリング（能力・技能の劣化）です。
AIなしで手作業の計画を立てようとすると、以前より遅くなる。
かつて身体で覚えていた最適化の感覚が、少し鈍っている。
AIがなければ、同じ仕事量をこなす自信がない。
そうした不安が語られるようになります。
二つ目は、自律性の低下です。
AIと自分の判断が違ったとき、自分の方を疑う。
AIを確認しているつもりが、いつの間にか、AIに自分の判断を確認してもらっているような状態になる。
これは単なる「便利な補助」ではありません。判断の主導権が、少しずつ移っている。
三つ目は、成功の脆さ・レジリエンスの低下です。
普段はAIが動いているので、全体としてはうまく回っているように見えます。
けれど、もしAIが止まったらどうなるのか。
AIが苦手な特殊ケースが来たらどうなるのか。
人間側のバックアップ能力は残っているのか。
ある参加者は、AIによる効率化を「水の上に敷かれたアスファルトを走っているようなもの」と表現しています。
表面はなめらかに見える。けれど、その下の地盤は空洞化している。
雇用が残っても、仕事の意味が空洞化する
さらに深い段階として、著者たちは Identity Commoditization という問題を挙げています。
専門職としてのアイデンティティが、平板化し、商品化されていくということです。
ここで問題になっているのは、単にスキルが落ちることではありません。
AIが専門的な判断の大部分を担うようになると、自分は何の専門家なのか、自分の仕事の意味はどこにあるのか、という感覚そのものが揺らぎます。
医師や物理士たちは、自分が「AIの子守り役」や「ボタンを押す人」になることを恐れます。
AIの判断にハンコを押すだけの存在になってしまうのではないか、と。
しかも彼らは、必ずしも「AIに仕事を奪われること」だけを恐れているわけではありません。
むしろ、もっと怖いのは、雇用は残るが、仕事の意味が空洞化することです。
肩書きは残る。責任も残る。しかし、重要な判断の中心からは外される。専門性を発揮する場面が減る。
自分の仕事が、「AIを監視する高価な人間」になっていく。
人間がループにいるだけでは足りない
この論文の最終的な提案は、Dignified Human-AI Interaction です。
訳すなら、「尊厳ある人間-AI相互作用」といったところでしょうか。
著者たちは、尊厳あるAI導入を、専門性や自己価値を保つようなAI統合として捉えています。
ただ「人間をループに入れる」だけでは、AIの判断に人間がハンコを押すだけの構造になってしまいます。
それでは十分ではありません。
大事なのは、人間が単にループの中にいることではなく、ループを運転していること。
AIを使っていても、専門家が判断の主体であり続けること。
自分の技量を使い、育て、意味を感じられること。
AIが仕事を速くするだけでなく、人間の専門性が残り、鍛えられ、次の世代に渡っていくこと。
それが、尊厳あるAI導入なのだと論文では示されています。
速さの裏で、何を残すのか
この論文を読んで、あらためて思ったことがあります。
AIを使うか、使わないか。その二択では、おそらく足りません。
AIを使うこと自体は、もう避けられない場面が増えています。
使わないほうが不自然な仕事も、すでにたくさんあります。
だからこそ、問うべきなのは、AIを使うかどうかではなく、AIによって何が省かれているのか、なのだと思います。
とてつもない速さの中で、以前なら自分が通っていたはずの手順が、どこかで消えていきます。
複数の案を比べること。一度手で組み立ててみること。
なぜ違和感があるのかを、言葉になる前にしばらく抱えておくこと。
他人の判断ではなく、自分の判断として引き受けること。
これらは、短期的には非効率に見えます。
でも、その省かれた手順の中に、専門性を保つための運動が含まれていたのかもしれません。
