Creative
AIに仕事を任せると、速い。調べもの、整理、下書き、比較。ひとりでやれば時間のかかることが、するすると前に進みます。私はもう、手放せません。
ただ、使いながら、ひとつ気になっていることがあります。
出てきたものを前にして、少し立ち止まる。これは本当に「自分書いたもの」として引き受けられるものか、と確かめる。
AIの下書きが高品質になるほど、その「少し立ち止まる」が、放っておくとどんどん難しくなっている、という感覚です。
サボっているつもりはありません。なのに、立ち止まる場所そのものが、いつのまにか消えている。
最初は自分の集中力のせいだと思いました。
でも、どうやらそうではないようなのです。
なめらかさが、考える隙をなくす
AIが専門職の技能を静かに蝕んでいく過程を、放射線治療の現場で一年かけて追った研究があります（Upol Ehsan らの論文）。そこに、忘れられない一言が出てきます。
現場でAIの支援システムを使ってきたある物理士の言葉です。
昔のAIはぎこちなかった。摩擦があって、だから考えさせられた。新しいAIはなめらかで、頼りきることが努力もいらずにできてしまう。だから「考えるという行為そのもの」を肩代わりしてしまう。それが危ない。
これは、私の順番を逆にしてくれました。
私たちはふつう、摩擦を「なくすべき欠陥」だと思っています。引っかかりのない、なめらかな道具ほど良い、と。
でも、その摩擦こそが、人間を考える側にとどまらせていた。なめらかになった分だけ、立ち止まる隙が消えていく。
私が「立ち止まる場所がなくなった」と感じたのは、気のせいではなかったのです。
指標だけみれば、全部うまくいっているように見える、という怖さ
やっかいなのは、この鈍りが数字に出てこないことです。
速くなった。精度も悪くない。処理量は増えた。指標はぜんぶ良好のまま、その裏で判断だけが少しずつ鈍っていく。
同じ現場で、ある専門医はこう漏らしています。
「自分の直感が錆びてきている」。
AIの案を、そのまま承認することが増えた、と。
けれど、彼が承認した計画に、目に見える問題は出ていません。
だから管理する側は言えてしまう。
「全部うまくいっているのに、何が問題なの?」と。
ここが、この話の入り組んだところです。
数字が何も教えてくれないなら、最初に異変を知らせるものは、人間の側の違和感しかありません。
なんだか噛み合っていない、これは自分の仕事として引き受けられない――そういう身体の側の反応が、唯一の早期警報になる。違和感は、いわばセンサーです。
ところが、AIの実現するなめらかさは、そのセンサーごと無力にします。
違和感は、どこかに「引っかかり」があるから立ち上がります。
なめらかに流れていくものの中では、引っかかる場所がない。だから、鳴りません。
いちばん頼りにしていたはずのセンサーさえ、なめらかな環境では鳴らなくなる。
何も感じなかった、という危うい状態が作られていく。
だから「気をつけよう」では守れない
冒頭触れたように、仕事が半分以下の時間で終わるという効用を前に、AIを使わないという選択肢はもはやとれません。
そのなかでも、違和感・引っ掛かりを大切にすることが「直感を錆びさせない」ために重要なのですが、考えるべき瞬間そのものが、感じないように均されている。
気づけないように設計されたものに、意志で気づくことはできません。
だとすれば、必要なのは、もっと気合いを入れることではないと思います。
承認ボタンさえ押していればよい環境そのものを変える。
消えてしまった段差を、自分でわざと戻す。なくなった摩擦を、意図的に足し直す。
禁欲的にAIを使わないのではなく、違和感を見逃さない地形をつくる、という努力を人間側がするのだと考えています。
段差を、自分で戻す
論文に出てくる人たちは、実際にそれをやっていました。
週に一度、AIを使わずに自分の手で一件やる。「刃を研ぐようなものだ」と。出力を見る前に、AIが何を出すかを予想して、いちばん外した人がコーヒーをおごる。
どれも、大げさな決意ではありません。消えた摩擦を、遊びのように足し直しているだけです。
私がやりたいのも、たぶんこの種類のことです。AIに任せられることは、どんどん任せる。そこは変わりません。ただ、なめらかに流れてくるものを、全部そのまま受け取らない。一段だけ、自分で段差を戻す。
ひとつ、具体的なやり方があります。「何も感じなかったこと」のほうを合図にする、というものです。
三回続けて、何も直さずにそのまま通した。――それ自体を、危ないサインとして扱う。
無症状を、自分で症状に変える。感じなかったことを、感じるための引っかかりにするのです。
—
摩擦は、欠陥ではありません。それは、人間が考える余地そのものです。
なめらかさを、全部は受け取らない。流れてくるものの手前に、自分で小さな段差を一つ戻しておく。
違和感というセンサーは、なめらかな場所では、自分からは鳴りません。
だから、鳴るための引っかかりを、こちらから作る。
そこだけは、手間をかける価値がある、と思うのです。
—
正直に書いておきたいことがあります。段差を戻すのは、時間もエネルギーもかかります。
なくなった摩擦を戻すなど、許しがたいと思う上司もいるでしょう。
そして厄介なのは、摩擦をなくして得をする人と、その代金を払う人が、しばしば別だ、ということです。
「今期の成果を確実に達成したい」という立場と、「10年単位で自分の直感が錆びつかないようにしたい」という立場は、ぶつかることもあるでしょう。
組織で仕事をしていればそれはどうしても避けられません。
この話は次回書きます。
