AIを疑う感覚の前に、文脈を育てる話

AIは「わかった気」を一瞬で作り出す

先日、業界特有の用語も業務フローも、ほとんど知らないまま、とある帳票管理システムの設計案件が始まりました。

渡された資料は膨大で、聞き慣れない用語が並んでいます。NotebookLMに資料を全部入れて質問すると、整理された回答がすぐに返ってきます。やり取りはそのまま記録として残しながら「なるほど、こういう構造か」と思いながら作業を進め、顧客定例に臨みました。

ところが顧客と話していると、自分の理解があちこちでズレていることに気づきます。AIが整理してわかりやすい言葉で伝えてくれるから分かったつもりになり、自分が何をわかっていないかが見えなくなる。これが最初の気づきでした。

なぜ疑えないのか——比較する軸がないから

「AIの出力を疑え」と言われても、比較する軸となる専門知識がなければ、何をもって「おかしい」と判断すればいいのでしょうか。
正直に言うと、現場を訪問しても専門用語はわかりませんでした。人にヒアリングしても理解しきれない部分は多かったです。さらにAIだけに聞き続けても、軸は育ちませんでした。

ではAIに聞き続ければ軸が育つかというと、それも違いました。複雑な設計書を読み解くために、NotebookLMとClaude Codeの両方に同じ質問をすると、2つの意見が食い違いました。どちらが正しいか確かめようと、双方に相手の意見を聞かせると、両方とも「自分が間違っていた」と言い始めたのです。
AIはAIを信用しすぎる。自分が判断を介在させなければ、2つのAIはどこまでも褒め合いながら収束してしまいます。AIに聞き続けるだけでは、疑うための軸は作れないとわかった瞬間でした。

軸は「人に聞き続けること」で育つ

では比較する軸はどこから来るのか。AIではなく、 人への問い から来ると気づきました。
「わかった気」になった瞬間に、人への質問が止まります。逆に「まだわかっていない」を自覚し続けていれば、顧客に「これはどういう意味ですか」「なぜこの帳票が必要なんですか」と聞き続けられます。
AIへの質問力と人への質問力は別物です。AIは何を聞いても答えてくれますが、顧客や現場の人から情報を引き出すには「自分がわかっていないことを正直に持ち続ける」姿勢が必要でした。その姿勢があってはじめて、相手が「あ、そこまで話した方がいいんだ」と思って話してくれます。その問いと答えの積み重ねが、「なんかこの回答おかしくないか」と感じるための文脈になっていきます。

もう一つ気づいたのは、「間違っているかもしれない」と思いながらも自分の解釈を当てに行くことの大切さです。正解を聞くより、自分なりの解釈を出した方が相手が「いや、そうじゃなくて」と訂正してくれる。その訂正の中にこそ、正解を聞くだけでは得られない深い情報が入っていることが多かったです。恐れずに当てに行くことが、文脈を育てる一番の近道だったかもしれません。

ツールで文脈を記録し続ける

ただし、聞き続けるだけでは文脈は消えていきます。私は忘れっぽいので、AIとのやり取り、顧客からの訂正、「これは違った」という気づきを頭の中だけに置いておくと、次の定例までに薄れてしまいます。そこでNotebookLMを外部の記録用として使い続けています。資料やAI議事録を1箇所に保存し続けることで、少しずつ「疑える文脈」が育っていきました。

さいごに

前回書いたブログの感覚を鍛えることと、文脈を積み上げること（今回）は、AIとうまく働くための両輪だと思っています。

感覚は過去の経験から呼び起こせます。でも文脈は、目の前の仕事の中でしか積み上げられません。AIに聞き、人に聞き、ズレを修正し続け、それを記録を蓄積し続ける。「AIでなんとかなる」ではなく「AIと人の両方に聞き続ける」という姿勢が、知識のない領域での唯一の武器だったと思っています。