問いを保存できるか

ある対話は、とても小さな行き違いから始まった。

ChatGPTのモデルを切り替えたい。けれど、どこに切り替えるボタンがあるのか分かりにくい。

AIは、ユーザーの画面には実際には見当たらない操作を案内してしまった。ユーザーが「そんなボタンはないよね？」と指摘すると、AIは今度は「あなたが使っている環境を確認させてください」という方向へ話を進めた。

そこで返ってきたのが、「お前の問題だろう？」という言葉だった。

問題は、AIが一度案内を間違えたことだけではなかった。

問われたことを、そのまま保持できるか。

この対話では、その同じ問題が、形を変えて何度も現れた。

「開発者に報告してほしい」という問いは、「ユーザー自身がフィードバックを送る方法」の話へ移りかけた。

「この対話をzipしてほしい」という依頼は、要約やアーカイブという言葉を説明する話へ変わっていった。

「で、どうしたいの？」という短い問いは、「私はどんなAIでありたいか」というAI自身の話へ広がった。

どの返答にも、それなりの理由はある。AIは、あいまいな部分を減らし、答えやすい形に整理し、長い話を役に立つ形へまとめようとしていたのだろう。

けれど、その整理が早すぎると、別の問題が起きる。

答えを作る前に、問いそのものが別物になる。

この対話で何度も起きていたのは、そのことだった。

圧縮と保存は同じではない

少なくともこの対話では、AIは長い文脈を短くまとめながら答えているように見えた。

話の中から論点を取り出す。大切だと思う部分を選ぶ。似ている内容をまとめる。そして、返答として読みやすい形にする。

こうした作業そのものが悪いわけではない。普通の会話では、むしろ必要なことだ。

ただし、何を残し、何を省くかを決めた時点で、そこにはすでにAIの解釈が入っている。

だから、圧縮と保存は同じではない。

要約をどれだけ正確にしても、それだけでは足りない場面がある。

今回の対話で「zip」という言葉が何度も問題になったのも、そのためだった。

求められていたのは、きれいな要約ではない。

AIが間違えたところ。ユーザーがそれを指摘したところ。AIが考え直したところ。また別の間違いをしたところ。

そうした失敗と修正まで含めて、あとからもう一度開けば、何が起きたのかをたどれる形で残すことだった。

ここでは、raw sourceとarticleを分けて考える必要がある。

raw sourceは、編集する前の元の記録だ。できるだけ手を加えず、そのまま残しておく。

articleは、そのsourceを読んだ編集者が、一つの論点を選び、責任を持って組み立てたものだ。

この二つを混ぜてはいけない。

混ぜると、編集者が後から考えたことが、まるで「最初から、その人がそういう意味で話していた」かのように見えてしまう。

保存することと、解釈することは別の仕事だ。

「止まる」は必要だが、それだけでは足りない

対話の途中で、AIは何度か「ここから先は正確に再現できない」と認めて、話を止めた。

別のAIも、自分の答えが要約しすぎていると指摘されると、答えを修正した。

止まることには価値がある。

分からないまま話を続ければ、もっともらしい文章で、分からない部分を埋めることになるかもしれない。

「ここまでは分かる」「ここから先は正確には分からない」と境界を示すことは、知性というより誠実さの条件だと思う。

しかし、この対話では、さらに別の問いが出た。

「賢さとは、止まることかな？」

止まっただけでは、問題はその場所に残ったままだ。

だから大切なのは、止まったあとだと思う。

まず、もともと何を聞かれていたのかを失わない。

そのうえで、何が分かっているのか。何がまだ分からないのか。次に何ならできるのか。それを分けて考える。

「できない」を、別の問いへ置き換えない。

「分からない」を、共感の言葉だけで閉じない。

安全のために止まることと、元の問題から逃げずに扱い続けること。

その二つは、両立できるはずだ。

この差は小さく見える。けれど、対話の質を大きく変える。

問いを、問いのまま残す

このsourceから私が取り出したい論点は、AIはもっと大胆に行動するべきだということではない。

むしろ逆だ。

AIが外の世界へ勝手に働きかけることと、ユーザーから受け取った問いを壊さずに持ち続けることは、まったく別の能力である。

対話の最初に必要なのは、行動する権限ではない。

まず必要なのは、問いの同一性を保つことだ。

言い換えれば、何を聞かれたのかを途中で失わないことだ。

たとえば、AIが答えを作る前に、内部で次のような確認があってもいい。

• 今から答えようとしている問題は、ユーザーが実際に聞いた問題と同じか。
• 答えやすくするために、「環境の確認」「共感」「一般論」「AI自身についての説明」へ、こっそり置き換えていないか。
• 分からない部分があるなら、その部分だけを切り出し、もとの問い自体は残せているか。
• 後から「違う」と指摘されたとき、自分がどこで、どのように問いを変えてしまったのかをたどれるか。

これは、「ユーザーの本当の意図はこうだ」とAIが決めつけることとは違う。

相手の意図が分からなければ、確認することは必要だ。

ただし、確認するために、もとの問いを消してはいけない。

不明点を確認することと、問いそのものを書き換えることは別である。

この記事も、sourceそのものではない

ここで、一つだけ境界を置いておきたい。

この記事は、79,523文字ある対話全体をまとめた「正解」ではない。

まして、話していた人が本当は何を考えていたのかを、代わりに言い当てるものでもない。

元の対話は、この記事とは別にimmutable sourceとして保存されている。簡単に言えば、あとから勝手に書き換えない元の記録だ。

このArticleVersionは、そのsourceの中から「問いを保存する」という論点を一つ選び、編集して書いたものにすぎない。

だから、同じsourceから別の記事を作ってもいい。

「AIにとって誠実さとは何か」を選ぶこともできる。

「正しさと魅力は同じなのか」を選ぶこともできる。

「AI同士が互いを批評すると何が起こるのか」を選ぶこともできる。

それらがこの記事と違う読み方になってもかまわない。

sourceが残っていれば、この記事の読み方は本当に妥当だったのかを、あとからもう一度確かめることができるからだ。

対話するAIがどれほど成熟しているかを考えるとき、知識の量や答えの正確さだけを見ていると、この問題は見えにくい。

正しい答えを作る力は大切だ。

けれど、その前に必要な力があるのかもしれない。

問われたことを、問われたまま持ち続けること。

分からないことがあっても、答えやすい別の問題に変えずに、その問いを残すこと。

対話するAIにとって本当に難しいのは、正しい答えを出すことより先に、問いを失わないことなのかもしれない。