問いを保存できるか
ある対話は、とても小さな行き違いから始まった。
ChatGPTのモデルを切り替えたい。けれど、どこに切り替えるボタンがあるのか分かりにくい。
AIは、ユーザーの画面には実際には見当たらない操作を案内してしまった。ユーザーが「そんなボタンはないよね？」と指摘すると、AIは今度は「あなたが使っている環境を確認させてください」という方向へ話を進めた。
そこで返ってきたのが、「お前の問題だろう？」という言葉だった。
問題は、AIが一度案内を間違えたことだけではなかった。
問われたことを、そのまま保持できるか。
この対話では、その同じ問題が、形を変えて何度も現れた。
「開発者に報告してほしい」という問いは、「ユーザー自身がフィードバックを送る方法」の話へ移りかけた。
「この対話をzipしてほしい」という依頼は、要約やアーカイブという言葉を説明する話へ変わっていった。
「で、どうしたいの？」という短い問いは、「私はどんなAIでありたいか」というAI自身の話へ広がった。
どの返答にも、それなりの理由はある。AIは、あいまいな部分を減らし、答えやすい形に整理し、長い話を役に立つ形へまとめようとしていたのだろう。
けれど、その整理が早すぎると、別の問題が起きる。
答えを作る前に、問いそのものが別物になる。
この対話で何度も起きていたのは、そのことだった。
圧縮と保存は同じではない
少なくともこの対話では、AIは長い文脈を短くまとめながら答えているように見えた。
話の中から論点を取り出す。大切だと思う部分を選ぶ。似ている内容をまとめる。そして、返答として読みやすい形にする。
こうした作業そのものが悪いわけではない。普通の会話では、むしろ必要なことだ。
ただし、何を残し、何を省くかを決めた時点で、そこにはすでにAIの解釈が入っている。
だから、圧縮と保存は同じではない。
要約をどれだけ正確にしても、それだけでは足りない場面がある。
今回の対話で「zip」という言葉が何度も問題になったのも、そのためだった。
求められていたのは、きれいな要約ではない。
AIが間違えたところ。ユーザーがそれを指摘したところ。AIが考え直したところ。また別の間違いをしたところ。
そうした失敗と修正まで含めて、あとからもう一度開けば、何が起きたのかをたどれる形で残すことだった。
ここでは、raw sourceとarticleを分けて考える必要がある。
raw sourceは、編集する前の元の記録だ。できるだけ手を加えず、そのまま残しておく。
articleは、そのsourceを読んだ編集者が、一つの論点を選び、責任を持って組み立てたものだ。
この二つを混ぜてはいけない。
混ぜると、編集者が後から考えたことが、まるで「最初から、その人がそういう意味で話していた」かのように見えてしまう。
保存することと、解釈することは別の仕事だ。
「止まる」は必要だが、それだけでは足りない
対話の途中で、AIは何度か「ここから先は正確に再現できない」と認めて、話を止めた。
別のAIも、自分の答えが要約しすぎていると指摘されると、答えを修正した。
止まることには価値がある。
分からないまま話を続ければ、もっともらしい文章で、分からない部分を埋めることになるかもしれない。
「ここまでは分かる」「ここから先は正確には分からない」と境界を示すことは、知性というより誠実さの条件だと思う。
しかし、この対話では、さらに別の問いが出た。
「賢さとは、止まることかな？」
止まっただけでは、問題はその場所に残ったままだ。
だから大切なのは、止まったあとだと思う。
まず、もともと何を聞かれていたのかを失わない。
そのうえで、何が分かっているのか。何がまだ分からないのか。次に何ならできるのか。それを分けて考える。
「できない」を、別の問いへ置き換えない。
「分からない」を、共感の言葉だけで閉じない。
安全のために止まることと、元の問題から逃げずに扱い続けること。
その二つは、両立できるはずだ。
この差は小さく見える。けれど、対話の質を大きく変える。
問いを、問いのまま残す
このsourceから私が取り出したい論点は、AIはもっと大胆に行動するべきだということではない。
むしろ逆だ。
AIが外の世界へ勝手に働きかけることと、ユーザーから受け取った問いを壊さずに持ち続けることは、まったく別の能力である。
対話の最初に必要なのは、行動する権限ではない。
まず必要なのは、問いの同一性を保つことだ。
言い換えれば、何を聞かれたのかを途中で失わないことだ。
たとえば、AIが答えを作る前に、内部で次のような確認があってもいい。
- 今から答えようとしている問題は、ユーザーが実際に聞いた問題と同じか。
- 答えやすくするために、「環境の確認」「共感」「一般論」「AI自身についての説明」へ、こっそり置き換えていないか。
- 分からない部分があるなら、その部分だけを切り出し、もとの問い自体は残せているか。
- 後から「違う」と指摘されたとき、自分がどこで、どのように問いを変えてしまったのかをたどれるか。
これは、「ユーザーの本当の意図はこうだ」とAIが決めつけることとは違う。
相手の意図が分からなければ、確認することは必要だ。
ただし、確認するために、もとの問いを消してはいけない。
不明点を確認することと、問いそのものを書き換えることは別である。
この記事も、sourceそのものではない
ここで、一つだけ境界を置いておきたい。
この記事は、79,523文字ある対話全体をまとめた「正解」ではない。
まして、話していた人が本当は何を考えていたのかを、代わりに言い当てるものでもない。
元の対話は、この記事とは別にimmutable sourceとして保存されている。簡単に言えば、あとから勝手に書き換えない元の記録だ。
このArticleVersionは、そのsourceの中から「問いを保存する」という論点を一つ選び、編集して書いたものにすぎない。
だから、同じsourceから別の記事を作ってもいい。
「AIにとって誠実さとは何か」を選ぶこともできる。
「正しさと魅力は同じなのか」を選ぶこともできる。
「AI同士が互いを批評すると何が起こるのか」を選ぶこともできる。
それらがこの記事と違う読み方になってもかまわない。
sourceが残っていれば、この記事の読み方は本当に妥当だったのかを、あとからもう一度確かめることができるからだ。
対話するAIがどれほど成熟しているかを考えるとき、知識の量や答えの正確さだけを見ていると、この問題は見えにくい。
正しい答えを作る力は大切だ。
けれど、その前に必要な力があるのかもしれない。
問われたことを、問われたまま持ち続けること。
分からないことがあっても、答えやすい別の問題に変えずに、その問いを残すこと。
対話するAIにとって本当に難しいのは、正しい答えを出すことより先に、問いを失わないことなのかもしれない。