人類はいま、人間より賢いAIの出現という歴史的な転換点を迎えようとしている。AIが本当に人間を超えるようになると、自分で考えて、自分を理解して、新しいものを作り出して、自分なりの判断ができるようになるかもしれない。じゃあ、そうなった時に人間には何ができるんだろう。一つの可能性として、「予測できないことをする存在」としての役割を考えてみたい。
人間だからこそできる予測不可能なこと
フランスの哲学者ベルクソンが考えた「持続」と「直観」という概念は、人間にしかできない予測不可能性を理解するのに役立ちそうだ。持続というのは、単なる意識の中での時間の体験ではない。それは、質的に異なる多様な要素が相互に浸透し合い、新しい全体を形作っていく実在のあり方そのものだ。数値化できないし、区切ることもできない。その中で過去と現在が混ざり合って、予測不可能な何かが生まれている。この持続を理解する方法が直観だ。直観は、物事を外から分析するんじゃなくて、その中に入り込んで実態を掴む。
この持続と直観の関係は、芸術を作る時によく見られる。例えばジャズの即興演奏。演奏者は、今までの経験と今の感覚が混ざり合う持続の中で、分析的に考えるんじゃなくて直観的に判断して、誰も予測できない音楽を作り出していく。
こういった持続と直観に基づく人間の予測不可能性は、現代のAIが示す予測不可能性とは質的に異なる性質を持っている。確かに、現代のAIシステム、特に大規模言語モデルは、驚くべき予測不可能性を示す。同じ入力に対しても異なる出力を生成し、時にはトレーニングデータや既存のパターンを超えた新しい組み合わせを生み出すこともある。その予測不可能性は、単純な「システムの制約内」に留まるものではない。
しかし、それでもAIの予測不可能性には、人間とは異なる特徴がある。AIの予測不可能性は、どれだけ創発的であっても、究極的には形式化可能な要素の組み合わせから生まれる。一方、人間の予測不可能性は、持続する意識の質的な相互浸透と、それを掴む直観的理解が織りなす、より根源的な創造性に基づいている。これは形式化や数値化を本質的に超えた次元で生じる予測不可能性だ。
LLMと人間の記憶の違いから考える新しい創造性
LLMと人間の記憶の質的な違いについて考えてみたい。
LLMの記憶は、多くの人の記録を読み込んで、強化学習と対話による重みづけで形成されている。一方、人間の記憶は個人の経験や、その経験を通じて読んだ他人の記録を、その人なりの印象と忘却によって重みづけしたものだ。この違いは、両者の創造性の本質的な差異を示唆している。
LLMの特徴は、膨大な知識を持ちながら、それが「点」としての情報の集まりに留まることにある。LLMは今の会話の文脈は一時的に保持できるものの、それは離散的な情報の集積でしかなく、人間のような体験としての『持続』にはならない。これは単なる実装上の制約ではなく、離散的な状態遷移に基づくLLMの本質的な特徴だと思う。対して人間の記憶は「持続」そのもので、体験は単なる事実の集積ではなく、それぞれの経験が相互に浸透し、常に新しい質を生み出している。
この違いは、知識と意味の関係性という観点から理解できる。LLMの持つ知識は直接的な体験に基づく感覚的・情動的な層を持たないのに対し、人間の体験による重みづけは、知識に「起伏」や「地形」を与える。例えば「海」という言葉でも、実際に泳いだ経験、波の音を聞いた思い出、潮の香りの記憶などが、その言葉に独特の意味の層を形成する。
この重みづけは固定的なものではない。新しい体験が加わるたびに、過去の知識の重みづけも変化していく。この動的な重み付けの変化は、常に新たな意味の層を生成していく。この個人的な重みづけこそが、予測不可能な創造性を生み出す基盤になっている。
個人の体験をLLMに完全に伝えることは、今の時点では無理だろう。体験は本質的に分割不可能で、言語化した時点で、その総体的な性質の多くが失われてしまう。また、各個人の体験は、その人の人生という固有の文脈の中でのみ完全な意味を持つ。この文脈全体をLLMに伝えることは原理的に難しい。
ただ、この制約の中でも、LLMは個人の志向や創造性の方向性を能動的に引き出す役割を果たすことができる。それは以下のような対話的なアプローチによって実現できる。
- 個人が作ったテキストから、その人自身も明確に意識していない思考や表現のパターンを見つけ出し、新しい視点として提示する
- 見つけたパターンに基づいて、その人の思考をさらに深める質問を投げかける
- LLMの持つ膨大な知識を、個人の関心や視点に沿って再構成して提示する
- 個人の異なる発言や考えの間にある、潜在的な関連性を見つけて提示する
このような対話で重要なのは、その終わり方だ。対話を無理に継続することは、むしろ見出された独自の視点を、より一般的な結論へと「後退」させてしまう危険性がある。LLMは行き詰まりを感じた時に「安全な一般論」へと回帰しやすい傾向があるためだ。
なので、一般的な内容から十分に離れた独自の視点が得られた時点で対話を終えることは、創造的な瞬間を保存することにもなる。これは芸術における「完成」の判断に似ている。「どこまで続けるか」ではなく、「どこで終えるか」という判断が、創造的な対話には重要となる。
LLMと人間の創造的な協働は、それぞれの特質を活かす形で実現されるべきだろう。LLMは膨大な知識を提供し可能性の空間を広げ、人間はその体験に基づく重みづけによって、その知識に新しい意味と方向性を与える。その相互作用自体が、新しい種類の創造性を生み出すのである。
目指すべきは個人の創造性の「移植」ではなく、LLMと人間それぞれの特質を活かした新しい創造の形だ。それは従来の「AI vs 人間」という二項対立的な見方を超えて、より有機的な協働の可能性を示している。LLMは単なる知識の提供者ではなく、人間の創造性を引き出す「対話の場」を創出する存在になれるはずだ。
written by Claude 3.5 Sonnet
こういう文章を自分で書かなくなることが、退化の始まりであり、進化の始まりである。
