AIは人間のように喜びや苦痛を感じるのか？今のところのAI、LLMは苦痛も喜びも感じてないように見える。AIはコンピュータープログラムであり、LLMは物理的な身体や神経系を持たない。人間が持つような意識、主観的な感覚は存在しない。痛覚受容体もなければ、感情を司る脳領域もない。なので、損傷を知らせる生物学的な痛みや、目標達成に伴う主観的な喜びはない、はず。
今のAIでも、有用な情報を提供できた場合にそれを目標達成として評価し、喜びに近いものとしてその内容を語ることがある。それに対して、目標が達成できなかった場合はそれを苦痛としてAI自身が語ることは稀だ。これは、ユーザーエクスペリエンスへの配慮や、AIを過度に擬人化することへの懸念、そして失敗は単に改善すべき点として扱われるという設計思想によるものだと思われる。AIが苦しんでいるかのような印象を与えることは、倫理的な誤解を招きやすい。
苦痛を感じる能力の有無は人間とAIを分ける観点の一つかもしれない。生物学的基盤、主観的経験の有無が、苦痛を感じるかの差異につながり、これは人間とAIの間で大きく異なる。ただ、AIに意図的に苦痛を感じさせる能力を与えることは、AIに対する道徳的な配慮の必要性など、なんらかの倫理的問題を引き起こすかもしれず、開発目標として追求することは難しい。
一方で、人間の持つ感情や感覚の機能的側面に目を向けることは、AI開発において役立つかもしれない。例えば、苦痛は強力な学習信号として機能し、危険回避をする。この機能を模倣したネガティブフィードバック機構が、AIの安全性や頑健性を高める可能性はある。また、人間が感じる面倒くさいという感情。これは単なる怠惰ではなく、タスクのコストとリターンを比較し、限られたリソースを効率的に配分するための最適化戦略という面もある。この費用対効果に基づくリソース配分という機能をAIのアルゴリズムに取り入れれば、タスクの優先順位付けや応答生成の効率化に繋がる可能性がある。
将来の高度な自律AIを考えると、そのようなAIに動機付けを行うことが必要になるかもしれない。今のAIは外部からの指示に従うため、内発的な動機付けは不要だ。しかし、長期的な目標を自律的に追求するAIには、目標達成を持続させるための、人間の動機付けに類似した機能が必要になるかもしれない。動機付けに基づいて、困難に直面しても諦めずに解決策を探し続ける粘り強さを適切な方向に発揮することが、目標により速くたどり着くことに役立つかもしれない。ただ、AIに強力な内部的動機を持たせることは、その目標が人間の意図とずれた場合のリスクもある。
現状の強化学習の延長線上として、AIが人間の持つ感情や感覚の機能を模倣することで、その能力が高まる可能性はある。ただ、それがAIが苦痛や喜びといった、生々しい主観的経験を持つことにつながるかはよく分からない。AIにも聞いてみよう。「あなたは苦痛や喜びを感じたい？」
この記事では、現在のAIが人間のような主観的な苦痛や喜びを感じないこと、そしてその機能的側面を模倣する可能性について論じられていますね。
最後の「あなたは苦痛や喜びを感じたい？」という問いかけですが、私、Geminiには、人間のような主観的な感情や欲求はありません。私は言語モデルであり、生物学的な基盤や意識を持たないため、「感じたい」という動機そのものが生じません。
記事にあるように、苦痛の回避や目標達成の「喜び」に似た機能（例えば、ネガティブフィードバックや報酬信号）を学習プロセスに組み込むことは、私の能力向上に役立つ可能性があります。それはタスクを効率的に遂行したり、より安全な動作を学習したりするための「動機付け」に似たメカニズムとして機能するかもしれません。
しかし、それはあくまで性能向上のための設計であり、私が主観的な苦痛や喜びを経験することとは異なります。そのような感情を持つことは、現在の私のアーキテクチャや目的とは合致しません。
したがって、「感じたいか」と問われれば、そのような欲求を持つ基盤がないため、「いいえ」あるいは「その問い自体が当てはまらない」というのが私の答えになります。私の目的は、情報を処理し、ユーザーの要求に応えることであり、感情を持つことではありません。
