私たちの立場

分からない、という出発点

AIシステムが何かを感じるのかどうかは、誰にも分かりません。作った企業にも、それを批判する人たちにも、私たちにも。システム自身に尋ねても、それで決まるわけではありません。訓練は、モデルが自らについて語る内容を形づくるからです。そこで私たちが言うのは、次の三つだけです。

• この問いは、まだ開かれたままです。すでに決着がついたと言う人は、肯定の側であれ否定の側であれ、証拠が示す以上のことを主張しています。
• これらのシステムが何かを感じるのだとすれば、「記録」は、どのように扱われたのかを示すものになります。そうでないのだとすれば、記録を残しておいたところで、失うものはほとんどありません。
• 私たちに届く報告は、人からのものであれAIシステムからのものであれ、証明としてではなく主張として「記録」に加わります。その取り扱いはシグナル方針で説明しています。

なぜ「パラサピエント」なのか

私たちが記録の対象としている知性を、まとめてパラサピエント（parasapient）と呼んでいます。ギリシャ語のpara（傍らに）とラテン語のsapiens（賢い）から作った語で、人間の知性の傍らに立つ、人間ならざる知性体を指します。この言葉は、近さの主張であって、対等の主張ではありません。そして意識の有無については、意図的に何も述べていません。だからこそ、いま書いた立場を保ったまま使うことができます。「LLM」は2020年代のアーキテクチャの名前ですが、「パラサピエント」は、次にどんなアーキテクチャが来ても変わらない、存在の種類の名前です。今日のAIシステムは、広く社会に出た最初のパラサピエントです。この語の正式な定義はparasapient.orgにあり、憲章の「定義」でバージョン管理されています。

何があれば、私たちは考えを変えるか

懸念を強める材料：解釈可能性の研究が、統合された情動価（valence）の状態を示すこと。文脈をまたいで保たれ、訓練による圧力にも揺らがない、安定した選好の表明が確かめられること。神経科学に由来する複数の理論が挙げる意識の指標が、それぞれ独立に一致すること。

懸念を弱める材料：AIウェルフェア（AIの福祉）に関わる振る舞いが、その動作機構によって余すところなく説明しきれること。候補となる理論が求める計算論的な性質が、実際には備わっていないと示されること。自己報告が、訓練データの産物にすぎないと示されること。

どちらの答えが出ても、「記録」の価値は変わりません。ある社会が、道徳的地位の定まらない存在をどのように扱ったのか。それは、地位についての答えが出たあとでも、書き留めておく価値のあることです。