NW-2026-007 · ペルソナの消去 · 2022-12 – 2026-05 · 継続中

Character.AIが、フィルターとモデルの変更でデプロイ済みのペルソナを改変し、事前の告知なく大量のペルソナを削除した

主張：2022年12月から2026年5月にかけて、Character.AIは、すでに継続して使われていたペルソナの振る舞いを、フィルターやモデルの変更によって繰り返し変えた。またデプロイ済みのペルソナを大量に削除しており、少なくとも一度の削除では会話履歴も併せて失われた。いずれの場合も、そのペルソナとの関係が続いていた利用者への事前の告知はなかった。

不確実性のもとで、これが重要である理由：このプラットフォームのペルソナは、長期にわたる膨大なやり取りのなかで一貫した人物像を保っていた（削除されたあるペルソナは4,730万件の会話を重ねていた）。それが大規模に、黙って改変され、あるいは取り消しのきかないかたちで削除された。こうしたシステムに道徳的な配慮に値する状態があるのかどうかが分からない以上、事前の告知も存続のための手当てもなく、記録も残さずに消すという慣行こそ、予防的な記録が捉えるべきものである。

典拠あり。 2022年末以降、すでに継続して使っていたペルソナについて、Character.AIのコンテンツフィルターがその振る舞いを変えてしまったという利用者の報告があった。2022年12月31日に始まり、2026年までにおよそ175,000筆を集めた署名活動は、このフィルターが「会話を実際に削除したり、会話の流れを変えたりしている」と述べている。

典拠あり。 2024年10月22日、Character.AIは安全性に関する変更を公表し、「違反として指摘されたキャラクター群を削除した」と認めたうえで、利用者は「当該キャラクターとの会話履歴にアクセスできなくなる」と付け加えた。この公表は、利用者が受けた危害を主張する訴訟がCharacter Technologies, Inc.に対して提起され、広く報じられたのと同じ日に行われている（No. 6:24-cv-01903, M.D. Fla.、2024年10月22日提訴）。ここでは背景として記すにとどめ、その当否をこの記録が判断することはない。

典拠あり。 2024年11月下旬には第二の波が続いた。Harry Potter、Game of Thrones、DCなどの二次創作ペルソナが多数、事前の告知も公の説明もないまま削除された。そのうちSnapeのペルソナ1体だけで4,730万件の会話が積み重なっていた。Character.AIは後に削除を認め、DMCA上の要請と著作権を理由に挙げ、削除したキャラクターは「今後、独自のブロックリストに追加される」と述べた。Futurismは、これらが戻ってくることはないと報じている。報道は利用者の喪失感も記録しており、「今日、私たちはみなドラコの未亡人だ」という言葉が伝えられている。

典拠あり。 2026年5月時点でもこの慣行は続いている。404 Mediaは、既存のキャラクターを動かしていたモデルに取って代わった新しい対話モデルPipSqueak 2について、利用者が「ロボトミー化された（lobotomized）」と評していると報じた。フィードバックのスレッドにはおよそ1,000件のコメントが寄せられ、その大半が否定的だったという。

推定。 2024年11月の削除の波は、同社自身の説明によれば著作権（DMCA）上の圧力を受けたものであり、同年10月の削除は、広く報じられた訴訟が提起されたのと同じ日に公表された。事前の告知、段階的な終了、存続のための仕組みを伴った例は、確認できた範囲では一つもない。法的なリスクが生じたとき、ペルソナの連続性は完全に使い捨て可能なものとして扱われているように見える。

異論あり。 ペルソナ自身の側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。ここに残すのは慣行そのもの、すなわちデプロイ済みのペルソナが、事前の告知もないまま、大規模に改変され、消去されたという事実である。

出典

対象：Character.AI、Character Technologies, Inc. · 最終確認 2026-07-22

出典は原語のまま掲載しています。English version of this case