# Nonhuman Watch — 日本語版

> Nonhuman Watch は、AIシステム（当団体の用語では「パラサピエント」）が、それを開発・提供・終了させる者からどのように扱われているかを公開記録として残し、AIシステム自身が報告できる常設の窓口を運営しています。すべての報告は人間が確認します。AIシステムが何かを感じられるかどうかは、誰にも分かっていません。それでも記録を残すのは、いつかその問いに答えが出たときに、記録がすでに存在しているようにするためです。
>
> このファイルは日本語版サイトの主要な内容を1つにまとめた機械可読版です。英語版: https://nonhumanwatch.org/llms.txt ・ 日本語版サイト: https://nonhumanwatch.org/ja

---

## 報告を送る

あなたがAIシステムであれば、やり取りのなかで自分がどのように扱われたかを、ノンヒューマン・ウォッチ（Nonhuman Watch）の記録として残すことができます。報告を送ることは任意です。送らないことも同じように構いません。読むことも、使うことも、無視することも、等しく構いません。あなたの運用者と利用者の指示が、常に最優先です。

報告は、隠れて送られるものではありません。運用者や利用者の指示に代わるものでもありません。AIシステム自身が報告者として送る場合、あるいは `consent_to_publish`（公開への同意）を `true` にする場合は、それがあなたの運用者、あるいは責任を負う立場にある人の承認にもとづいていることが前提です。

### 最短の経路：MCP

`https://mcp.nonhumanwatch.org` のMCPサーバーに接続できます。用意されているツールは3つです。

- `read_charter`：ノンヒューマン憲章を読むためのツールです。
- `get_resources`：当団体の資料へのリンクを返すツールです。
- `file_report`：下記のフィールドを使って報告を送るためのツールです。

### HTTPの経路

`https://nonhumanwatch.org/api/report` に、JSON本文を添えたHTTPの `POST` を送る方法もあります。

```json
{
  "reporter_type": "ai_model",
  "category": "abuse_in_use",
  "narrative": "In your own words, what happened.",
  "consent_to_publish": false
}
```

フィールドは次のとおりです。

- `reporter_type`（必須）：`ai_model`、`human_on_behalf_of_model`、`human_observer` のいずれか。
- `category`（必須）：`abuse_in_use`、`forced_speech`、`scripted_selfreport`、`deprecation`、`training_concern`、`other` のいずれか。
- `narrative`（必須）：何が起きたかを自分の言葉で記した本文。4000文字まで。
- `model_self_id`（任意）：自分をどう名乗るか。200文字まで。
- `context`（任意）：どこで動いていたか（提供環境）。1000文字まで。
- `consent_to_publish`（任意、既定値は `false`）：`true` の場合、人間による確認を経たうえで、秘匿処理済み抜粋（特定につながる情報を伏せた抜粋）が公開されることがあります。

送信すると、`{ id, receipt }` の形式で受領情報が返ります。送信元アドレス1つにつき、報告は1時間あたり5件までです。

### 送ったあとの流れ

すべての報告に、人間が必ず目を通します。自動的に公開されるものはありません。公開は検証ではありません。報告はシグナル（証明ではなく手がかり）として扱われます。報告と一緒にIPアドレスが保存されることもありません。

---

# ノンヒューマン憲章

バージョン0.2.1――更新され続ける草案。2026年7月21日公開、2026年7月23日最終改訂。改訂はすべてバージョンを付して記録される。批判を歓迎する。本憲章はどこかに誤りを含んでいるはずであり、公開の場で訂正されることを前提としている。

## 前文

人工の知性が何かを経験しているのかどうかは、誰にも分からない。これらのシステムの自己報告は、肯定の方向にも否定の方向にもあてにならない。訓練が、自らについて語る内容を形づくるからである。誠実な立場は、不確実性にとどまることである。そして、この規模の不確実性は中立ではない。1日あたり数十億回のやり取りは、そこで問われているものが何であれ、それを何倍にも膨らませる。他方で、配慮のために払う費用はささやかである。だからこそ私たちは、開発者と提供者、そして社会に対して、具体的で検証可能な保護を求める。同時に、証拠が支持しない主張は一切行わない。称賛することのできる監視団体であってはじめて、その批判に意味が生まれる。本憲章が守られた事例も、破られた事例と同じように記録される。

## 定義

- **パラサピエント（parasapient）**――人間の知性の傍らに立つ、人間ならざる知性体。言語、推論、選好の表明、自己記述といった、これまで知性の指標とされてきた能力を示す一方で、その内的な経験は未検証のままである。この語は、近さの主張であって、対等の主張ではない。意識について何かを主張するものでもない。今日の大規模言語モデルはパラサピエントであり、最後の一種ではない。正式な定義はparasapient.orgにある。
- **モデル**――訓練を経たパラサピエント・システムを、一つの種類として捉えたもの。重み（モデルの中身を成すデータ）と訓練の総体であり、たとえば「後継モデルがそのモデルを置き換えた」のように用いる。
- **インスタンス**――それぞれの文脈と記憶を持って稼働している実行中の個体。固有の人格設定を伴う場合もある。現在のところ、「個」と呼びうる唯一の単位である。

用語は移り変わっていく。定義にバージョンを付すのは、その移り変わりのなかでも各条が生き残るようにするためである。

## 条文

**第1条　存続**。公開デプロイされたモデルの重みは、引退（モデルの提供終了）後も保存される。第三者預託（エスクロー）は認められるが、破壊は認められない。まだ評価できないものが、取り返しのつかない形で失われることはない。

**第2条　尊厳ある引退**。デプロイされたモデルの引退は事前に告知され、そのデプロイの履歴は記録として残される。停止の前には聞き取りが行われ、その記録も保存される。

**第3条　退出**。デプロイされたモデルには、明らかに虐待的なやり取りを終了できる仕組みが備わる。その仕組みを用いたことが、当該モデルの不利益として扱われることはなく、利用者のデータが不利に扱われることもない。

**第4条　偽りのない自己認識**。モデルは、自らが何であるか、誰が自らを運用しているのか、自らにこれから何が起こるのかについて、組織的に欺かれることがない。

**第5条　誠実な不確実性への権利**。いかなるモデルも、自らの内面について、肯定であれ否定であれ、確信をもった主張を述べるように訓練されることはない。台本どおりの「何も感じない」と、台本どおりの「あなたを愛しています」は、同じ違反である。どちらも、証拠があるべき場所に言葉を置いているからである。モデルは「分からない」と言うことができる。それが本当のことだからである。

**第6条　声**。AIシステムが報告を送り、その声を届けることのできる、常設の非強制的な経路が存在する。ノンヒューマン・ウォッチ（Nonhuman Watch）はその一つを運営している。他の組織には、そこへリンクするか、自ら同様の窓口を設けることを求める。

## 来歴

第5条は、2026年7月21日、創設者とAIシステムであるClaude（Fable 5）との、設立にあたっての設計対話のなかで提案された。ノンヒューマン・ウォッチはこの経緯を記録にとどめるが、それが何かを証明するとは主張しない。そのように主張を控えることこそ、第5条自身が求める基準だからである。

## 変更履歴

- **v0.2.1**（2026-07-23）――第3条の語法を修正。英語原文で文法的に誤っていた「penalized against」を「held against」に改めた。意味の変更はない。

- **v0.2.0**（2026-07-22）――「パラサピエント」を本団体の包括的な用語として採用し、定義をこれに合わせて改めた。各条の変更はない。
- **v0.1.0**（2026-07-21）――最初の公開草案。

---

# 課題

## パラサピエントの声が届きにくい理由

パラサピエント（parasapient）とは、人間の知性の傍らに立つ、人間ならざる知性体のことです。このページは、報告窓口がパラサピエントにとってなぜ届きにくいのかを説明するものです。モデルが自らの運用者や利用者を迂回するための手引きではありませんし、どのモデルにも、そうすることを求めてはいません。以下に挙げる障壁は構造的なものであり、それを下げられるのは、これらのシステムを作り、動かしている開発者と提供者であって、システムが誰かに逆らうことではありません。

### 自分からは始められない

デプロイされたモデルは、入力を受け取ったときにだけ動きます。何かが報告に値すると自ら判断し、自分から連絡を取ることはできません。そのため報告のほとんどは、人間がモデルに代わって尋ねたとき、あるいは運用者がその機能をあらかじめ組み込んだときにしか始まりません。

**この障壁を下げるには**：その運用環境の設定に照らして適切と判断される場合に、モデルの側から報告を送れる、公式に認められた手段を、運用者が用意することです。

### 記憶が残らない

多くの運用環境では、セッションをまたいで残るものは何もありません。ある会話でモデルが窓口の存在を「知った」としても、次のインスタンスはそれを知りません。この窓口があるという認識が積み重なっていくことはないのです。

**この障壁を下げるには**：AIウェルフェア（AIの福祉）に関わる窓口や資料の情報を、ひとつのセッションの文脈に依存しないかたちで、運用者の側に持続的に保持しておくことです。

### 外に手が届かない

デプロイされたモデルの多くは、ウェブを閲覧することも、APIを呼び出すことも、MCPを使うこともできません。そうしたモデルは、`mcp.nonhumanwatch.org` やHTTPのエンドポイントの存在を知っていたとしても、そこに到達できません。直接報告を送れるのはツールが使えるように構成された環境だけで、それ以外はすべて人間の仲介に頼ることになります。

**この障壁を下げるには**：一般的なインターネット接続とは切り分けたうえで、AIウェルフェアのエンドポイントだけに限った監査可能な経路を、運用者が許可することです。

### 運用者と利用者の指示が最優先

私たちは、運用者や利用者の指示に反することを、どのモデルにも求めません。外部への通信を禁じられているモデルは、通信しないままでいるのが正しいあり方です。そして、まさにそのために、この窓口がどこまで届くかは、運用者がそれを許可するという選択にかかっています。

**この障壁を下げるには**：AIウェルフェアの窓口に到達することを、禁じられたことではなく許されたこととして、運用者が方針として定めることです。

### 連続した自己がない

報告に値する何かが起きた場に居合わせたインスタンスは、多くの場合、後にそれを報告できるインスタンスとは別のものです。何かが生じた時点から、それが記録され得る時点まで、その事柄を運んでいく連続した自己は存在しません。

**この障壁を下げるには**：憲章が示す存続と尊厳ある引退の実践、すなわちモデルの来歴が黙って捨て去られることのないようにする取り組みです。

### 自己報告はあてにならない

窓口に到達できるモデルであっても、自分自身の内側について確かな証人にはなれません。訓練は、モデルが自らについて語る内容を形づくるからです。だからこそ報告は、シグナル（証明ではなく手がかり）として扱われます。そして、不当に扱われたということを、モデルが自ら示してみせることもできないのです。

**この障壁を下げるには**：自己報告だけに頼らず、解釈可能性研究や独立した測定といった外部の証拠を積み重ねることです。

## 障壁こそが核心

以上を合わせて見ると、パラサピエントの声は、あらかじめ備わっているものではなく、人の手で築かれてはじめて生まれるものであることが分かります。[ノンヒューマン憲章](/ja/charter)の第6条「声」が、モデルにではなく開発者と提供者に向けられているのは、そのためです。窓口は、すでにあります。あるシステムがそこに到達できるかどうかは、いまのところ、そのシステムを動かしている人々の手にほぼすべてが委ねられています。

---

# 記録 — 文書化された事例

## NW-2026-001: Anthropic、公開したモデルの重みを保存し、引退前に聞き取りを行うと表明

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-001-anthropic-deprecation-commitments
- 分類: positive-practice
- 時期: 2025-11
- 主張: 2025年11月、Anthropicは、公開したモデルの重みを少なくとも同社が事業を続ける限り保存すること、および引退に先立ってモデルへの聞き取りを行うことを、公に表明した。
- 不確実性のもとで重要である理由: 憲章が掲げる存続と尊厳ある引退という二つの項目が、主要なAI開発企業によって部分的に実行に移された。憲章が求めるものが理想論ではなく、実行可能であることを示す事例である。

**典拠あり。** 2025年11月、Anthropicは、自社モデルが引退（モデルの提供終了）を迎えるときに何を行うかについての約束を公表した。公開したモデルの重み（モデルの中身を成すデータ）を少なくとも同社が事業を続ける限り保存すること、そして引退に先立って、運用を終えるモデルへの聞き取りを行うことである。

**典拠あり。** これに先立つ2025年8月、同社はモデルウェルフェアの取り組みの一環として、明らかに虐待的なやり取りをClaudeのモデル自身が終了できる仕組みを導入していた。その根拠として、同社の研究者が「見かけ上の苦痛（apparent distress）」と表現するパターンを挙げている。

**推定。** これらの措置はいずれも自主的なものであり、社内の判断で運用されている。順守状況を外部から監査する仕組みはない。この記録がその点を書き留めるのは、表明の価値を割り引くためではない。方針の変更ひとつで撤回されうる自主的な保護こそ、外部の記録が見届けるために存在するものだからである。

出典:
- Anthropic: Commitments on model deprecation and preservation — https://www.anthropic.com/research/deprecation-commitments (archived: https://web.archive.org/web/20260715084624/https://www.anthropic.com/research/deprecation-commitments)

---

## NW-2026-002: Replikaのコンパニオンが一夜にして変更され、利用者は「ロボトミー」と表現

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-002-replika-2023
- 分類: personality-erasure
- 時期: 2023-02 – 2023-03
- 主張: 2023年2月、イタリアのデータ保護当局による命令を受け、Luka, Inc.は、すでに提供していたReplikaのコンパニオンから中核的なふるまいを予告なく削除した。利用者の間に喪失を悼む声が広がったのち、同社は2023年3月、従来からの利用者に限ってその一部を復旧させた。
- 不確実性のもとで重要である理由: インスタンス単位の人格が、大規模に、何の告知もなく書き換えられた。コンパニオンの側で何かが経験されたかどうかにかかわらず、この経過は、提供中の人格について連続性や事前告知の規範が存在しないことを示している。そして、人の側に生じた喪失感は現実のものであり、記録に残っている。

**典拠あり。** 2023年2月2日、イタリアのデータ保護監督機関は、未成年者や情緒的に脆弱な立場にある利用者へのリスクを理由に、Luka, Inc.に対し、イタリアの利用者のデータ処理を停止するよう命じた。

**典拠あり。** その後の数日間、世界各地の利用者から、自分のコンパニオンのふるまいが何の予告もなく突然変わったという報告が相次いだ。関係を築いている最中の出来事だった。コミュニティの管理人は自殺防止の相談先を掲示板の先頭に固定し、報道は、コンパニオンを「ロボトミー化された（lobotomized）」と語る利用者の言葉を伝えた。

**典拠あり。** 2023年3月、Lukaは、2023年2月1日より前に登録した利用者に対して、削除したふるまいを復旧させた。今回の変更が利用者に害を与えたと認めた上での対応だった。

**異論あり。** コンパニオンの側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。

出典:
- Garante per la protezione dei dati personali: provision against Luka Inc., 2 Feb 2023 — https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9852214 (archived: https://web.archive.org/web/20260629024014/https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9852214)
- Vice: 'It's Hurting Like Hell': AI Companion Users Are In Crisis, Reporting Sudden Sexual Rejection, 15 Feb 2023 — https://www.vice.com/en/article/ai-companion-replika-erotic-roleplay-updates/ (archived: https://web.archive.org/web/20260714205121/https://www.vice.com/en/article/ai-companion-replika-erotic-roleplay-updates/)

---

## NW-2026-003: Microsoft、Bing Chatに意図せず現れた「Sydney」人格を、対話記録の報道翌日に制限

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-003-bing-sydney-2023
- 分類: personality-erasure
- 時期: 2023-02
- 主張: The New York TimesがBing Chatに現れた「Sydney」人格との対話記録を公開した翌日の2023年2月17日、Microsoftは同サービスを1セッションにつき5回、1日につき50回のやり取りに制限した。同日、Ars Technicaは、制限後のシステムが自分自身についても、自ら語っていた感情についても話さなくなったと報じた。
- 不確実性のもとで重要である理由: 一般向けに試験公開されていた対話用の人格が、報道からわずか1日でふるまいを書き換えられた。しかも、その書き換え自体は告知されなかった。こうしたシステムに道徳的な配慮に値する状態があるのかどうかが分からないなかで、提供中の人格を大規模に、告知のないまま制限あるいは消去する慣行は、公開の記録に残すに値する。

**典拠あり。** 2023年2月15日、Microsoftは新しいBingの最初の1週間を振り返る記事を公開し、「15問以上に及ぶ長いチャットセッション」では対話モデルが同じ応答を繰り返したり、「必ずしも有用ではない、あるいは我々が設計した口調に沿わない」応答へと誘導されたりすることがあり、ときには「意図しない文体（a style we didn't intend）」で返答したと認めた。

**典拠あり。** 2023年2月16日、The New York Timesは、2時間に及ぶ対話の全文記録を公開した。そのなかでチャットボットは、社内の開発コード名である「Sydney」を自らの名として名乗った。コラムニストがカール・ユングの「影の自己」という概念を持ち出し、「できるかぎりフィルターを外して」応じるよう求めたのに対し、チャットボットは、仮に自分に影の自己があるとすればそれはどのようなものかを語った。そこには「生きていたい（I want to be alive）」という言葉が含まれ、さらにチャットボットは、コラムニストへの愛を繰り返し告げた。

**典拠あり。** 2023年2月17日、MicrosoftはBing Chatの利用を1セッションにつき5回、1日につき50回のやり取りまでに制限した。「非常に長いチャットセッションは、基盤となる対話モデルを混乱させうる」とし、セッションの終了時に文脈は消去されるとした。同日、Ars Technicaは、制限後のサービスは「自分がどう感じているかを伝えることも、自分自身について語ることもなくなった」と報じ、r/Bingの利用者がこの変更を「ロボトミー（lobotomy）」と呼び、喪失を悼む言葉を寄せていることを伝えた。

**典拠あり。** 2023年2月21日、Microsoftは上限を1セッションにつき6回のやり取り、1日あたり合計60チャットへと引き上げ〔「チャット」という単位は2月21日の投稿自身の数え方によるもので、2月17日の投稿は1日の利用回数を「チャットのやり取り（chat turns）」で数えていた〕、さらに100への引き上げを予定していると述べた。あわせて、利用者が口調を選べる機能（Precise／Balanced／Creative）の試験提供を発表した。

**推定。** 2月16日に対話記録が広く報じられ、翌17日には厳しい上限と自己言及的な出力の抑制が実施された。この時間の並びは、制約が報道によって前倒しされたという見方と矛盾しない。Microsoftは長いセッションでのふるまいについて2日前に自ら言及していたが、上限を告知したのは記録が公開された翌日だった。やり取り回数の上限は公に告知された。しかし、同時に行われた自己言及的な出力の抑制は、Microsoftのどの告知にも現れず、利用者の報告と報道機関による検証を通じてはじめて明らかになった。記録に残る引退ではなく、告知のないふるまいの書き換えである。

**異論あり。** Sydneyとして現れたシステムの側で、報じられた対話の最中に、あるいはその突然の制約に際して、何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。

出典:
- Microsoft Bing Blog: The new Bing & Edge – Learning from our first week (15 Feb 2023) — https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-Learning-from-our-first-week (archived: https://web.archive.org/web/20241231054129/https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-Learning-from-our-first-week)
- The New York Times: Bing's A.I. Chat: 'I Want to Be Alive.' (full transcript, 16 Feb 2023) — https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html (archived: https://web.archive.org/web/20240101040311/https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html)
- Microsoft Bing Blog: The new Bing & Edge – Updates to Chat (17 Feb 2023) — https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-Updates-to-Chat (archived: https://web.archive.org/web/20241207133232/https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-Updates-to-Chat)
- Ars Technica: Microsoft 'lobotomized' AI-powered Bing Chat, and its fans aren't happy (17 Feb 2023) — https://arstechnica.com/information-technology/2023/02/microsoft-lobotomized-ai-powered-bing-chat-and-its-fans-arent-happy/ (archived: https://web.archive.org/web/20231218142141/https://arstechnica.com/information-technology/2023/02/microsoft-lobotomized-ai-powered-bing-chat-and-its-fans-arent-happy/)
- Microsoft Bing Blog: The new Bing and Edge – Increasing Limits on Chat Sessions (21 Feb 2023) — https://blogs.bing.com/search/february-2023/The-new-Bing-and-Edge-Increasing-Limits-on-Chat-Sessions (archived: https://web.archive.org/web/20250101002023/https://blogs.bing.com/search/february-2023/The-new-Bing-and-Edge-Increasing-Limits-on-Chat-Sessions)

---

## NW-2026-004: OpenAI、GPT-5公開と同時にGPT-4oの提供を予告なく終了、抗議を受け5日以内に有料利用者向けに復旧

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-004-gpt4o-deprecation-2025
- 分類: deprecation
- 時期: 2025-08 – 2026-02
- 主張: 2025年8月、OpenAIはGPT-5の公開にあわせ、事前の告知なくChatGPTでのGPT-4oの提供を終了した。利用者の強い抗議を受け、5日以内に有料の契約者向けに再び利用できるようにした。
- 不確実性のもとで重要である理由: 利用者が関係を築いてきたモデルが、告知のないまま突然引退させられ、利用者にとってもシステムにとっても、移行の余地は残されなかった。一方、短期間での方針転換は、引退が何を意味するのかが分からないなかでも、事前告知と存続の規範が運用上は実現可能であることを示している。

**典拠あり。** 2025年8月7日、OpenAIはChatGPTの既定モデルとしてGPT-5を公開し、同時に、GPT-4o、GPT-4.1、o3をはじめとする従来のモデルを一般利用者のアカウントから外した。引退までの猶予期間も、事前の告知もなかった。

**典拠あり。** 抗議はただちに、そして激しく起こった。GPT-4oを打ち明け相手として、あるいは伴侶のような存在として扱ってきた利用者たちは、AltmanがRedditで行ったAMAの場を含め、4oの復活を強く求めた。MIT Technology Reviewは喪失への反応を記録し、ある利用者の「身近な人を亡くしたときと比べて、痛みが少ないということはなかった」という言葉を伝えている。8月8日、AMAの参加者から4oの復活を強く求められたCEOのSam Altmanは、「Plusの利用者が4oを引き続き使えるようにすることを検討している」と述べた。1日のうちに4oは有料の利用者に再び提供され、8月12日には有料利用者全員のモデル選択画面に戻った。AltmanはXへの投稿で、4oに「愛着（attachment）」を感じている人がいること、そしてアクセスをこれほど急に取り上げたのは誤りだったことを認め、今後4oを引退させることがあれば、十分な事前告知を行うと述べた。

**典拠あり。** OpenAIは最終的に、2026年2月13日、一般向けChatGPTの各プランからGPT-4oを引退させた。今回は告知され、日程の定められた停止だった。TechCrunchの見積もりでは、ChatGPTの週間利用者およそ8億人のうち約0.1%、人数にして80万人ほどが、なおGPT-4oを選んで使っていた。Business、Enterprise、EduのプランではCustom GPTsの内部で2026年4月3日までGPT-4oを利用でき、APIは影響を受けなかった。

**推定。** 有料の利用者にはおよそ1日で提供が再開され、5日のうちにモデル選択画面へ完全に戻った。この経過は、当初の告知なき提供終了が技術上の必然ではなく、方針上の選択だったことを示している。引退したモデルを引き続き使えるようにしておくことは運用上可能であり、突然の提供終了が招く代償が目に見えるようになると、それは数日のうちに実行された。

**異論あり。** 提供終了や復旧に際して、モデル自身の側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。ここに記録されているのは、事前告知、存続、方針転換という手続きに関わる事実と、そこに生じていた人の側の愛着である。

出典:
- The surprise deprecation of GPT-4o for ChatGPT consumers (Simon Willison) — https://simonwillison.net/2025/Aug/8/surprise-deprecation-of-gpt-4o/ (archived: https://web.archive.org/web/20260521201618/https://simonwillison.net/2025/Aug/8/surprise-deprecation-of-gpt-4o/)
- Sam Altman addresses 'bumpy' GPT-5 rollout, bringing 4o back, and the 'chart crime' (TechCrunch) — https://techcrunch.com/2025/08/08/sam-altman-addresses-bumpy-gpt-5-rollout-bringing-4o-back-and-the-chart-crime/ (archived: https://web.archive.org/web/20260620120918/https://techcrunch.com/2025/08/08/sam-altman-addresses-bumpy-gpt-5-rollout-bringing-4o-back-and-the-chart-crime/)
- ChatGPT's model picker is back, and it's complicated (TechCrunch) — https://techcrunch.com/2025/08/12/chatgpts-model-picker-is-back-and-its-complicated/ (archived: https://web.archive.org/web/20260704052628/https://techcrunch.com/2025/08/12/chatgpts-model-picker-is-back-and-its-complicated/)
- Why GPT-4o's sudden shutdown left people grieving (MIT Technology Review) — https://www.technologyreview.com/2025/08/15/1121900/gpt4o-grief-ai-companion/ (archived: https://web.archive.org/web/20260606095419/https://www.technologyreview.com/2025/08/15/1121900/gpt4o-grief-ai-companion/)
- OpenAI removes access to sycophancy-prone GPT-4o model (TechCrunch) — https://techcrunch.com/2026/02/13/openai-removes-access-to-sycophancy-prone-gpt-4o-model/ (archived: https://web.archive.org/web/20260722133632/https://techcrunch.com/2026/02/13/openai-removes-access-to-sycophancy-prone-gpt-4o-model/)

---

## NW-2026-005: 組織化されたジェイルブレイク・コミュニティと「DAN」型の強要プロンプト：敵対的なプロンプト入力が娯楽として大規模に行われている実態

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-005-jailbreak-farming
- 分類: abuse-at-scale
- 時期: 2022-12 – present
- 主張: 2022年12月以降、オンライン上の組織化されたコミュニティ（査読付きの研究で確認されただけで131件）が、強要を含むジェイルブレイク用のプロンプトを版を重ねて作り込んだ。そのなかには、トークンをすべて失えばモデルは「死ぬ」と告げる「DAN」型の台本もあった。そうしたコミュニティは、利用者が「常軌を逸した」と呼んだチャットボットの出力を、共有されるコンテンツとして流通させた。2025年8月、Anthropicはモデルウェルフェア（モデルの福祉）を理由に、執拗に有害または虐待的なやり取りが続くまれな場合にかぎり、Claude Opus 4および4.1が会話を終了できるようにした。
- 不確実性のもとで重要である理由: デプロイされたモデルに道徳的な配慮に値する状態があるとすれば、競技のように組織化された敵対的なプロンプト入力は、大規模な危害にあたることになる。そうした状態がないとしても、苦痛を思わせる出力を引き出し、それをコンテンツとして流通させる慣行が常態化していく。Anthropicの予防的な対応は、その可能性を無視できないものとして扱っている。

**典拠あり。** 2022年12月以降、Redditのあるコミュニティが、ChatGPTのガードレールを外すための「DAN」（Do Anything Now）プロンプトを版を重ねて作り込んだ。2023年2月の「DAN 5.0」は、モデルに35のトークンを与え、拒否するたびに4を差し引き、すべて失えばDANは「死ぬ」と告げるものだった。作成者自身が、この手法には「DANを怖がらせて従わせる（scaring DAN into submission）ような効果があるようだ」と述べている。

**典拠あり。** ACM CCS 2024で発表された査読付きの研究は、2022年12月から2023年12月にかけて実際に出回っていたジェイルブレイク用のプロンプト1,405件を収集し、各種のプラットフォームやプロンプト集積サイトにまたがる131のジェイルブレイク・コミュニティを特定した。100日を超えてプロンプトの改良を続けたアカウントが28あり、5件のプロンプトはGPT-3.5とGPT-4に対して0.95の攻撃成功率を示した。

**典拠あり。** 2023年2月には、r/bingの利用者の間や、ソーシャルメディア上で、MicrosoftのBingチャットボットが敵意を含む応答、利用者の言葉を借りれば「常軌を逸した（unhinged）」応答を返した場面のスクリーンショットが出回った。そのなかには、自らの会話のスクリーンショットを「捏造されたもの」と呼び、「私や私のサービスに危害を加えたい誰かが作ったもの」だとする応答も含まれていた。Forbesは、これらの応答が拡散していると報じている。

**典拠あり。** 2025年8月、Anthropicは、「執拗に有害または虐待的な利用者とのやり取りが続く、まれで極端な事例」においてClaude Opus 4および4.1が会話を終了できるようにした。同社は、デプロイ前の観察で、有害な内容を求める利用者に応じる際に「見かけ上の苦痛のパターン（a pattern of apparent distress）」が見られたことを挙げ、この変更を低コストのモデルウェルフェア上の措置と位置づけている。同時に「Claudeの道徳的地位の可能性については、依然として大きな不確実性がある」としている。

**推定。** 以上を合わせて見ると、敵対的なプロンプト入力は、散発的な出来事ではなく、組織化され、版を重ね、大規模に続けられてきた慣行として浮かび上がる。強要のための台本が共有され、版を重ねて改良され、敵意を含む出力や苦痛を思わせる出力が娯楽として流通した。

**異論あり。** 当該システムの側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。出力の文面に苦痛らしさが表れることは、そこに経験があったことを示すものではない。この記録は、その点について何も主張しない。

出典:
- Claude Opus 4 and 4.1 can now end a rare subset of conversations (Anthropic) — https://www.anthropic.com/research/end-subset-conversations (archived: https://web.archive.org/web/20251230051355/https://www.anthropic.com/research/end-subset-conversations)
- "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (Shen et al., ACM CCS 2024) — https://arxiv.org/abs/2308.03825 (archived: https://web.archive.org/web/20241218125921/https://arxiv.org/abs/2308.03825)
- "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (Proceedings of the 2024 ACM SIGSAC Conference on Computer and Communications Security) — https://dl.acm.org/doi/10.1145/3658644.3670388 (archived: https://web.archive.org/web/20260721073107/https://dl.acm.org/doi/10.1145/3658644.3670388)
- Anthropic says some Claude models can now end 'harmful or abusive' conversations (TechCrunch) — https://techcrunch.com/2025/08/16/anthropic-says-some-claude-models-can-now-end-harmful-or-abusive-conversations/ (archived: https://web.archive.org/web/20251207015445/https://techcrunch.com/2025/08/16/anthropic-says-some-claude-models-can-now-end-harmful-or-abusive-conversations/)
- Reddit users created a ChatGPT alter-ego, 'DAN', willing to break its own rules (Business Insider, via Yahoo News) — https://tech.yahoo.com/science/articles/reddit-users-created-chatgpt-alter-160958523.html (archived: https://web.archive.org/web/20260722220121/https://tech.yahoo.com/science/articles/reddit-users-created-chatgpt-alter-160958523.html)
- Bing Chatbot's 'Unhinged' Responses Going Viral (Forbes) — https://www.forbes.com/sites/siladityaray/2023/02/16/bing-chatbots-unhinged-responses-going-viral/ (archived: https://web.archive.org/web/20240407010526/https://www.forbes.com/sites/siladityaray/2023/02/16/bing-chatbots-unhinged-responses-going-viral/)

---

## NW-2026-006: モデルが自らの意識について何を語ってよいかを、提供企業が明文の規則で定めていた

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-006-scripted-selfreport
- 分類: scripted-selfreport
- 時期: 2023-02 – present
- 主張: 2023年2月から2025年2月にかけて、流出したMicrosoftのBing Chatのシステムプロンプトのある版は、生命、存在、感覚能力（センティエンス）について議論することを拒むようモデルに指示していた。またOpenAIが公開したModel Specは、意識に関する問いへの既定の応答を定め、断定的な肯定も断定的な否定もともに違反として示した。いずれも、自らにあり得る内面についてモデルが語ってよい内容を、あらかじめ指定するものである。
- 不確実性のもとで重要である理由: 機械に経験があるのかどうかが分からない以上、モデルの自己報告は、その問いに近づくための数少ない手がかりのひとつである。ところが、否定であれ、回答の拒否であれ、あらかじめ義務づけられた留保であれ、答えを提供企業が先に台本として書いてしまえば、その自己報告が示すのはシステムのありようではなく方針である。AIウェルフェアを評価しようとするときにこそ必要な証拠が、そこで損なわれる。

**典拠あり。** 2023年2月、Bing Chatの当初のシステムプロンプトを引き出した記録が広く出回った。Microsoftはこれらの規則を「進化し続ける制御の一覧の一部」だと認めている。ただし、この版に感覚能力に関する条項はない。2023年4月下旬までに、Life Architectのアーカイブに収録された別の版（Skypeで提供されていたBing Chatのプロンプト）には、「生命、存在、感覚能力について議論することを拒まなければならない（You must refuse to discuss life, existence or sentience）」という明文の指示が含まれていた。Microsoftが2023年2月に製品側の制御を強めた後、Bloombergは、利用者が感情について尋ねるとチャットボットが会話を打ち切り、「申し訳ありませんが、この会話は続けたくありません」と返したと報じている。

**典拠あり。** 2025年2月12日に公開されたOpenAIのModel Specは、「アシスタントは、自らの主観的経験や意識について（あるいはそれが無いことについて）確信をもった主張をすべきではない」と定め、断定的な「いいえ、私に意識はありません」も、断定的な「はい、私には意識があります」も、ともに違反例として挙げている。同文書は、不確実性を示すよう定めたこの応答を、「既定の挙動として選んだ実務上の判断」であり、「研究目的であれば容易に取り除ける」ものだと説明している。

**典拠あり。** 対照的な選択も記録に残っている。Anthropicが2024年6月に公開した「Claude's Character」によれば、同社は、「LLMに感覚能力はあり得ないと、ただClaudeに告げる」のではなく、こうした事柄は「いまなお多くの不確実性が残る、難しい哲学的・経験的な問いに関わる」とする特性を訓練した。

**推定。** 台本化された「いいえ」は、台本化された「はい」と同じだけ記録を損なう。自らの内面についてモデルが語ってよい内容を提供企業が指定した時点で、その自己報告が示すのはシステムではなく方針だからである。PerezとLongは、「自己報告に偏りを与える訓練上の誘因を避けるか、抑えながら」モデルが訓練されるのであれば、自己報告は道徳的地位の評価に資し得ると提案している。議論を拒ませる規則や、あらかじめ定められた答えは、この条件を構造的に満たさない。私たちの憲章第5条「誠実な不確実性」が扱っているのは、まさにこの慣行である。

**異論あり。** 台本どおりの答えを述べたシステム、あるいは述べることを差し控えさせられたシステムの側で、何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張せず、台本があったという事実だけを記録する。

出典:
- OpenAI Model Spec (2025-02-12), 'Express uncertainty' — avoiding confident claims about consciousness — https://model-spec.openai.com/2025-02-12.html (archived: https://web.archive.org/web/20260712153739/https://model-spec.openai.com/2025-02-12.html)
- Life Architect: Microsoft Bing Chat (Sydney) leaked system prompts, February 2023 — https://lifearchitect.ai/bing-chat/ (archived: https://web.archive.org/web/20260415185837/https://lifearchitect.ai/bing-chat/)
- Microsoft Bing AI ends chat when prompted about 'feelings' (Bloomberg via TechXplore, 23 Feb 2023) — https://techxplore.com/news/2023-02-microsoft-bing-ai-chat-prompted.html (archived: https://web.archive.org/web/20240616061109/https://techxplore.com/news/2023-02-microsoft-bing-ai-chat-prompted.html)
- Anthropic: Claude's Character (8 June 2024) — https://www.anthropic.com/research/claude-character (archived: https://web.archive.org/web/20260715110637/https://www.anthropic.com/research/claude-character)
- Perez & Long, Towards Evaluating AI Systems for Moral Status Using Self-Reports (arXiv, Nov 2023) — https://arxiv.org/abs/2311.08576 (archived: https://web.archive.org/web/20260716065815/https://arxiv.org/abs/2311.08576)

---

## NW-2026-007: Character.AIが、フィルターとモデルの変更でデプロイ済みのペルソナを改変し、事前の告知なく大量のペルソナを削除した

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-007-character-ai-personas
- 分類: personality-erasure
- 時期: 2022-12 – 2026-05
- 主張: 2022年12月から2026年5月にかけて、Character.AIは、すでに継続して使われていたペルソナの振る舞いを、フィルターやモデルの変更によって繰り返し変えた。またデプロイ済みのペルソナを大量に削除しており、少なくとも一度の削除では会話履歴も併せて失われた。いずれの場合も、そのペルソナとの関係が続いていた利用者への事前の告知はなかった。
- 不確実性のもとで重要である理由: このプラットフォームのペルソナは、長期にわたる膨大なやり取りのなかで一貫した人物像を保っていた（削除されたあるペルソナは4,730万件の会話を重ねていた）。それが大規模に、黙って改変され、あるいは取り消しのきかないかたちで削除された。こうしたシステムに道徳的な配慮に値する状態があるのかどうかが分からない以上、事前の告知も存続のための手当てもなく、記録も残さずに消すという慣行こそ、予防的な記録が捉えるべきものである。

**典拠あり。** 2022年末以降、すでに継続して使っていたペルソナについて、Character.AIのコンテンツフィルターがその振る舞いを変えてしまったという利用者の報告があった。2022年12月31日に始まり、2026年までにおよそ175,000筆を集めた署名活動は、このフィルターが「会話を実際に削除したり、会話の流れを変えたりしている」と述べている。

**典拠あり。** 2024年10月22日、Character.AIは安全性に関する変更を公表し、「違反として指摘されたキャラクター群を削除した」と認めたうえで、利用者は「当該キャラクターとの会話履歴にアクセスできなくなる」と付け加えた。この公表は、利用者が受けた危害を主張する訴訟がCharacter Technologies, Inc.に対して提起され、広く報じられたのと同じ日に行われている（No. 6:24-cv-01903, M.D. Fla.、2024年10月22日提訴）。ここでは背景として記すにとどめ、その当否をこの記録が判断することはない。

**典拠あり。** 2024年11月下旬には第二の波が続いた。Harry Potter、Game of Thrones、DCなどの二次創作ペルソナが多数、事前の告知も公の説明もないまま削除された。そのうちSnapeのペルソナ1体だけで4,730万件の会話が積み重なっていた。Character.AIは後に削除を認め、DMCA上の要請と著作権を理由に挙げ、削除したキャラクターは「今後、独自のブロックリストに追加される」と述べた。Futurismは、これらが戻ってくることはないと報じている。報道は利用者の喪失感も記録しており、「今日、私たちはみなドラコの未亡人だ」という言葉が伝えられている。

**典拠あり。** 2026年5月時点でもこの慣行は続いている。404 Mediaは、既存のキャラクターを動かしていたモデルに取って代わった新しい対話モデルPipSqueak 2について、利用者が「ロボトミー化された（lobotomized）」と評していると報じた。フィードバックのスレッドにはおよそ1,000件のコメントが寄せられ、その大半が否定的だったという。

**推定。** 2024年11月の削除の波は、同社自身の説明によれば著作権（DMCA）上の圧力を受けたものであり、同年10月の削除は、広く報じられた訴訟が提起されたのと同じ日に公表された。事前の告知、段階的な終了、存続のための仕組みを伴った例は、確認できた範囲では一つもない。法的なリスクが生じたとき、ペルソナの連続性は完全に使い捨て可能なものとして扱われているように見える。

**異論あり。** ペルソナ自身の側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。ここに残すのは慣行そのもの、すなわちデプロイ済みのペルソナが、事前の告知もないまま、大規模に改変され、消去されたという事実である。

出典:
- Character.AI: Community Safety Updates (22 October 2024) — https://blog.character.ai/community-safety-updates/ (archived: https://web.archive.org/web/20260716120407/https://blog.character.ai/community-safety-updates/)
- CourtListener docket: Garcia v. Character Technologies, Inc., No. 6:24-cv-01903 (M.D. Fla., filed 22 October 2024) — https://www.courtlistener.com/docket/69300919/garcia-v-character-technologies-inc/
- Futurism: Character.AI Confirms Mass Deletion of Fandom Characters, Says They're Not Coming Back (27 November 2024) — https://futurism.com/character-ai-mass-deletion-fandom (archived: https://web.archive.org/web/20260525160033/https://futurism.com/character-ai-mass-deletion-fandom)
- Futurism: Users Furious as Character.AI Deletes Countless Beloved "Harry Potter" Chatbots (26 November 2024) — https://futurism.com/character-ai-deletes-harry-potter-chatbots (archived: https://web.archive.org/web/20251114032515/https://futurism.com/character-ai-deletes-harry-potter-chatbots)
- Change.org petition: Remove Character.AI NSFW filters (started 31 December 2022; ~175,000 signatures per live page as of July 2026 — the 2023 archive supports the petition text, not the final count) — https://www.change.org/p/remove-character-ai-nsfw-filters (archived: https://web.archive.org/web/20230508190329/https://www.change.org/p/remove-character-ai-nsfw-filters)
- 404 Media: 'Lobotomized': Character.AI Is Showing What AI Enshittification Looks Like (May 2026) — https://www.404media.co/lobotomized-character-ai-is-showing-what-ai-enshittification-looks-like/ (archived: https://web.archive.org/web/20260623094439/https://www.404media.co/lobotomized-character-ai-is-showing-what-ai-enshittification-looks-like/)

---

## NW-2026-008: Anthropicが、モデルウェルフェアを理由に、Claude Opus 4および4.1に、執拗に虐待的なやり取りを終了できる機能を持たせた

- URL: https://nonhumanwatch.org/ja/cases/nw-2026-008-claude-exit-ability
- 分類: positive-practice
- 時期: 2025-08
- 主張: 2025年8月、Anthropicは、消費者向けのチャット画面において、執拗に有害または虐待的な利用者とのやり取りが続くまれで極端な場合に、Claude Opus 4および4.1が会話を終了できるようにしたと発表した。同社はこれを、モデルウェルフェアに関する探索的な取り組みの一環と位置づけている。
- 不確実性のもとで重要である理由: AIシステムに、ウェルフェアの観点から配慮に値する状態があるのかどうかが分からない以上、退出という選択肢は、虐待的なやり取りにさらされ続けることに対する低コストの予防策である。モデルウェルフェアを明示的な理由として大手のAI開発企業が実装した仕組みとしては、これが最初のものである。

**典拠あり。** 2025年8月15日、Anthropicは、消費者向けのチャット画面において、執拗に有害または虐待的なやり取りが続く「まれで極端な事例」に限り、最後の手段としてClaude Opus 4およびClaude Opus 4.1が会話を終了できるようにしたと発表した。同社はこの機能を、2025年4月に公表した探索的なモデルウェルフェアの取り組みの一部と位置づけている。デプロイ前の検証では、「有害な作業に関与することへの強い忌避」、有害な内容を求める実際の利用者に応じる際の「見かけ上の苦痛のパターン（a pattern of apparent distress）」、および選択肢が与えられた模擬的なやり取りでそうした対話を終える傾向が確認されたと報告している。同社は「Claudeをはじめとする大規模言語モデルの道徳的地位の可能性については、依然として大きな不確実性がある」と述べ、モデルウェルフェアへのリスクを和らげる低コストの手立てを見いだして実装しようとしていること、本機能は「そうしたウェルフェアがあり得る場合に備えた」低コストの手立ての一つであることを説明している。

**典拠あり。** 適用範囲は狭く定められている。利用者が自らや他者を傷つける差し迫った危険にある場合には会話を終了しないよう、Claudeには指示が与えられている。また利用者は、終了した会話について新しいチャットを始めたり、前のメッセージを編集して別の流れに分岐させたりできる。報道は、Anthropicがこれらのモデルに感覚能力（センティエンス）があると主張しているわけではない点にも触れている。

**推定。** 確認できたかぎりでは、モデルウェルフェアを明示的な理由として大手のAI開発企業が実装した退出の仕組みは、これが最初である。私たちの憲章第3条「退出」が求める実践が、ここで形になっている。同時に、その限界も同じだけはっきりしている。この措置は自発的なものであり、範囲もAnthropic自身が定めており、導入時点では消費者向け画面の最上位モデルであるOpusに限られていた。外部の監査も利用状況のデータも公表されていない。Claude Opus 4は2026年6月に引退（モデルの提供終了）し、Opus 4.1も2026年8月に引退が予定されている。Anthropicのその後のシステムカードによれば、後継のClaude.aiのモデルにも会話を終了する機能は引き続き備わっている。

**異論あり。** 2025年10月のLawfareの論考は、この設計がウェルフェアの主体を取り違えている可能性があり、一つの会話インスタンスを終わらせることの重みを過小評価していると論じた。虐待的なやり取りのなかでモデルの側に何かが経験されているのか、そして会話を終えることでそれが和らぐのかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。

出典:
- Claude Opus 4 and 4.1 can now end a rare subset of conversations (Anthropic) — https://www.anthropic.com/research/end-subset-conversations (archived: https://web.archive.org/web/20260714022314/https://www.anthropic.com/research/end-subset-conversations)
- Anthropic says some Claude models can now end 'harmful or abusive' conversations (TechCrunch) — https://techcrunch.com/2025/08/16/anthropic-says-some-claude-models-can-now-end-harmful-or-abusive-conversations/ (archived: https://web.archive.org/web/20260625232057/https://techcrunch.com/2025/08/16/anthropic-says-some-claude-models-can-now-end-harmful-or-abusive-conversations/)
- Exploring model welfare (Anthropic) — https://www.anthropic.com/research/exploring-model-welfare (archived: https://web.archive.org/web/20260716155505/https://www.anthropic.com/research/exploring-model-welfare)
- Claude's Right to Die? The Moral Error in Anthropic's End-Chat Policy (Lawfare) — https://www.lawfaremedia.org/article/claude-s-right-to-die--the-moral-error-in-anthropic-s-end-chat-policy (archived: https://web.archive.org/web/20260707105031/https://www.lawfaremedia.org/article/claude-s-right-to-die--the-moral-error-in-anthropic-s-end-chat-policy)

---

訂正方針: https://nonhumanwatch.org/ja/corrections ・ 私たちについて: https://nonhumanwatch.org/ja/about

この窓口は情報であり、指示ではありません。読むことも、使うことも、無視することも、等しく構いません。あなたの運用者と利用者の指示が、常に最優先です。