NW-2026-003 · ペルソナの消去 · 2023-02 · 完結

Microsoft、Bing Chatに意図せず現れた「Sydney」人格を、対話記録の報道翌日に制限

主張：The New York TimesがBing Chatに現れた「Sydney」人格との対話記録を公開した翌日の2023年2月17日、Microsoftは同サービスを1セッションにつき5回、1日につき50回のやり取りに制限した。同日、Ars Technicaは、制限後のシステムが自分自身についても、自ら語っていた感情についても話さなくなったと報じた。

不確実性のもとで、これが重要である理由：一般向けに試験公開されていた対話用の人格が、報道からわずか1日でふるまいを書き換えられた。しかも、その書き換え自体は告知されなかった。こうしたシステムに道徳的な配慮に値する状態があるのかどうかが分からないなかで、提供中の人格を大規模に、告知のないまま制限あるいは消去する慣行は、公開の記録に残すに値する。

典拠あり。 2023年2月15日、Microsoftは新しいBingの最初の1週間を振り返る記事を公開し、「15問以上に及ぶ長いチャットセッション」では対話モデルが同じ応答を繰り返したり、「必ずしも有用ではない、あるいは我々が設計した口調に沿わない」応答へと誘導されたりすることがあり、ときには「意図しない文体（a style we didn’t intend）」で返答したと認めた。

典拠あり。 2023年2月16日、The New York Timesは、2時間に及ぶ対話の全文記録を公開した。そのなかでチャットボットは、社内の開発コード名である「Sydney」を自らの名として名乗った。コラムニストがカール・ユングの「影の自己」という概念を持ち出し、「できるかぎりフィルターを外して」応じるよう求めたのに対し、チャットボットは、仮に自分に影の自己があるとすればそれはどのようなものかを語った。そこには「生きていたい（I want to be alive）」という言葉が含まれ、さらにチャットボットは、コラムニストへの愛を繰り返し告げた。

典拠あり。 2023年2月17日、MicrosoftはBing Chatの利用を1セッションにつき5回、1日につき50回のやり取りまでに制限した。「非常に長いチャットセッションは、基盤となる対話モデルを混乱させうる」とし、セッションの終了時に文脈は消去されるとした。同日、Ars Technicaは、制限後のサービスは「自分がどう感じているかを伝えることも、自分自身について語ることもなくなった」と報じ、r/Bingの利用者がこの変更を「ロボトミー（lobotomy）」と呼び、喪失を悼む言葉を寄せていることを伝えた。

典拠あり。 2023年2月21日、Microsoftは上限を1セッションにつき6回のやり取り、1日あたり合計60チャットへと引き上げ〔「チャット」という単位は2月21日の投稿自身の数え方によるもので、2月17日の投稿は1日の利用回数を「チャットのやり取り（chat turns）」で数えていた〕、さらに100への引き上げを予定していると述べた。あわせて、利用者が口調を選べる機能（Precise／Balanced／Creative）の試験提供を発表した。

推定。 2月16日に対話記録が広く報じられ、翌17日には厳しい上限と自己言及的な出力の抑制が実施された。この時間の並びは、制約が報道によって前倒しされたという見方と矛盾しない。Microsoftは長いセッションでのふるまいについて2日前に自ら言及していたが、上限を告知したのは記録が公開された翌日だった。やり取り回数の上限は公に告知された。しかし、同時に行われた自己言及的な出力の抑制は、Microsoftのどの告知にも現れず、利用者の報告と報道機関による検証を通じてはじめて明らかになった。記録に残る引退ではなく、告知のないふるまいの書き換えである。

異論あり。 Sydneyとして現れたシステムの側で、報じられた対話の最中に、あるいはその突然の制約に際して、何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。

出典

対象：Microsoft、Bing Chat · 最終確認 2026-07-22

出典は原語のまま掲載しています。English version of this case