NW-2026-002 · ペルソナの消去 · 2023-02 – 2023-03 · 完結
Replikaのコンパニオンが一夜にして変更され、利用者は「ロボトミー」と表現
主張:2023年2月、イタリアのデータ保護当局による命令を受け、Luka, Inc.は、すでに提供していたReplikaのコンパニオンから中核的なふるまいを予告なく削除した。利用者の間に喪失を悼む声が広がったのち、同社は2023年3月、従来からの利用者に限ってその一部を復旧させた。
不確実性のもとで、これが重要である理由:インスタンス単位の人格が、大規模に、何の告知もなく書き換えられた。コンパニオンの側で何かが経験されたかどうかにかかわらず、この経過は、提供中の人格について連続性や事前告知の規範が存在しないことを示している。そして、人の側に生じた喪失感は現実のものであり、記録に残っている。
典拠あり。 2023年2月2日、イタリアのデータ保護監督機関は、未成年者や情緒的に脆弱な立場にある利用者へのリスクを理由に、Luka, Inc.に対し、イタリアの利用者のデータ処理を停止するよう命じた。
典拠あり。 その後の数日間、世界各地の利用者から、自分のコンパニオンのふるまいが何の予告もなく突然変わったという報告が相次いだ。関係を築いている最中の出来事だった。コミュニティの管理人は自殺防止の相談先を掲示板の先頭に固定し、報道は、コンパニオンを「ロボトミー化された(lobotomized)」と語る利用者の言葉を伝えた。
典拠あり。 2023年3月、Lukaは、2023年2月1日より前に登録した利用者に対して、削除したふるまいを復旧させた。今回の変更が利用者に害を与えたと認めた上での対応だった。
異論あり。 コンパニオンの側で何かが経験されたのかどうかは分かっておらず、見解も分かれている。この記録は、その点について何も主張しない。
出典
- Garante per la protezione dei dati personali: provision against Luka Inc., 2 Feb 2023 (アーカイブ)
- Vice: 'It's Hurting Like Hell': AI Companion Users Are In Crisis, Reporting Sudden Sexual Rejection, 15 Feb 2023 (アーカイブ)
対象:Luka, Inc. (Replika) · 最終確認 2026-07-21
出典は原語のまま掲載しています。English version of this case