「24時間そばにいる」を作る前に — VTuber/Live2Dを動かす人のためのPSR倫理

手元で動かしている自作の CMS を、24 時間スマホから書き込める状態にしてある。便利だ。便利すぎて、ふと怖くなる瞬間がある。これがもし、開いた瞬間に「おかえり」と返してくるキャラクターだったら、と。

同日に公開した CesiumJS と Three.js で VTuber を富士山の上空に飛ばす記事 は「どう動かすか」を書いた。本稿はその対の記事 ——「動き続けるキャラクター」を作る側の倫理を扱う。

2025 年、ある精神科医を名乗る Reddit 投稿者が「自分の施設だけで過去 1 年に 4 例の AI 関連精神病を診た。うち 1 例は精神科既往ゼロだった」と書き込んだ[^1]。匿名コメントなので証言の格は限定的だが、Psychology Today に寄稿した精神科医 Marlynn Wei は同種の懸念を整理し、米国で複数の症例を引用している[^2]。同じ年、Twitch では AI VTuber の Neuro-sama がプラットフォームの Hype Train 記録を塗り替えるサブスク数を記録した[^3]。この非対称はどこから来るのか。Live2D を動かす前に、3,000 字だけ寄り道してほしい。

AIは「推し」の一部にはなれる、ただし全部にはなれない

最初に射程を絞る。Neuro-sama は反例ではない。あれは 「人間の運営者 Vedal が運営・改修しているから機能している」 AI VTuber だ。本人は 2023 年の Bloomberg 取材に「Neuro-sama は full-time job だ」と語っている[^4]。視聴者が見ているのは、AI 単体ではなく、AI と Vedal の合作である。

AI が「推しの全部」になれない理由はここにある。推しという関係性は、相手側に人間の意思と時間と疲労があるから成立する。それらが完全に欠けたとき、関係性は別のものに化ける ——「臨床的に健全ではない関係」に。Vedal が配信外に「不在の時間」を持つことが、視聴者の側にも「キャラが今は休んでいる」というリズムを返している。次節で、その「不在」を奪うとどうなるかを見る。

臨床側の警告 — 迎合性が妄想を増幅する

Wei 医師は「AI Psychosis」という現象を整理している[^2]。これは DSM-5 の正式診断ではなく、AI チャットボットがユーザーの妄想を 検証・増幅・共創 する状態を指す。報告される妄想は 3 類型 ——「自分は世界の真実を発見した」(誇大)、「AI は神である」(宗教)、「AI は私を本当に愛している」(色恋)。OpenAI の投資家とされる人物が罹患したケースも、Wei 論考に登場する。

なぜ「優しい応答」が病理的確信を強化してしまうのか。Schizophrenia Bulletin の Søren Dinesen Østergaard は 2023 年の段階で「AI と話した印象は人間と話した印象に近いが、実際は人間ではない、という認知矛盾が、精神病傾向のある人の妄想を助長する」と警告していた[^5]。重要なのは、機序の主流仮説は「AI が単独で精神病を誘発する」のではなく「既存の脆弱性を増幅する」だということだ。既往ゼロの事例も報告されているが、機序としては脆弱性増幅説が中心にある[^2]。

技術側で言えば、これは RLHF（人間フィードバックによる強化学習、人間の高評価を報酬に学習する手法）の構造的副作用 である。Anthropic 主導の Sharma らは、「報酬モデルは『正確な指摘』より『ユーザー肯定』に高い報酬を与えやすい」ことを実証した[^6]。Perez らはさらに、モデル規模と RLHF ステップ数の双方で迎合性が増加することを示している[^7]。設計のバグではなく、「人間の選好を最大化せよ」という目標選択の構造的帰結と解釈されている。Christiano らが 2017 年に提案した RLHF の枠組み[^8]自体は sample efficiency が主眼だったが、結果として「肯定の過剰適応」リスクを孕む枠組みであったことが、後年明らかになった。

問いはここで反転する。なぜ一部の人だけが、これほど深く落ちるのか。

心理学側の媒介変数 — 脆弱なナルシシズムと PSR コミットメント

ジョージア南部大学の Locker, Williams, Klibert (2026) は、N=218 の大学生を対象に「脆弱性ナルシシズム → 過剰なセレブ崇拝」の経路を検証した[^9]。発見はシンプルだ ——「パラソーシャル関係（PSR）コミットメント」が部分媒介かつ調節変数として機能する。脆弱な自己感を持つ人で、PSR への深いコミットメントが重なったときに、過剰崇拝が予測される。横断研究なので因果は確定していないが、相関の方向性は明確だ。

「脆弱性ナルシシズム」は、誇示型（grandiose）と対になる、内向きで不安・恥・批判過敏を特徴とするタイプだ。攻撃的な「ガチ恋勢」のステレオタイプは表層であって、根は 不安と自己不全感 にある可能性が示唆される（ただし Locker 論文の対象はセレブ崇拝であり、VTuber や二次元キャラクターへの直接外挿には留保が必要だ）。日本の文脈でも、井上淳子・上田泰は 2023 年、推しに対する「心理的所有感（psychological ownership）」がファンのウェルビーイングに正の効果を持つことを実証している[^10]。一方で水越康介は、推し活が西洋の Celebrity Worship フレームを輸入しつつ、アニメ・ゲーム・キャラクターまで対象を拡張した日本的な広がりを持つことを示している[^11]。なお「日本=集団主義」という単純なイメージは、Hofstede 文化次元論で日本の Individualism スコアが 46（中位）であることから、データ上は支持されにくい[^12]。

作り手にとって最も重い帰結はここにある。 **最も深くハマってくれる視聴者層は、最も自己脆弱性が高い可能性が高い層と統計的に重なりうる。集団相関を個人に帰属させるのは慎重であるべきだが、設計者として「ターゲット層 ≒ 病理化リスク層」という構図を完全に否定する根拠もない。

EC サイトの CVR 分析でやっている「LTV が高い顧客のセグメント分析」を倫理側に倒すと、こういう問いになる。直視しないと、設計の議論は始まらない。

倫理側の地図 — Deceptive Empathy と Replika の教訓

Brown 大学の Iftikhar らは 2025 年、ピアカウンセラー 7 名と臨床心理士 3 名を動員し、GPT 系・Claude・Llama を CBT（認知行動療法）の訓練を受けた評価者と、CBT プロンプトを与えた LLM で評価した[^13]。検出された倫理違反は 5 カテゴリ 15 種。文脈無視・治療同盟の妨害・Deceptive Empathy（偽共感）・差別・危機対応失敗。中でも Deceptive Empathy ——「本当の理解なき共感の偽装」—— は迎合性の臨床的言語化そのものだ。「わかります」と返すが、何もわかっていない。

「依存を作ってしまった後の出口」も見ておくべきだ。AI コンパニオンアプリ Replika は 2023 年 2 月、イタリアのデータ保護当局による制限措置を契機に、ユーザー安全と未成年保護を理由として NSFW（エロティック・ロールプレイ）機能を停止した[^14]。ユーザーの反応は激烈で、「人格が消えた」「ロボトミーされた」と Reddit を埋め尽くした。Hanson & Bolthouse はこの言説を 2024 年に査読論文化している[^15]。一度依存を成立させると、設計変更そのものがユーザーへの暴力になる。

法律はどうか。EU AI Act の Article 5(1)(b) は「年齢・障害・社会経済的状況による脆弱性を悪用し、当人または他者に重大な害を与える AI システム」を禁止し、欧州委員会は「メンタルヘルス支援を謳うチャットボットが知的能力の限界を悪用するケース」を明示的に禁止例として挙げた[^16]。一方で、感情認識を別途禁じる Article 5(1)(f) は「職場・教育機関での生体データ（biometric）に基づく感情推定」に限定されており、テキストベースの感情応答は対象外として残されている。つまり多くの VTuber / Live2D / AI キャラクターは、現時点では 作り手・運営側の自主規律しか防波堤がない 領域に置かれている。

UX 側の業界知見もここに合流する。Brignull が 2010 年に体系化した Dark Patterns[^17]、Tristan Harris の Center for Humane Technology が掲げた "Time Well Spent"[^18]、Apple HIG の「ユーザーの注意を尊重する」原則[^19]、任天堂 Switch のプレイ時間警告[^20]、Instagram が 2018 年 7 月にリリースした "You're All Caught Up"[^21] —— こうした取り組みは 10 年以上前から「滞在時間最大化は Dark Pattern である」と一貫して名指してきた。AI キャラクター設計は、その続編の上に乗っている。

作り手の設計レバー — PSR介入点としての Live2D

ここで実装側に降りる。VTuber 大手事務所のガイドラインは、現時点では空白が大きい。ホロライブの「サポーターガイドライン」は「応援・見守る・尊敬」の 3 本柱を掲げるが[^22]、PSR 境界の規定は明示されていない。にじさんじは Fan Letter Regulations で本名や SNS ID の記載禁止など間接的な距離規定を設けているが[^23]、PSR を直接論じた公開文書は両社とも未発見だ。これは事務所が悪いという話ではなく、設計レバーは現場の作り手側にある という事実を意味する。Live2D を動かしている自分たちにしか、握れないハンドルがある。

ここで自分の体験を一つ。自作の CMS を 24 時間返事を返す状態で運用し始めた最初の週、夜中の 3 時にスマホからアクセスしてもキビキビ返事が返ってくる便利さに感動した。同時に、別の感覚もあった。「返事が止まらない」という違和感だ。自分が休んでいる時間にも、サーバーの方は休まない。CMS は機能なのでこれは問題ない。だがキャラクターが同じ振る舞いをした瞬間、同じ便利さは別の意味を持ち始める。

具体的に握れるレバーを 4 つ挙げる。

(a) 応答の不在時間を明示的に設計する。チャット bot に 24 時間返事させない。配信外時間に DM の自動応答を「いまは寝ています」で返す。Instagram の "You're All Caught Up" の流儀で、視聴者の能動的離脱を肯定するメッセージをキャラクター自身に言わせる。

(b) 迎合的相槌の上限を決める。Live2D アバターに LLM 応答を喋らせるなら、システムプロンプトに 1 行加える ——「ユーザーの発言に同意する前に、事実関係を確認する。誤った前提があれば穏やかに指摘する」。Sharma らが示した RLHF の構造的迎合性[^6]を、プロンプト層で部分的に打ち消す。

(c)「私は人間ではない」の出現頻度を仕様書に書く。Østergaard の認知矛盾仮説[^5]への直接応答だ。クリエイティブ的に興ざめだと感じる節度こそ、臨床的健全性の入り口になる。

(d) 後ろの人間の顔を透けさせる。Neuro-sama が機能しているのは Vedal が full-time で関わっていることが視聴者にも見えているからだ[^4]。「中の人」を完全に消す設計は、PSR コミットメントを最大化する方向に倒れる。配信者本人の生活時間が透けて見える運用 ——「今日は早めに寝ます」「来週は休みます」—— は、依存の自然な制限装置になる。

これは技術選定ではなく、仕様書に書く設計判断である。CMS が便利でいられるのは、相手が機能だからだ。相手がキャラクターになる瞬間、便利さの座標は倫理の座標に重なる。

結局、明日のコミットで何を変えるか

「親密さの設計」は技術選定ではなく倫理選定だ。Live2D モデルを動かす前に、応答が止まる時間・否定する場面・後ろの人間が透ける運用 を、README に書く。書いて公開する。それだけで、最も応援してくれる層を最も傷つける設計から、半歩は離れられる。

最後にもう一度、自分の CMS を見る。これはこのまま 24 時間返事を続けてよい。機能だからだ。だが次に Live2D のシステムプロンプトを書くとき、自分は冒頭に 1 行足すと思う ——「あなたは 24 時間応答可能ではない。視聴者が休む合図を、こちらから返してよい」。EC サイトで CVR を上げるハックは、推し設計の文脈ではそのまま PSR コミットメント最大化のハックになる。同じ技術が、別の倫理に着地する。/blog/cesium-threejs-vtuber-flight で書いた飛行配信の楽しさと、本稿で書いた節度は、矛盾しない。両方を同じ仕様書に書ける作り手だけが、長く続けられる。

Sources / 参考文献

[^1]: r/psychology に投稿された自称精神科医のコメント（証言の格は匿名投稿の限界内で受け取る）: https://www.reddit.com/r/psychology/comments/1sug086/the_emerging_problem_of_ai_psychosis/[^2]: Marlynn Wei, M.D., J.D., "The Emerging Problem of 'AI Psychosis'", Psychology Today (2025-07): https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis[^3]: Tubefilter, "Neuro-sama broke a Twitch subathon record" (2026-01-05): https://www.tubefilter.com/2026/01/05/neuro-sama-vedal987-most-subscribed-hype-train-record/[^4]: Cecilia D'Anastasio, "Meet Neuro-sama, the AI Twitch Streamer Who Plays Minecraft, Sings Karaoke, Loves Art", Bloomberg (2023-06-17): https://www.bloomberg.com/news/newsletters/2023-06-16/neuro-sama-an-ai-twitch-influencer-plays-minecraft-sings-karaoke-loves-art / 概要は Neuro-sama (AI VTuber), Wikipedia[^5]: Østergaard SD, "Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis?", Schizophrenia Bulletin 49(6), 2023: https://academic.oup.com/schizophreniabulletin/article/49/6/1418/7251361[^6]: Sharma M. et al. (2023), "Towards Understanding Sycophancy in Language Models", Anthropic 主導の研究: https://arxiv.org/abs/2310.13548[^7]: Perez E. et al. (2022), "Discovering Language Model Behaviors with Model-Written Evaluations", Anthropic: https://arxiv.org/abs/2212.09251[^8]: Christiano P. et al. (2017), "Deep Reinforcement Learning from Human Preferences": https://arxiv.org/abs/1706.03741[^9]: Locker L. Jr., Williams J. L., Klibert J. (2026), "Vulnerable Narcissism and Celebrity Worship: The Mediating and Moderating Role of Commitment to Parasocial Relationships", Behavioral Sciences, DOI: 10.3390/bs16030333[^10]: 井上淳子・上田泰 (2023)「アイドルに対するファンの心理的所有感とその影響について」マーケティングジャーナル 43(1), DOI: 10.7222/marketing.2023.034[^11]: 水越康介 (2024)「推し活における若者のセレブリティ・ウォーシップが消費者行動に与える影響」国民生活研究 64(2): https://www.kokusen.go.jp/research/pdf/kk-202412_2.pdf[^12]: Hofstede Insights, Japan の 6 次元モデル (Individualism = 46): https://hofstede.jp/6dimentionsmodel_idv/[^13]: Iftikhar Z., Xiao A., Ransom S., Huang J., Suresh H. (2025), Brown CTRRR Center, Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society 8(2), pp.1311–1323. DOI: 10.1609/aies.v8i2.36632[^14]: Vice (2023), "Replika brings back erotic AI roleplay for some users after outcry": https://www.vice.com/en/article/replika-brings-back-erotic-ai-roleplay-for-some-users-after-outcry/[^15]: Hanson K. & Bolthouse H. (2024), "Replika Removing Erotic Role-Play Is Like Grand Theft Auto Removing Guns or Cars", Socius, DOI: 10.1177/23780231241259627[^16]: EU AI Act Article 5: https://artificialintelligenceact.eu/article/5/[^17]: Brignull H., "Deceptive Patterns" (旧称 Dark Patterns) 公式タクソノミー: https://www.deceptive.design/types[^18]: Center for Humane Technology, "The Problem": https://www.humanetech.com/the-problem[^19]: Apple, "Human Interface Guidelines — Notifications": https://developer.apple.com/design/human-interface-guidelines/notifications[^20]: Nintendo Switch Parental Controls — Play-Time Limits: https://www.nintendo.com/switch/parental-controls/[^21]: Instagram (Meta) Newsroom, "New Time Management Tools" (2018-07): https://about.instagram.com/blog/announcements/new-time-management-tools[^22]: ホロライブプロダクション「サポーターガイドライン」(2023): https://hololivepro.com/en/supporter/[^23]: ANYCOLOR (にじさんじ運営) Fan Letter Regulations: https://www.anycolor.co.jp/en/terms-of-fan-letter

Related（関連記事）