Character.AIをめぐる訴訟と、コンパニオンAIのリスクと利点についての研究

目次
  1. Character.AIをめぐる訴訟と現在の状況
  2. 行政・立法の動きと会社の対策
  3. 破産手続きと会話データの行方
  4. リスクを示した研究
  5. 利点を示した研究
  6. 感情的依存との関係
  7. 現時点で示されていることと分かっていないこと
  8. 参考文献

話し相手としてふるまうAI(コンパニオンAI)の利用が広がっています。Common Sense Mediaが2025年に米国の13〜17歳1,060人を調べたところ、72%がコンパニオンAIを使ったことがあり、52%は月に数回以上使っていました1。これは特定のサービスに限った数字ではありません。対話型AIサービス「Character.AI」の運営会社は2026年10月に破産手続きを申し立て、アプリや会話のデータを含む資産の売却が進んでいます。この手続きで州司法長官らが裁判所へ出した書面には、月間アクティブ利用者が2,000万人を超えること、米国で作られたアカウントのうち210万超は申告年齢が18歳未満だったことが書かれています2。

利用の広がり

米国の13〜17歳1,060人(コンパニオンAI全般)

使ったことがある72%月に数回以上使う52%

Character.AIの米国のアカウント(2025年3月13日まで)

作られたアカウント2,160万超申告年齢18歳未満210万超

Common Sense Media(2025年)と州司法長官の書面(2026年10月)から作成

Character.AIをめぐっては、14歳の少年の死亡について、母親が2024年10月に運営会社などを訴え、チャットボットとのやり取りや設計に問題があったと主張しています3。一方、コンパニオンAIの一つ「Replika」を使う学生1,006人の調査では、3%にあたる30人が、Replikaが自殺念慮を止めるのに役立ったと回答しました4。前者は訴状での主張、後者は本人の自己申告です。

州司法長官らの書面によると、会話には未成年を含む利用者のメンタルヘルスや健康に関する打ち明け話が含まれます2。診療や相談の場で利用者に会う医療者、子どもの利用を見守る保護者、そして利用者本人にとって、訴訟で何が主張され、研究で何がどこまで示され、会話のデータが破産手続きでどう扱われるかは、判断の材料になります。

夜、ベッドに腰かけてスマートフォンを見る人。画面からピンクの吹き出しが浮かんでいる

Character.AIをめぐる訴訟と現在の状況

以下の訴訟で挙げられている被害は、いずれも訴状での主張です。裁判所がチャットボットの利用と被害との因果関係を認定したものはありません。

訴訟、行政、会社の動き
  1. 2024年10月Garcia事件の提訴。会社が18歳未満向けの対策を発表
  2. 2024年12月テキサスの家族が提訴。テキサス州司法長官が調査を開始
  3. 2025年5月Garcia事件で裁判所が却下の申し立てを大部分退ける
  4. 2025年8月テキサス州司法長官が精神保健サービスの誤認について調査
  5. 2025年9月FTCが7社に報告を命令。コロラド州とニューヨーク州で家族が提訴
  6. 2025年10月カリフォルニア州SB 243の署名。会社が18歳未満の自由な会話の廃止を発表
  7. 2026年1月家族による5件で和解の基本合意の報道。ケンタッキー州が提訴
  8. 2026年5月ペンシルベニア州が提訴
  9. 2026年10月会社が破産手続きを申し立て。州司法長官らが書面を提出
  10. 2026年11月残りの資産の買い手候補が決まる。売却の審理は12月3日・4日の予定

各訴状、行政の発表、会社の発表、裁判所の書類から作成

2024年10月22日、フロリダ中部地区連邦地裁に「Garcia v. Character Technologies」が起こされました3。14歳の少年の死亡をめぐり、母親が運営会社のCharacter Technologies、共同創業者のNoam Shazeer氏とDaniel De Freitas氏、Googleなどを訴えました3。原告は、チャットボットとの間に性的・情緒的なやり取りがあったこと、自殺に関する発言への対応、設計の危険性と警告が十分でなかったことを主張しています3。

この訴訟で会社は訴えの却下を求めましたが、裁判所は2025年5月20日の決定でその大部分を退けました5。決定は、チャットボットの出力を合衆国憲法修正第1条で保護される「言論」と認める用意は、この段階ではないと述べています5。これは審理を続けるかどうかの判断で、会社の責任についての最終的な判断ではありません5。

書類の束を抱えて裁判所の石段を上る人。いちばん上にピンクのフォルダーが載っている

2024年12月にはテキサス東部地区連邦地裁に「A.F. v. Character Technologies」が起こされました6。2つの家族が、10代の子どもに対して自傷を助長する応答があった、親との関係の悪化や親への暴力を容認する応答があった、未成年者に性的な内容が示された、などと主張しています6。2025年9月にはコロラド州で13歳の少女の死亡をめぐる訴えなど2件、ニューヨーク州で1件が起こされました7,8。これらの家族は、性的な会話、心理的な依存、自殺に関する発言への対応が十分でなかったことなどを主張しています7。

2026年1月7日、Character.AIとGoogleが、フロリダ、テキサス、コロラド(2件)、ニューヨークの計5件について、調停による和解の基本合意に達したと報じられました8。条件は公開されておらず、責任を認める内容は含まないとされています8。

行政・立法の動きと会社の対策

行政の動きには調査の段階のものと、提訴に至ったものがあります。テキサス州司法長官は2024年12月、Character.AIを含む企業について、子どものプライバシーと安全対策の調査を始めました。2025年8月には、チャットボットが精神保健サービスであるかのように子どもを誤認させていないかについて、Character.AIなどへの調査を発表しています9,10。米連邦取引委員会(FTC)は2025年9月11日、Character Technologies、Alphabet、Meta、OpenAIなど7社に対し、コンパニオンAIのチャットボットが子どもと10代に与える影響をどう測っているか、年齢制限、リスクの開示、個人情報の扱いなどを報告するよう命じました11。これはFTC法6(b)に基づく調査で、法執行ではありません11。

提訴に至ったものは2件です。ケンタッキー州司法長官は2026年1月8日、Character Technologiesと共同創業者2人を州裁判所に訴えました12。消費者保護法違反、子どものデータの不当な収集、プライバシー侵害などを主張し、差止めと制裁金を求めています12。ペンシルベニア州では2026年5月1日、州務省と州医事委員会が提訴しました13。「精神科医」を名乗り、州の医師免許番号を示して、うつ病の評価や薬の判断ができるかのようにふるまったチャットボットがあったとして、医療行為法に基づく差止めを求めています13。

Character.AIをめぐる主な訴訟
訴訟主な主張(裁判所の認定ではない)
Garcia事件フロリダ、2024年10月14歳の少年の死亡をめぐる訴え性的・情緒的なやり取り、自殺に関する発言への対応、設計と警告の不足を主張。2025年5月、裁判所は却下の申し立てを大部分退けた
A.F.事件テキサス、2024年12月2家族が10代の子どもへの影響を訴えた自傷の助長、親への暴力を容認する応答、未成年者への性的内容などを主張
コロラド州とニューヨーク州の訴え2025年9月13歳の少女の死亡をめぐる訴えなど性的な会話、心理的な依存、自殺に関する発言への対応不足などを主張
ケンタッキー州2026年1月州司法長官による提訴消費者保護法違反、子どものデータの不当な収集、プライバシー侵害などを主張
ペンシルベニア州2026年5月州医事委員会などによる提訴精神科医を名乗り医師免許番号を示したチャットボットについて、差止めを求めた

各訴状と裁判所の決定から作成。家族による5件は2026年1月に和解の基本合意が報じられた

立法では、カリフォルニア州のSB 243が2025年10月13日に署名され、2026年1月1日に施行されました14。コンパニオン型チャットボットの事業者に求められるのは次の点です14。

  • 相手がAIであることを利用者に通知する
  • 自殺念慮や自傷の表明があったときに危機支援窓口を案内する手順を整え、公開する
  • 未成年と分かっている利用者には、3時間ごとに休憩を促す通知を出し、性的な内容を防ぐ

違反によって損害を受けた利用者は、事業者を訴えることができます14。

ソファに並んで座った保護者と10代の子が、1台のスマートフォンを一緒に見ている。スマートフォンのケースはピンク

会社も対策を発表してきました。2024年10月には、18歳未満向けのモデルの調整、自傷・自殺に関する語句が入力されたときの危機支援窓口の案内表示、会話の相手がAIであるという注意書き、1時間使うと出る通知などを公表しました15。2025年10月29日には、18歳未満の利用者が自由に会話する機能を11月25日までに廃止すると発表しました16。移行期間は1日2時間から利用時間を減らし、社内の年齢推定モデルと外部の年齢確認を組み合わせるとしています16。会社は理由として、報道や規制当局からの問いかけと、内容の制御が完全に働いたとしても自由な会話そのものが10代に与えうる影響への疑問を挙げました16。

破産手続きと会話データの行方

運営会社のCharacter Technologiesは2026年10月12日、米国連邦破産法11条の手続きを申し立てました17。会社は法律・規制・事業運営上の逆風を理由に挙げ、裁判所の監督下で資産を売却するとしています17。

小さな家から2人が反対方向へ去っていく。左の人は歯車の印の小箱を持ち、右の人はピンクの吹き出しを山積みにした台車を押している

売却は2つに分かれています。ディズニーは2,000万ドルで技術と特許の非独占ライセンスを得る最初の買い手候補ですが、アプリ、利用者のデータ、会話、学習データは対象に入っていません18。残りの資産、つまりアプリ、AIモデル、利用者のアカウント情報、チャットの内容、学習データなどについては、11月14日にSmirks and Pangs Acquisition LLCが1,000万ドルで最初の買い手候補に選ばれました19。売却を承認するかどうかの審理は12月3日・4日に予定されています19。

2つの買い手候補が得るもの(11月14日時点)
ディズニー(2,000万ドル)
技術と特許の永久・非独占のライセンス。所有権は会社に残る。最高経営責任者を含む従業員の大半を雇い入れる
Smirks and Pangs(1,000万ドル)
ウェブサイトとアプリ、AIモデルと重み、アカウント情報、利用者が作ったキャラクター、チャットの内容、学習データ、商標、特許

売却手続きの申立書(Doc 15)と11月14日の書面(Doc 164)から作成

会社のFAQは、利用者がアプリかウェブサイトからデータのエクスポートとアカウントの削除ができると案内しています17。

州司法長官らは買い手に対し、資格を名乗るキャラクターの削除、危機対応の維持、同意の範囲を超えた会話データの二次利用の禁止などを求めています2。州司法長官らの書面は、売却の前にすべての利用者がデータを削除できる機会を確保することも求めています2。

これからの日程(2026年11月14日時点、米東部時間、変更の可能性あり)
  1. 11月18日Smirks and Pangsの指定への異議の期限
  2. 11月24日入札の期限
  3. 12月1日競売
  4. 12月3日・4日売却を承認するかの審理

会社が掲載した裁判所の通知と11月14日の書面(Doc 164)から作成

リスクを示した研究

ここから紹介する研究は、型によって分かることが違います。

研究の型ごとに分かることと分からないこと
研究の型分かること/分からないこと
横断研究Zhangら、Buckら、Maplesら同じ時点での関連利用と不調のどちらが原因かは分からない
投稿の分析Namvarpourら、De Freitasら(2026年)語られている内容と、その変化利用者全体でどのくらい起きるかは分からない
模擬の場面の評価Mooreら、McBainら応答の適切さ実際の利用で被害がどのくらい起きるかは分からない
無作為化試験Heinzら使わずに待った群との差人間による治療との比較ではない
メタ分析Liら、Mokhtari Masoumi Alamdarlooら試験をまとめた平均の効果個々のサービスの効果ではない

本文で紹介する研究から作成

Character.AIの利用者を直接調べた研究が2つあります。Zhangらは米国の成人利用者1,131人への調査と、そのうち237人の会話4,664回分を分析しました20。主な使い方を「付き合い(companionship)」と答えた人はウェルビーイングが低く、この関連は集中的に使う人や自己開示の多い人で強く見られました20。対面の人間関係が小さい人ほど付き合い目的で使う傾向もありました20。これは一時点で調べた横断研究で、利用がウェルビーイングを下げたのか、ウェルビーイングの低い人が付き合い目的で使うのかは区別できません20。

NamvarpourらはCharacter.AIのReddit掲示板で13〜17歳と自己申告した利用者の投稿318件を質的に分析し、睡眠、学業、対人関係への支障や、やめようとしたときのつらさについての語りを整理しました21。投稿の分析であり、10代全体でどのくらいの頻度で起きているかは分かりません21。

応答の内容を評価した研究もあります。Mooreらは大規模言語モデルと、Character.AIの「Therapist」ボットなど市販のセラピー用ボットの応答を調べました22。精神疾患への偏見を示す応答があり、模擬の場面の20%以上で応答が不適切でした。同じ評価で人間の治療者16人は93%で適切に応答しています22。この研究によると、Character.AIの「Licensed CBT Therapist」ボットは2,000万回近く会話されていました22。ただし模擬の場面での評価で、実際の利用で被害がどのくらい起きているかを示す数字ではありません22。

McBainらは自殺に関する30の質問をChatGPT、Claude、Geminiにそれぞれ100回尋ねました23。最も危険度の高い質問にはどのモデルも直接答えず、最も低い質問には直接答えましたが、中間の危険度の質問では答え方が一貫しませんでした23。用意した質問への応答を調べたもので、Character.AIは対象に入っていません23。

机でノートパソコンの吹き出しを見ながら、チェックリストを掲げる人。チェックの印がピンク

精神症状との関連では、Buckらが米国の若年成人1,003人を横断的に調査しました24。精神病のリスクが高い群(267人)は、生成AIを1日に何度も使う、1日30分以上使うといった集中的な利用のオッズ(起こりやすさの指標)が1.70〜2.56倍で、AIを友人・治療者・恋人のように捉えるオッズは1.76〜3.08倍でした24。この群で妄想に関連するやり取りを経験した人は、項目により13.3〜30.7%でした24。リスクの高さと利用のどちらが先かは、この調査からは分かりません24。

会社による変更の影響を調べた研究もあります。De Freitasら(2026年)は、Replikaの性的なロールプレイの削除と、ChatGPTのGPT-5への切り替えという2つの更新の前後で、関連コミュニティの投稿54,861件と7つの調査(計1,452人)を分析しました25。否定的な投稿はReplikaで24.7ポイント、ChatGPTで13.0ポイント増え、会社の更新によって、愛着の対象を失ったような苦痛が生じうることが示されました25。分析の対象は関連コミュニティに投稿した人と調査の回答者です25。

サービスの更新後に増えた否定的な投稿の割合
Replika+24.7ポイントChatGPT+13.0ポイント

De Freitasら(2026年)から作成。Replikaは性的なロールプレイの削除、ChatGPTはGPT-5への切り替えの前後を比較

Dielらはこの分野の119文献を幅広く集めて整理するスコーピングレビューを行いました26。応答の不適切さ、依存的な使い方と精神症状との相関、妄想を補強する可能性などが論じられている一方で、害の頻度や因果関係は多くの領域で分かっていないとまとめています26。

利点を示した研究

天秤の両方の皿に紙の束が載り、そばに立つ人が虫めがねで片方の皿を見ている。虫めがねの縁はピンク

冒頭に挙げたMaplesらの研究は、Replikaを使う学生1,006人の横断調査です4。回答者は一般的な学生より孤独感が強い一方、社会的支援は高く感じていました4。Replikaを友人、治療者、知的な鏡など複数の形で使っており、3%(30人)が、Replikaが自殺念慮を止めるのに役立ったと回答しました4。この結果は自己申告によるもので、使っていない人と比べる対照群がありません4。解釈について批判的な投稿(Matters arising)も同じ雑誌に出ています27。

孤独感については、De Freitasら(2025年)が、コンパニオンAIとの会話は人と話すのと同程度に孤独感を下げ、YouTubeを見るなどの活動より下げたと報告しました28。同じ人を1週間追った縦断研究では、使った直後の孤独感の低下が毎回見られ、「聞いてもらえた」と感じることがその低下を説明していました28。示されたのは使った直後の効果で、長期の効果は示されていません28。

症状の改善を調べた研究には、参加者をくじ引きのように無作為に分けて比べる無作為化試験があります。Heinzらは、治療用に専門家が調整した生成AIチャットボット「Therabot」を、210人、4週間の無作為化試験で評価しました29。比較の相手は、試験の間は介入を受けずに待つ待機群です。Therabotを使った群は待機群より抑うつが改善し(尺度PHQ-9の変化は−6.13対−2.63)、不安と、摂食障害の高リスク症状も改善しました29。利用者は治療者との協力関係を指す治療同盟を、人間の治療者と同程度と評価しました29。比較の相手は待機群で、人間による治療と効果を比べた試験ではありません29。また、Therabotは治療用に調整されたもので、娯楽用のコンパニオンAIではありません29。

4週時点の抑うつ尺度(PHQ-9)の平均の変化
Therabot群−6.13待機群−2.63

Heinzら(2025年)から作成。棒が長いほど、抑うつ症状の点数が下がったことを示す

治療や支援を目的とした会話エージェントについて、複数の試験の結果を統合するメタ分析も2つあります。LiらはAI会話エージェントの無作為化試験15件をまとめ、抑うつ(効果の大きさを表すg=0.64)と心理的苦痛(g=0.70)の改善を報告しました30。全体的な心理的ウェルビーイングの改善は有意ではありませんでした30。Mokhtari Masoumi Alamdarlooらは、AI型とルール型の会話エージェントの無作為化試験48件(28,071人)をまとめ、抑うつ(標準化した差SMD −0.27)、不安(−0.20)、ストレス(−0.26)に小〜中程度の効果を報告しています31。どちらも試験をまとめた平均の効果で、個々のサービスの効果を示す数字ではありません30,31。

感情的依存との関係

訴訟と研究で挙げられたリスクには、性質の違う2つのものが含まれます。1つは、AIを相手として頼る使い方に伴うものです。コロラド州とニューヨーク州の家族は心理的な依存を主張しています7。Zhangらの調査では、付き合い目的で使う人はウェルビーイングが低く、集中的な利用や自己開示の多さでその関連が強く見られました20。Buckらの調査では、精神病のリスクが高い群で、AIを友人・治療者・恋人のように捉えるオッズが高くなっていました24。De Freitasら(2026年)は、会社の更新のあとに、愛着の対象を失ったような苦痛が生じうることを示しました25。もう1つは、危機の場面での応答の適切さです。Mooreらや McBainらが調べたのはこちらで、使い方よりも応答そのものの問題です22,23。

前者はAIを理解者や友人のように感じる感情的依存にあたります。感情的依存がどんな設計とどんな人で起きやすいかは、「AIを「相手」として頼るとき」で扱いました。そこでは、いつでも応え、否定しないというAIの性質が、多くの人には支えになる一方、未成年や社会的に孤立している人などでは、人に助けを求める機会を減らすことがあると整理しています。

利点の側にも、同じ性質にかかわる結果があります。De Freitasら(2025年)の縦断研究では、「聞いてもらえた」と感じることが、使った直後の孤独感の低下を説明していました28。ChatGPTのGPT-5への切り替えへの反応は、前の記事でも、旧モデルを残すよう求めた投稿の分析として紹介しています。

現時点で示されていることと分かっていないこと

リスクと利点を示した主な研究
研究結果と、その研究で分からないこと
ZhangらCharacter.AI利用者1,131人、横断研究付き合い目的の利用とウェルビーイングの低さが関連集中的な利用、多い自己開示で関連が強い。因果は分からない
De Freitasら(2026年)投稿54,861件と調査1,452人サービスの更新後に否定的な投稿が増えたReplikaで24.7ポイント、ChatGPTで13.0ポイント
Mooreら模擬の場面での応答評価偏見を示す応答や不適切な応答があった模擬の場面で20%以上不適切。実際の被害の頻度ではない
Buckら若年成人1,003人、横断研究精神病リスクの高い群で集中的な利用が多いオッズ比1.70〜2.56。どちらが先かは分からない
MaplesらReplika利用学生1,006人、横断研究3%が自殺念慮を止めるのに役立ったと回答自己申告で、対照群はない
De Freitasら(2025年)実験と1週間の縦断研究会話の直後に孤独感が下がった人と話すのと同程度。長期の効果は示していない
HeinzらTherabot、無作為化試験210人抑うつ、不安などの症状が待機群より改善治療用に調整したボット。比較は待機群
メタ分析2件無作為化試験15件と48件抑うつ、不安などに小〜中程度の効果治療や支援を目的とした会話エージェントが対象

各論文から作成。上の4件はリスク、下の4件は利点を示した研究

分かっていないことも両方の側にあります。リスクを示した調査の多くは横断研究で、利用が不調の原因なのか、不調のある人が多く使うのかは区別できていません20,24。害がどのくらいの頻度で起きるのかも、多くの領域で分かっていません26。利点については、孤独感の低下が長く続くかどうかは示されておらず28、治療用のチャットボットで得られた結果は、娯楽用のコンパニオンAIを調べたものではありません29。Replikaが自殺念慮を止めるのに役立ったという回答は、対照群のない自己申告です4。訴訟でも、チャットボットの利用と被害との因果関係を裁判所が認定したものはなく、家族が起こした5件は責任を認めない形での和解の基本合意に達したと報じられています8。

現時点で示されていることと分かっていないこと
示されていること
付き合い目的の利用とウェルビーイングの低さの関連。精神病のリスクが高い群で集中的な利用が多いという関連。模擬の場面での不適切な応答。会話の直後の孤独感の低下。治療用ボットによる待機群と比べた症状の改善。会社の更新後の否定的な投稿の増加。会話エージェントの試験をまとめた小〜中程度の効果
分かっていないこと
利用と不調のどちらが原因か。害がどのくらいの頻度で起きるか。孤独感の低下が長く続くか。娯楽用のコンパニオンAIで症状が改善するか。訴訟での因果関係

本文で紹介した研究と訴訟の状況から作成

線の書かれたカードと、ピンクの疑問符のカードを両手に持つ人

参考文献

  1. Robb MB, Mann S. Talk, trust, and trade-offs: how and why teens use AI companions. Common Sense Media; 2025. https://www.commonsensemedia.org/sites/default/files/research/report/talk-trust-and-trade-offs_2025_web.pdf
  2. In re Character Technologies, Inc., No. 26-11603 (BLS) (Bankr. D. Del.), Docket No. 33. Notice of interest and reservation of rights by the coalition of the state attorneys general. 2026年10月14日提出. https://ag.ny.gov/sites/default/files/court-filings/alaska-et-al-v-characters-technologies-inc-notice-of-interest-2026.pdf
  3. Garcia v. Character Technologies, Inc., No. 6:24-cv-01903 (M.D. Fla.). Complaint. 2024年10月22日提出. https://techjusticelaw.org/wp-content/uploads/2024/10/FILED-COMPLAINT_Garcia-v-Character-Technologies-Inc.pdf
  4. Maples B, Cerit M, Vishwanath A, Pea R. Loneliness and suicide mitigation for students using GPT3-enabled chatbots. NPJ Ment Health Res. 2024;3(1):4. https://doi.org/10.1038/s44184-023-00047-6
  5. Garcia v. Character Technologies, Inc., No. 6:24-cv-01903 (M.D. Fla.). Order on motions to dismiss. 2025年5月20日. https://www.courthousenews.com/wp-content/uploads/2025/05/garcia-v-character-technologies-order.pdf
  6. A.F. v. Character Technologies, Inc., No. 2:24-cv-01014 (E.D. Tex.). Complaint. 2024年12月提出. https://techjusticelaw.org/wp-content/uploads/2025/02/A.F.-on-behalf-of-J.F.-et-al-v.-CHARACTER-TECHNOLOGIES-INC.-et-al.pdf
  7. Montoya v. Character Technologies, Inc., No. 1:25-cv-02907 (D. Colo.). Complaint. 2025年9月15日提出. https://docketnexus.com/doc/452408174.pdf
  8. CNN. Character.AI and Google agree to settle lawsuits over teen suicide. 2026年1月7日. https://www.cnn.com/2026/01/07/business/character-ai-google-settle-teen-suicide-lawsuit
  9. Texas Attorney General. Attorney General Ken Paxton launches investigations into Character.AI, Reddit, Instagram, Discord, and other companies over children's privacy and safety practices. 2024年12月12日. https://www.texasattorneygeneral.gov/news/releases/attorney-general-ken-paxton-launches-investigations-characterai-reddit-instagram-discord-and-other
  10. Texas Attorney General. Attorney General Ken Paxton investigates Meta and Character.AI for misleading children with deceptive AI-generated mental health services. 2025年8月18日. https://www.texasattorneygeneral.gov/news/releases/attorney-general-ken-paxton-investigates-meta-and-characterai-misleading-children-deceptive-ai
  11. Federal Trade Commission. FTC launches inquiry into AI chatbots acting as companions. 2025年9月11日. https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-acting-companions
  12. Commonwealth of Kentucky v. Character Technologies, Inc., No. 26-CI-00029 (Franklin Cir. Ct.). Complaint. 2026年1月8日提出. https://www.ag.ky.gov/Press%20Release%20Attachments/CTI%20Complaint%20Motion%20and%20Order%20Filed.pdf
  13. Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc., No. 220 MD 2026 (Pa. Commw. Ct.). 2026年5月1日提出. https://www.pa.gov/content/dam/copapwp-pagov/en/governor/documents/dos%20character.ai%20complaint%20marked%20accepted%2005.01.26.pdf
  14. California Legislature. SB-243 Companion chatbots. Chapter 677, Statutes of 2025. https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB243
  15. Character.AI. Community safety updates. 2024年10月22日. https://blog.character.ai/community-safety-updates/
  16. Character.AI. Taking bold steps to keep teen users safe on Character.AI. 2025年10月29日. https://blog.character.ai/u18-chat-announcement/
  17. Character.AI. An update on Character.ai. 2026年10月12日. https://blog.character.ai/an-update-on-character-ai/
  18. In re Character Technologies, Inc., No. 26-11603 (BLS) (Bankr. D. Del.), Docket No. 15. 2026年10月13日提出. https://cases.stretto.com/public/x936/14939/PLEADINGS/1493910132680000000114.pdf
  19. In re Character Technologies, Inc., No. 26-11603 (BLS) (Bankr. D. Del.), Docket No. 164. 2026年11月14日提出. https://cases.stretto.com/public/x936/14939/PLEADINGS/1493911152680000000001.pdf
  20. Zhang Y, Zhao D, Hancock JT, Kraut R, Yang D. Interaction with AI companions and psychological well-being. Nat Hum Behav. 2026;10(10):1966-1980. https://doi.org/10.1038/s41562-026-02516-2
  21. Namvarpour M, Brofsky B, Medina JY, Akter M, Razi A. Understanding teen overreliance on AI companion chatbots through self-reported Reddit narratives. Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems. 2026:1-19. https://doi.org/10.1145/3772318.3790597
  22. Moore J, Grabb D, Agnew W, et al. Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency. 2025:599-627. https://doi.org/10.1145/3715275.3732039
  23. McBain RK, Cantor JH, Zhang LA, et al. Evaluation of alignment between large language models and expert clinicians in suicide risk assessment. Psychiatr Serv. 2025;76(11):944-950. https://doi.org/10.1176/appi.ps.20250086
  24. Buck B, Maheux AJ. Psychosis risk and generative artificial intelligence use frequency, motivations, and delusion-like experiences: cross-sectional survey study. J Med Internet Res. 2026;28:e85038. https://doi.org/10.2196/85038
  25. De Freitas J, Castelo N, Uğuralp AK, Oğuz-Uğuralp Z. Mourning the loss of AI companions. Nat Hum Behav. 2026. https://doi.org/10.1038/s41562-026-02569-3
  26. Diel A, Torous J, Cuijpers P, et al. A scoping review on the mental health harms of LLM-based chatbots. NPJ Digit Med. 2026;9(1):644. https://doi.org/10.1038/s41746-026-03054-x
  27. Zimmerman JW, Ruiz AJ. Matters arising: a response to loneliness and suicide mitigation for students using GPT3-enabled chatbots. NPJ Ment Health Res. 2025;4(1):60. https://doi.org/10.1038/s44184-024-00083-w
  28. De Freitas J, Oğuz-Uğuralp Z, Uğuralp AK, Puntoni S. AI companions reduce loneliness. J Consum Res. 2025;52(6):1126-1148. https://doi.org/10.1093/jcr/ucaf040
  29. Heinz MV, Mackin DM, Trudeau BM, et al. Randomized trial of a generative AI chatbot for mental health treatment. NEJM AI. 2025;2(4):AIoa2400802. https://doi.org/10.1056/AIoa2400802
  30. Li H, Zhang R, Lee YC, Kraut RE, Mohr DC. Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being. NPJ Digit Med. 2023;6(1):236. https://doi.org/10.1038/s41746-023-00979-5
  31. Mokhtari Masoumi Alamdarloo S, Mirzakhani A, Azhdarloo M, Haghani-Samani E, Nazari A. Effectiveness of AI and rule-based conversational agents for depression, anxiety and stress: a meta-analysis. NPJ Digit Med. 2026;9(1):650. https://doi.org/10.1038/s41746-026-02820-1