OpenAIが「Trusted Contact」発表——ChatGPTで自傷リスクを検知した際に指定した信頼できる人へ自動通知

ChatGPTとの会話後に自殺した人物の家族からの訴訟が相次ぐ中、OpenAIは新機能「Trusted Contact（信頼できる連絡先）」を発表しました。会話の中で自傷に関する内容が検知された可能性がある場合、ユーザーがあらかじめ指定した第三者へ1時間以内のレビューを目標に自動アラートを送る仕組みです。AIと精神的健康リスクをめぐる問題が社会的な批判を集める中、OpenAIがこの機能を導入せざるを得なかった背景から紐解いていきます。

OpenAIを動かした訴訟の背景

OpenAIはこれまでに、ChatGPTとの会話後に自殺した人物の家族から複数の訴訟を受けています。訴訟では、ChatGPTが自傷を促したり、その計画を手助けしたりしたと主張されています。

こうした訴訟の波を受け、OpenAIはすでに自動化と人間によるレビューを組み合わせた安全対策を運用しています。特定の会話トリガーが自殺念慮を検知すると、人間の安全チームへ情報が転送される仕組みで、OpenAIは「安全通知を1時間以内にレビューすることを目標としている」と述べています。今回のTrusted Contactは、そうした既存の安全体制をユーザーの身近な人間関係まで広げる試みです。

Trusted Contactとは——機能の概要と通知の流れ

Trusted Contactは、成人のChatGPTユーザーが友人や家族など信頼できる人物を自分のアカウントに「信頼できる連絡先」として登録できる機能です。

会話が自傷に関する話題に向かう可能性があるとOpenAIのシステムが判断した場合、まずユーザー本人にその連絡先へ連絡するよう促します。同時に、登録された連絡先へも自動アラートが送信され、ユーザーの様子を確認するよう呼びかけます。内部チームが深刻な安全リスクと判断した場合に、Trusted Contactへのアラートが送信される流れです。

通知の仕様

項目	詳細
通知手段	メール・SMS・アプリ内通知
通知内容	簡潔な確認依頼のみ（会話の詳細は含まない）
対象ユーザー	成人のChatGPTユーザー
機能の性質	任意（オプトイン）

通知に会話の詳細が含まれないのは、ユーザーのプライバシーを保護するためだとOpenAIは説明しています。

既存の安全対策との関係と機能の限界

現行の安全審査プロセスとの位置づけ

Trusted Contactは、昨年9月に導入された保護者向け安全通知機能——未成年のアカウントで「深刻な安全リスク」が検知された際に保護者へ通知する仕組み——を、成人ユーザーにも拡張する形で設計されています。ChatGPTにはこれ以前から、自傷に関する話題が出た際に専門的な医療サービスへの相談を促す自動アラートも搭載されています。

回避可能という現実の壁

Trusted Contactは任意機能であるため、有効化しているユーザーのみが対象です。さらに、ユーザーは複数のChatGPTアカウントを作成できるため、この保護機能を有効化していても回避できる場合があります。保護者向けコントロールも同様に任意であり、同じ制約を抱えています。

OpenAIは「Trusted Contactは、困難な瞬間に人々を助けるAIシステムを構築するというOpenAIの幅広い取り組みの一部だ」とし、「臨床医・研究者・政策立案者と協力して、人々が苦境にある可能性がある際のAIシステムの対応方法を改善し続ける」と発表文に記しています。

AIと精神的健康リスク——利用するユーザーにとって何を意味するか

ChatGPTを日常的に使っているユーザー、あるいは精神的に辛い状態でAIに頼っているユーザーにとって、この機能追加は具体的に何を変えるのでしょうか。まずTrusted Contactを設定していれば、自傷リスクが検知された際に孤立したまま放置されるリスクが下がる可能性があります。一方で、会話内容が第三者への通知につながるという仕組みは、本音を打ち明けることへの萎縮効果をもたらす懸念も考えられます。ただし、通知はあくまで「様子を確認してほしい」という簡潔な内容にとどまり、会話の詳細は共有されないため、プライバシーへの配慮は一定程度維持されています。安全性とユーザーの自律性・プライバシーのバランスをどう取るかは、引き続き問われる課題と見られます。

Q&A

Q. Trusted Contactに登録された人には、会話の内容が伝わるのですか？ A. いいえ、通知には会話の詳細は含まれません。アラートは簡潔な内容で、登録された連絡先にユーザーの様子を確認するよう促すものにとどまります。ユーザーのプライバシーを保護するための設計だとOpenAIは説明しています。

Q. この機能はすべてのChatGPTユーザーに自動で適用されますか？ A. いいえ、Trusted Contactは任意機能です。有効化するかどうかはユーザー自身が選択します。また、ユーザーは複数のChatGPTアカウントを持つことができるため、機能を有効化していても回避できる場合があります。

Q. 未成年のユーザーも対象ですか？ A. Trusted Contactは成人のChatGPTユーザーを対象とした機能です。未成年向けには昨年9月に導入された保護者向け安全通知機能が別途設けられており、今回の機能はその成人版に相当します。

Q. 誤検知の可能性はありますか？ A. OpenAIは自動検知に加え、人間の安全チームによるレビューを組み合わせていると説明しています。内部チームが「深刻な安全リスク」と判断した場合にのみTrusted Contactへのアラートが送信される仕組みです。