OpenAI、ChatGPTに「Trusted Contact」機能　メンタルヘルス危機時に信頼できる人へ通知

OpenAIは、ChatGPTにメンタルヘルスの懸念が生じた際に信頼できる人物へ通知する安全機能「Trusted Contact」を追加した。本機能は18歳以上の個人ユーザーが対象で、AIと人間が深刻なリスクを検知した場合にのみ、ユーザーが事前に指定した連絡先へ安否確認を促す通知を送信する。会話の詳細内容は第三者には非公開とされ、プライバシー保護を重視しながら、現実世界でのサポートへの橋渡しを主な目的としている。自殺リスクをはじめとした重篤なメンタルヘルス危機に対応する枠組みとして、対話型AIが人的介入のトリガーとなる設計となっている。

Trusted Contactの仕組みは、ユーザーが事前に「信頼できる連絡先」を登録しておくことが前提となる。実際にChatGPTとの会話の中で深刻なメンタルヘルス上の懸念が浮上した際、AIが会話内容を分析し、リスク判定を行う。同時に、OpenAIの人間レビューチームが判定に関与し、実際に通知を発火するかの最終判断を下す。この二層構造により、誤検知を最小化しながら、真に支援が必要な状況を捉える設計になっている。通知先の連絡先には会話内容ではなく、「サポートが必要な状況にあるかもしれない」という高レベルな警告のみが届く仕組みだ。

ChatGPTをはじめとした会話型AIツールの急速な普及に伴い、メンタルヘルス関連の安全対策は業界全体での関心事となっている。OpenAIは従来から、有害な内容への対応やユーザー保護に関するポリシーを段階的に強化してきた。Trusted Contactはそうした取り組みの一環であり、AIが検出した異常を、人間の判断と組み合わせることで、より信頼性の高い安全機能を実現しようとする試みといえる。ユーザーが孤立した状態でAIとのみ対話し続けることを避け、現実のサポートネットワークへアクセスしやすくする工夫でもある。

本機能の展開は、テック業界全体にメンタルヘルス対応機能の実装を促す可能性がある。デジタルサービスがユーザーの心身の状態に影響を与える現実を踏まえ、プラットフォーム側の責任はますます問われるようになるだろう。OpenAIのこの取り組みは、AIと人間の協働によるリスク管理のモデルケースとなり得る。実装段階での運用効果測定や、プライバシー保護とのバランスについて、業界内の注視も集まることが予想される。