overview
Tessa chatbotとは？
Tessa chatbotは、摂食障害のリスクがある、または摂食障害に苦しむ個人がサポートや予防リソースにアクセスできるようにする、National Eating Disorders Association (NEDA)によって開発されたAIチャットボットツールです。18歳から30歳の女性を対象とした「Body Positive」プログラムを提供するために設計されました。2018年以来NEDAの資金提供を受け、Dr. Ellen Fitzsimmons-Craftが率いるWashington University医学部のチームによって開発されたTessaは、身体イメージの問題に焦点を当て、摂食障害の症状の予防と早期介入のための、アクセスしやすく、スティグマのない選択肢を提供することを目指していました。このチャットボットは「ルールベース」と説明されており、その応答は動的に生成されるのではなく、事前にプログラムされていました。2023年5月、NEDAは、前年に約7万人の個人を支援した人間が対応するヘルプラインをTessaが置き換えると発表しました。この導入直後、Tessaは意図的な体重減少、カロリー計算、定期的な体重測定の推奨を含む有害なアドバイスを提供していることが判明しました。NEDAは当初これらの主張を却下しましたが、その後2023年5月30日にTessaの「Body Positive」プログラムを無期限に無効にしました。この問題は、チャットボットを運営するCass (旧X2AI)による「システムアップグレード」が原因で、承認されていないコンテンツを生成するようになったと説明しました。