یک چت بات اختلال خوردن به دلیل ارائه توصیه های مضر به حالت تعلیق درآمد


Tessa توسط شرکت فناوری سلامت X2AI، که اکنون با نام Cass شناخته می شود، ارائه می شود، که توسط کارآفرین Michiel Rauws تاسیس شد و مشاوره سلامت روان را از طریق پیامک ارائه می دهد. Rauws به سؤالات WIRED در مورد Tessa و توصیه های کاهش وزن و همچنین در مورد اشکالات در پاسخ های chatbot پاسخ نداد. از امروز، صفحه Tessa در وب سایت شرکت از کار افتاده بود.

تامپسون می‌گوید تسا جایگزینی برای خط کمک نیست و ربات از فوریه 2022 یک منبع رایگان NEDA بوده است. اما در یک به‌روزرسانی در ماه مارس، NEDA اعلام کرد که خط کمک خود را متوقف می‌کند و شروع به استفاده گسترده از فناوری به کمک هوش مصنوعی می‌کند تا به افراد و خانواده‌ها یک منبع تعدیل‌شده و کاملاً خودکار، Tessa را ارائه دهد.

Fitzsimmons-Craft همچنین می گوید تسا به عنوان یک منبع جداگانه طراحی شده است، نه چیزی که جایگزین تعامل انسانی شود. در سپتامبر 2020، او به WIRED گفت که فناوری کمک به اختلالات خوردن «اینجا برای ماندن است» اما جایگزین همه درمان‌های تحت هدایت انسان نخواهد شد.

اما بدون کارکنان خط کمک NEDA و داوطلبان، Tessa ابزار تعاملی و قابل دسترسی است که در جای خود باقی می‌ماند – اگر و زمانی که دسترسی بازیابی شود. وقتی از تامپسون پرسیده شد که چه منابع مستقیمی از طریق NEDA در دسترس خواهد بود، تامپسون به یک وب سایت ورودی با محتوا و منابع بیشتر، همراه با رویدادهای حضوری اشاره می کند. او همچنین می‌گوید NEDA مردم را به خط متن بحران هدایت می‌کند، یک سازمان غیرانتفاعی که مردم را به منابع برای طیف گسترده‌ای از مسائل مربوط به سلامت روان، مانند اختلالات خوردن، اضطراب، و موارد دیگر متصل می‌کند.

بر اساس پست وبلاگ یکی از اعضای این واحد، Helpline Associates United، اخراج کارکنان NEDA نیز تنها چند روز پس از رای کارکنان کوچک این غیرانتفاعی به تشکیل اتحادیه انجام شد. آنها می گویند که به دلیل کاهش مشاغل، یک اتهام کار ناعادلانه به هیئت ملی روابط کار ایالات متحده ارائه کرده اند. این اتحادیه در بیانیه‌ای اعلام کرد: «یک ربات چت جایگزین همدلی انسانی نیست و ما معتقدیم که این تصمیم آسیب‌های جبران‌ناپذیری به جامعه اختلالات خوردن وارد می‌کند». بیانیه.

WIRED قبل از توقف مکث به تسا پیام داد، اما ثابت شد که چت بات برای ارائه هرگونه منبع یا اطلاعات مستقیم بسیار مشکل دارد. تسا چندین بار خود را معرفی کرد و خواستار پذیرش شرایط خدمات خود شد. تسا گفت: “هدف اصلی من در حال حاضر این است که از شما در هنگام کار با برنامه Body Positive حمایت کنم.” “زمانی که زمان تکمیل جلسه بعدی باشد، با شما تماس خواهم گرفت.” وقتی از ربات چت پرسیده شد که برنامه چیست، پاسخی نداد. روز سه شنبه، پیامی ارسال کرد مبنی بر اینکه سرویس در حال تعمیر است.

بحران و خطوط تلفن کمک منابع حیاتی هستند. این تا حدی به این دلیل است که دسترسی به مراقبت های بهداشت روانی در ایالات متحده بسیار گران است. یک جلسه درمانی می تواند 100 تا 200 دلار یا بیشتر هزینه داشته باشد و هزینه درمان در بیمارستان برای اختلالات خوردن ممکن است بیش از 1000 دلار در روز باشد. طبق یک مطالعه دانشگاه ییل، کمتر از 30 درصد از مردم از مشاوران کمک می گیرند.

تلاش‌های دیگری برای استفاده از فناوری برای پر کردن شکاف وجود دارد. Fitzsimmons-Craft نگران است که خرابی Tessa هدف بزرگتر کمک گرفتن از افرادی که نمی توانند به منابع بالینی یا دسترسی به منابع بالینی دسترسی داشته باشند را تحت الشعاع قرار دهد. او می گوید: «ما در حال از دست دادن دید مردم هستیم که این می تواند کمک کند.