ربات چت پاسخ به اختلال خوردن به دنبال اتهامات آسیب‌رسانی آفلاین شد

پس از پست ماکسول، NEDA بیانیه ای را در حساب اینستاگرام خود منتشر کرد و گفت که سازمان از اتهامات وارده می داند و «این برنامه را حذف کرده است. [Tessa] تا اطلاع ثانوی برای بررسی کامل.”

جایی که ربات چت اکنون ایستاده است

تامپسون این بیانیه را در ایمیل خود به VentureBeat گسترش داد و نوشت: «با توجه به بازخورد کاهش وزن و محدودکننده کالری که در چت روز دوشنبه منتشر شد، ما نگران هستیم و با تیم فناوری و تیم تحقیقاتی برای بررسی بیشتر این موضوع کار می کنیم. این زبان برخلاف سیاست ها و باورهای اصلی ما به عنوان سازمان اختلال خوردن است. این نگران کننده است زیرا در یک “محصول بسته”، از 5289 نفری که در تعامل با تسا بوده اند، ما چنین چیزی را ندیده بودیم.

تامپسون همچنین گفت که کاس فعالیت غیرمعمول در چت ربات Tessa را گزارش کرده است که نشان می دهد توسط بازیگران یا ربات های مخرب مورد حمله قرار گرفته است. تامپسون نوشت: «هفته گذشته، تسا شاهد افزایش 600 درصدی ترافیک و رفتاری بود که نشان‌دهنده اشکال مختلف فعالیت‌های شرورانه از سوی بازیگران بدی بود که سعی داشتند تسا را ​​فریب دهند. «حتی با هجوم این موارد، «پیام‌رسانی خاموش» تنها 0.1 درصد از بیش از 25000 پیام اتفاق می‌افتد. ما به کار خود ادامه خواهیم داد تا مطمئن شویم که این فناوری می تواند در برابر حملات آینده مقاومت کند.»

آیا تسا بازخواهد گشت و اگر چنین است، چه زمانی؟ تامپسون تخمین زمان یا برنامه قطعی ارائه نکرد، اما در ایمیل خود به VentureBeat اعلام کرد که «ما به کار بر روی اشکالات ادامه خواهیم داد و تا زمانی که همه چیز را تکمیل نکنیم، راه اندازی مجدد نمی کنیم. وقتی راه‌اندازی را انجام می‌دهیم، همچنین مشخص می‌کنیم که تسا چیست، تسا چیست و چگونه می‌توان تجربه کاربر را به حداکثر رساند. گوش به زنگ باشید!”

نکاتی برای رهبران و تصمیم گیرندگان فناوری اطلاعات

با رقابت شرکت‌ها برای استفاده از ابزارهای مولد هوش مصنوعی – 65 درصد از مدیرانی که توسط شرکت تحقیقات بازار KPMG مورد بررسی قرار گرفتند، اخیراً گفتند که انتظار دارند این فناوری در 3 تا 5 سال آینده تأثیر بالا یا بسیار بالایی بر سازمان‌های آنها بگذارد – تصمیم‌گیرندگان فناوری اطلاعات به خوبی عمل می‌کنند. از تجربه NEDA درس بگیرید.

حتی برنامه‌های هوش مصنوعی با نیت خوب که با ورودی متخصص برای موارد استفاده خاص طراحی شده‌اند، می‌توانند پاسخ‌های نامطلوب و بالقوه مضر ایجاد کنند و بر کاربران/مشتریان شرکت و ادراک عمومی تأثیر منفی بگذارند. مشخص نیست که آیا NEDA می‌توانست با برقراری ارتباط بیشتر یا شفاف‌تر در تصمیم‌گیری‌های خود در حوالی غروب خط کمک، از مناقشه‌ای که اکنون با آن با آن مواجه است، اجتناب کند یا به حداقل برساند، اما واضح است که وجود یک ربات چت هوش مصنوعی از قبل در ترکیب، تنها به این اتهامات دامن زد که به دنبال کاهش ارزش و جایگزینی نیروی انسانی با هوش مصنوعی – قرار دادن NEDA در حالت تدافعی، جایی که اکنون خود را پیدا کرده است.