چرا فیس بوک و توییتر نتوانستند از پخش شدن ویدیوی تیراندازی بوفالو جلوگیری کنند؟


پس از تیراندازی در مسجد کرایست چرچ نیوزلند در سال 2019، فیس بوک به دلیل اجازه دادن به تیرانداز برای پخش زنده قتل های خود به مدت 17 دقیقه بدون وقفه مورد انتقاد گسترده قرار گرفت. تیراندازی دسته جمعی با انگیزه نژادی روز شنبه در بوفالو، نیویورک متفاوت بود.

این بار، تیرانداز اعمال وحشتناک خود را در Twitch به اشتراک گذاشت، برنامه ویدیویی پخش زنده و محبوب بین گیمرها، جایی که به گفته شرکت، کمتر از دو دقیقه پس از شروع خشونت، خیلی سریعتر خاموش شد. زمانی که توییچ استریم را قطع کرد، طبق گزارش ها فقط 22 بازدید داشت.

این امر مانع از انتشار تصاویر ضبط‌شده پخش زنده Twitch – و نوشته‌های تیرانداز – در سراسر اینترنت نشد، جایی که میلیون‌ها بازدید را به دست آوردند، که برخی از آنها از طریق پیوندهایی که به طور گسترده در فیس‌بوک و توییتر به اشتراک گذاشته شده بودند.

امرسون بروکینگ، کارشناس ارشد مقیم اندیشکده شورای آتلانتیک که در مورد رسانه های اجتماعی مطالعه می کند، گفت: «این یک تراژدی است، زیرا شما فقط به یک کپی از ویدیو نیاز دارید تا این چیز برای همیشه آنلاین زندگی کند و بی انتها تکثیر شود.

آنچه این نشان می دهد این است که، در حالی که پلتفرم های رسانه های اجتماعی بزرگ مانند فیس بوک و توییتر، از زمان کرایست چرچ، در کاهش گسترش تصاویر وحشتناک خشونت جمعی بهتر شده اند، هنوز نمی توانند به طور کامل جلوی آن را بگیرند. Twitch توانست به سرعت فید ویدیوی بی‌درنگ تیرانداز را قطع کند، زیرا برنامه‌ای است که برای اشتراک‌گذاری نوع خاصی از محتوا طراحی شده است: ویدیوهای بازی زنده اول شخص. فیس بوک، توییتر و یوتیوب تعداد بسیار گسترده تری از کاربران دارند که طیف وسیع تری از پست ها را ارسال می کنند که از طریق الگوریتم هایی که برای ترویج ویروسی بودن طراحی شده اند به اشتراک گذاشته می شوند. برای اینکه فیس‌بوک و توییتر جلوی انتشار همه آثار این ویدیو را بگیرند به این معنی است که این شرکت‌ها باید اساساً نحوه اشتراک‌گذاری اطلاعات در برنامه‌هایشان را تغییر دهند.

گسترش بی بند و بار فیلم های قتل در اینترنت مشکل مهمی است که باید حل شود. برای قربانیان و خانواده‌های قربانیان، این ویدئوها حیثیت مردم را در لحظات پایانی سلب می‌کند. اما آنها همچنین رفتار شهرت جویی قاتلان دسته جمعی را تحریک می کنند، که خشونت وحشتناکی را طراحی می کنند که هدف آن ویروسی شدن رسانه های اجتماعی است که ایدئولوژی های نفرت انگیز آنها را ترویج می کند.

در طول سال‌ها، پلتفرم‌های اصلی رسانه‌های اجتماعی در کاهش و مهار انتشار این نوع ویدیوها بسیار بهتر شده‌اند. اما آنها نتوانسته اند به طور کامل آن را متوقف کنند و احتمالاً هرگز نخواهند شد.

تلاش این شرکت‌ها تاکنون تلاش برای شناسایی بهتر ویدیوهای خشونت‌آمیز، و سپس مسدود کردن کاربران از اشتراک‌گذاری همان ویدیو یا نسخه‌های ویرایش شده آن بوده است. در مورد تیراندازی بوفالو، یوتیوب گفت که حداقل 400 نسخه مختلف از ویدیوی تیرانداز را که مردم از بعدازظهر شنبه سعی کرده اند آپلود کنند، حذف کرده است. فیس بوک به طور مشابه افراد را از آپلود نسخه های مختلف ویدیو مسدود می کند، اما تعداد آنها را فاش نمی کند. توییتر همچنین گفت که در حال حذف نمونه هایی از این ویدئو است.

این شرکت ها همچنین با مقایسه یادداشت ها به یکدیگر کمک می کنند تا این نوع محتوا را شناسایی و مسدود یا حذف کنند. آنها اکنون “هش” – یا اثر انگشت دیجیتال یک تصویر یا ویدئو – را از طریق انجمن جهانی اینترنت برای مقابله با تروریسم، یا GIFCT، کنسرسیوم صنعتی که در سال 2017 تأسیس شد، به اشتراک می گذارند. وقتی این شرکت ها هش را مبادله می کنند، به آنها توانایی پیدا کردن و گرفتن را می دهد. ویدیوهای خشونت آمیز را حذف کنید این همان روشی است که پلتفرم هایی مانند YouTube برای ویدیوهایی که حق چاپ را نقض می کنند جستجو می کنند.

پس از تیراندازی در کرایست چرچ در سال 2019، GIFCT یک سیستم هشدار دست روی عرشه جدید به نام «پروتکل رویداد محتوا» ایجاد کرد تا در مواقع اضطراری مانند تیراندازی دسته جمعی، هش را به اشتراک بگذارد. در مورد تیراندازی بوفالو، یک پروتکل حادثه محتوا در ساعت 4:52 بعد از ظهر شنبه به وقت شرقی، حدود دو ساعت و نیم پس از شروع تیراندازی فعال شد. و از آنجایی که افرادی که می‌خواستند توزیع ویدیوها را پخش کنند سعی کردند کلیپ‌ها را تغییر دهند تا ردیاب‌های هش را از بین ببرند – مثلاً با افزودن بنرها یا بزرگ‌نمایی روی قسمت‌هایی از کلیپ‌ها – شرکت‌های کنسرسیوم سعی کردند با ایجاد هش‌های جدید پاسخ دهند. که می تواند ویدیوهای تغییر یافته را پرچم گذاری کند.

اما هش کردن ویدیوها فقط تا اینجا پیش می رود. یکی از راه‌های کلیدی پخش ویدیوی تیراندازی بوفالو در رسانه‌های اجتماعی اصلی، این بود که مردم ویدیو را مستقیماً پست نمی‌کردند، بلکه در عوض به وب‌سایت‌های دیگر پیوند می‌دادند.

در یک مثال، پیوندی به ویدیوی تیرانداز که در Streamable، یک سایت ویدئویی کمتر شناخته شده، میزبانی شده بود، صدها بار در فیسبوک و توییتر در ساعات پس از تیراندازی به اشتراک گذاشته شد. به گفته نیویورک تایمز، این پیوند بیش از 43000 تعامل، از جمله لایک و اشتراک گذاری، در فیس بوک به دست آورد و بیش از 3 میلیون بار قبل از حذف آن توسط Streamable مشاهده شد.

سخنگوی شرکت مادر Streamable، Hopin، به سوالات مکرر Recode در مورد اینکه چرا پلتفرم ویدیوی تیرانداز را زودتر حذف نکرد، پاسخی نداد. این شرکت بیانیه‌ای ارسال کرد و گفت که این نوع ویدیوها دستورالعمل‌های انجمن و شرایط خدمات شرکت را نقض می‌کنند، و این شرکت «جدی تلاش می‌کند تا سریعاً آنها را حذف کند و همچنین حساب‌های کسانی که آنها را آپلود می‌کنند خاتمه دهد». Streamable عضو نیست. از GIFCT.

در یک اسکرین شات پرتیراژیک کاربر نشان داد که پستی را با لینک Streamable و تصویری از تیراندازی به فیس بوک گزارش داده است، اما پاسخی از فیس بوک دریافت کرد که گفت این پست قوانین آن را نقض نمی کند. یکی از سخنگویان متا به Recode تأیید کرد که پست‌های دارای پیوند Streamable واقعاً خط‌مشی‌های آن را نقض می‌کنند. متا گفت که پاسخ به کاربری که لینک را گزارش کرده به اشتباه داده شده است و شرکت در حال بررسی علت آن است.

در نهایت، به دلیل نحوه طراحی همه این پلتفرم‌ها، این یک بازی ضربتی است. فیس بوک، توییتر و یوتیوب میلیاردها کاربر دارند و در میان این میلیاردها، همیشه درصدی از کاربران وجود خواهند داشت که حفره هایی برای سوء استفاده از این سیستم ها پیدا می کنند. چندین محقق رسانه‌های اجتماعی پیشنهاد کرده‌اند که پلتفرم‌های اصلی می‌توانند با بررسی بهتر وب‌سایت‌های حاشیه‌ای مانند 4chan و 8chan، که لینک‌ها از آنجا منشأ می‌گرفتند، به منظور شناسایی و مسدود کردن زودهنگام آنها، کارهای بیشتری انجام دهند. محققان همچنین خواستار سرمایه گذاری بیشتر این پلتفرم ها در سیستم های خود برای دریافت گزارش های کاربران شده اند.

در همین حال، برخی از قانون‌گذاران شرکت‌های رسانه‌های اجتماعی را مقصر دانسته‌اند که در وهله اول اجازه داده‌اند این ویدیو بالا برود.

“[T]کتی هوچول، فرماندار نیویورک روز یکشنبه در یک کنفرانس خبری گفت: در اینجا یک جنون تغذیه در سیستم عامل های رسانه های اجتماعی است که در آن نفرت نفرت بیشتری را تشدید می کند، که باید متوقف شود. این رسانه‌ها باید در نظارت بر محتوای رسانه‌های اجتماعی هوشیارتر باشند، و مطمئناً این واقعیت که می‌توان آن را به صورت زنده در پلتفرم‌های رسانه‌های اجتماعی پخش کرد و در عرض یک ثانیه حذف نشد، به من می‌گوید که مسئولیتی وجود دارد.»

گرفتن و مسدود کردن محتوایی که به سرعت هنوز امکان پذیر نیست. باز هم، دو دقیقه طول کشید تا توییچ پخش زنده را حذف کند، و این یکی از سریع‌ترین زمان‌های پاسخگویی است که تاکنون از یک پلتفرم رسانه اجتماعی که به افراد اجازه می‌دهد در زمان واقعی پست کنند، دیده‌ایم. اما این دو دقیقه بیش از زمان کافی بود تا لینک‌های ویدیو در پلتفرم‌های بزرگ‌تری مانند فیس‌بوک و توییتر پخش شوند. بنابراین، سؤال کمتر این است که این ویدیوها با چه سرعتی می توانند حذف شوند و بیشتر در مورد اینکه آیا راهی برای جلوگیری از زندگی پس از مرگی که می توانند در شبکه های بزرگ رسانه های اجتماعی به دست آورند وجود دارد یا خیر.

اینجاست که طراحی اساسی این پلتفرم ها در برابر واقعیت قرار می گیرد. آنها ماشین هایی هستند که برای درگیری انبوه و آماده بهره برداری هستند. این که چه زمانی و چه زمانی تغییر خواهد کرد بستگی به این دارد که آیا این شرکت ها مایل به پرتاب آچار در آن دستگاه هستند یا خیر. تا اینجای کار، به نظر نمی رسد.

پیتر کافکا در گزارش این مقاله مشارکت داشت.