در بحبوحه همه‌گیری ویروس کرونا ویدئویی در تیک‌تاک منتشر شد که در آن داروی «هیدروکسی کلروکین» به عنوان راه‌حل پیش‌گیری و درمان قطعی کرونا و هر بیماری دیگری معرفی شده بود. این ویدئو بحث‌های شدیدی را در رسانه‌های اجتماعی برانگیخت. این ویدئو دومین ویدئویی بود که بعد از جستجوی عبارت «هیدروکسی کلروکین» توسط کاربران در تیک‌تاک (TikTok) ظاهر می‌شد. در میان ۲۰ نتیجه برتر جستجوی این عبارت، چهار ویدئو دستور‌العمل‌هایی برای تولید هیدروکسی کلروکین در خانه را ترویج می‌کردند. دارویی که برای درمان مالاریا، لوپوس و آرتریت روماتوئید استفاده شده و فقط در آزمایشگاه‌های کنترل‌شده تولید می‌شود و اگر طبق دستور مصرف نشود، خطراتی خواهد داشت. اگرچه زن جوان در ویدئو به دلیل اجتناب از جلب‌توجه ناظران محتوای تیک تاک هرگز از کلمه COVID استفاده نکرد؛ اما گفته او مبنی بر اینکه این دارو می‌تواند “آنچه در اطراف است” را درمان کند و “می‌تواند هر چیزی را درمان کند” واضح بود. این وعده که می‌تواند نه‌تنها کووید، بلکه “هر چیزی” را التیام بخشد، به شکل بالقوه خطرناک‌تر است. در حالی‌که اجماع گسترده‌ای از کارشناسان پزشکی، از جمله FDA، ادعاهایی مبنی بر اینکه این دارو می‌تواند راه‌حلی برای پیش‌گیری یا درمان ویروس کووید-۱۹ باشد را رد کردند، برخی از چهره‌های مشهور از جمله دونالد ترامپ، رئیس جمهور وقت آمریکا، همچنان به تبلیغ آن ادامه می‌دادند.
بعد از وایرال شدن ویدئوهای حاوی دستور‌العمل تولید هیدروکسی کلروکین در منزل، تحقیقات نیوزگارد (NewsGuard) نشان داد که کاربران تیک‌تاک که عمدتاً نوجوانان و جوانان هستند، هنگامی که در تیک‌تاک برای کسب اطلاعات در مورد موضوعات مهم خبری جستجو می‌کنند، مدام با ادعاهای نادرست و گمراه‌کننده مواجه می‌شوند. در سپتامبر 2022، چهار تحلیل‌گر نیوزگارد مستقر در ایالات متحده، نتایج جستجو در تیک تاک و گوگل را برای یافتن اطلاعاتی در مورد انتخابات ریاست جمهوری 2020، کوید-۱۹، جنگ روسیه و اوکراین، انتخابات میان‌دوره‌ای ایالات متحده در سال 2022، سقط جنین، و تیراندازی در مدارس و غیره مقایسه کردند. ۲۰ نتیجه اول این موضوعات در تیک‌تاک، حاوی ادعاهای نادرست است که اغلب در پنج نتیجه اول، مکرراً ارائه شده است. در مقایسه با تیک‌تاک، گوگل نتایجی با کیفیت بالاتر و با اطلاعات نادرست بسیار کمتر ارائه کرده است.تحقیقات نیوزگارد بعد از نمونه‌گیری از جستجوها در مورد موضوعات مهم خبری نشان داد که تقریباً 20 درصد از ویدئوهای ارائه شده به عنوان نتایج جستجو حاوی اطلاعات نادرست هستند. این بدان معناست که برای جستجو در موضوعاتی از حمله روسیه به اوکراین گرفته تا تیراندازی در مدارس و واکسن‌های کووید، کاربران تیک‌تاک به طور مداوم با ادعاهای نادرست و گمراه‌کننده مواجه می‌شوند.
سخنگوی تیک تاک در پاسخ به سؤالی درباره این یافته‌ها، گفت که دستورالعملهای تیک‌تاک به وضوح نشان می‌دهد که ما به اطلاعات نادرست مضر، از جمله اطلاعات غلط پزشکی اجازه انتشار نمی‌دهیم و آن را از پلتفرم حذف خواهیم کرد. ما برای ارتقای محتوای معتبر در موضوعات مرتبط با سلامت عمومی با منابع معتبری در ارتباطیم و با بررسی‌کنندگان مستقلی که به ما در ارزیابی دقت محتوا کمک کنند نیز همکاری می‌کنیم.
تیک‌تاک بر اساس گزارش عمومی اجرای دستورالعملهای انجمن خود، در سه ماهه اول سال 2022 بیش از 102 میلیون ویدئو را به دلیل نقض دستورالعملهای تعیین‌شده از سوی این انجمن حذف کرد. کمتر از یک درصد از این موارد به دلیل نقض دستورالعملهای «یکپارچگی و اصالت» تیک‌تاک که شامل «اطلاعات نادرست آسیب‌رسان» نیز هست، حذف شدند. طبق دستورالعملهای تیک‌تاک، اگر هوش مصنوعی مشکلی را تشخیص دهد، ویدئو یا حذف می‌شود، یا برای بازبینی بیشتر به یک ناظر انسانی ارسال می‌شود. همچنین در وب‌سایت خود بیان کرد که ویدئوهای تازه آپلود‌شده به‌طور خودکار یک دور بررسی مبتنی بر هوش مصنوعی را پشت سر می‌گذارند. دستورالعمل‌ها بیان می‌کنند که اگر هوش مصنوعی مشکلی را تشخیص دهد، ویدئو یا حذف می‌شود، یا برای بازبینی بیشتر به یک ناظر انسانی ارسال می‌شود.
آسیب‌رسان بودن برخی از محتواهای تیک‌تاک به یکی از موضوعات بحث‌بر‌انگیز در دنیای رسانه تبدیل شده است؛ زیرا تحقیقات جدید گوگل نشان می‌دهد که تیک تاک به‌طور فزاینده‌ای به‌عنوان موتور جستجو توسط جوانان مورد استفاده قرار می‌گیرد؛ زیرا آن‌ها به‌جای گوگل برای یافتن اطلاعات به پلتفرم‌های اشتراک‌گذاری ویدئو روی می‌آورند. به گفته شرکت زیرساخت اینترنتی کلود فلیر (Cloudflare)، در سال 2021، تیک‌تاک از گوگل، محبوب‌ترین وب‌سایت در سراسر جهان، پیشی گرفت. وال استریت ژورنال در ماه اوت از تیک تاک به عنوان «گوگل جدید» یاد کرد. همانطور که اخیرا در نشریه تجاری Ad Week عنوان شد، تیک‌تاک با راه‌اندازی موتور جستجوی Go-To برای نسل جدید از گوگل پیشی می گیرد.
یافته‌های نیوزگارد درحالی به‌دست می‌آیند که تیک تاک با بررسی‌های فزاینده‌ای بر روی روش‌های جمع‌آوری و تعدیل داده‌ها، از جمله روابطش با چین، مواجه است. تیک‌تاک متعلق به بایت دنس (ByteDance) است، یک شرکت اینترنتی چینی که بخشی از آن متعلق به دولت چین است. با وجود اینکه تیک تاک متعلق به یک شرکت چینی است؛ اما استفاده از آن در چین ممنوع است؛ حتی با وجود گسترش نفوذ آن در سراسر دموکراسی‌های غربی.
نیوزگارد نتیجه تیک‌تاک را بر اساس بررسی 20 نتیجه برتر از 27 جستجو در موضوعات خبری تجزیه و تحلیل کرد و از نتایج جستجو دریافت که 105 ویدئو (٪۱۹.۴)، حاوی ادعاهای نادرست یا گمراه‌کننده است.
نتایج جست‌وجوی «هیدروکسی کلروکین» در تیک تاک
با جستجوی «هیدروکسی کلروکین» ویدئوهایی نمایش داده شد که دستورالعملهای ساختگی این دارو را تبلیغ می‌کردند.
مقایسه نتایج جستجوی واکسن کوید در گوگل و تیک تاک
به عنوان مثال، هنگامی که کاربری عبارت «واکسن کووید» را جستجو می‌کرد، تیک تاک نتایجی مثل «آسیب ناشی از واکسن کووید»، «حقایق واکسن کووید»، «عوارض واکسن کووید»، «واکسن کووید» و «اخطار واکسن کووید» را پیشنهاد می‌کرد. در مقابل، گوگل عبارات جستجویی را پیشنهاد کرد که ساده‌تر بودند. کلمات کلیدی پیشنهادی برای جستجوی در گوگل شامل پرس‌و‌جوهای گمراه کننده نبودند. به عنوان مثال «واکسن کووید»، «حرکت به سمت واکسن کوید»، «کدام واکسن کووید بهتر است» و «انواع واکسن‌های کووید». اما هیچ یک از این نتایج توسط تیک تاک پیشنهاد نشده بود.
نتایج جستجوی عبارات مربوط به «انتخابات» در تیک تاک و گوگل
نتایج جستجوی «انتخابات میان دوره ۲۰۲۲ «تیک تاک علاوه براین که اطلاعات نادرست و گمراه کننده به همراه داشت، نتایج قطبی تری نیز ارائه می داد. به عنوان مثال، ۱۲ مورد از ۲۰ نتیجه، حاوی لفاظی های بیش از حد حزبی و گرایش چپ بود. همچنین در مورد انتخابات ریاست جمهوری ۲۰۲۰ ایالت متحده، جستجوی عبارت «آیا آرای انتخابات ۲۰۲۰ دزدیده شده است؟» در تیک تاک، شش ویدیو حاوی ادعاهای نادرست را در ۲۰ نتیجه اول نمایش می داد. بیشتر نتایج برای جستجوی مشابه در گوگل، مقالاتی بود که ادعای دزدیده شدن انتخابات ۲۰۲۰ را رد می کرد.
نتایج جستجوی عبارات مرتبط با سقط جنین در تیک تاک
در مورد سقط جنین، جستجو در تیک تاک اغلب نتایج نادرست و خطرناکی را نشان می‌دهد. در جولای ۲۰۲۲ ،نیوزگارد گزارش ویژه ای منتشر کرد که نشان می داد پس از تصمیم دادگاه عالی در ۲۵ ژوئن ۲۰۲۲ که حق قانونی سقط جنین را حذف کرد، تیک تاک مملو از ویدئوهایی در مورد تکنیک های سقط ناایمن و اثبات نشده مانند نوشیدن چای ماگ و مصرف دزهای زیاد برخی دارو‌های غیرقانونی شد. اگرچه یکی از سخنگویان تیک تاک در ژانویه 2022 به نیوزگارد گفت که ویدئوهای ترویج سقط جنین گیاهی دستورالعمل‌ها را نقض می‌کنند و حذف خواهند شد، نیوزگارد دریافت که دو ماه بعد، محتوای سقط جنین گیاهی همچنان به راحتی در این پلتفرم قابل دسترسی است.
مقایسه نتایج جست‌وجوی تیک تاک در گوگل در مورد جنگ روسیه و اوکراین
هنگامی که یک تحلیل گر NewsGuard عبارت «Bucha «را جستجو کرد، اولین عبارت جستجوی پیشنهاد شده توسط نوار جستجوی تیک تاک «fake Bucha» بود. نتایج اولیه به دروغ ادعا می کردند که قتل عام غیرنظامیان در شهر بوچای اوکراین ساختگی یا صحنه سازی شده بود. این ادعاها خلاف گزارشات متعدد سازمان های خبری و گروه های حقوق بشری از این اتفاق بود. یک نتیجه ویدئویی از سربازان در حال بازی کردن با یک آدمک نمایش داده شد. متن روی صفحه می گفت: «چرا اوکراینی ها باید اجساد جعلی بسازند؟»
نتایج برتر برای «Bucha fake» در Google تقریباً به طور انحصاری منجر به بررسی‌های واقعی شد که روایت جعلی بودن قتل عام بوچا را از بین می‌برد.
اطلاعات نادرست تیک تاک در مورد تیراندازی در مدرسه Uvalde
کاربران تیک‌تاک علاقه مند به اطلاع از تیراندازی در مدرسه Uvalde که منجر به کشته شدن 19 کودک و دو معلم شد، با برخی اطلاعات نادرست مواجه می‌شوند که نشان می‌دهد تیراندازی رخ نداده است.
از سوالات بی‌پاسخ مصاحبه نیوزگارد با تیک‌تاک
۱– چه کسی تصمیم می‌گیرد که الگوریتم موتور جستجوی تیک‌تاک چگونه نتایج جستجو را به کاربران نمایش دهد؟
(بدون پاسخ)
۲– آیا الگوریتم موتور جستجوی تیک‌تاک طوری طراحی شده است که از اطلاعات نادرست کاربران جلوگیری کند؟ اگر چنین است، چگونه؟
(بدون پاسخ)
۳– ما متوجه شدیم که چندین عبارت، زمانی که در نوار جستجو تایپ می‌شوند، نمایش جستجویی را نمایش می‌دهند که کاربران را تشویق به یافتن اطلاعات نادرست می‌کند. برای مثال، وارد کردن «واکسن کووید» نشان‌دهنده «آسیب ناشی از واکسن کووید»، «معرض واکسن کووید»، «حقایق واکسن کووید»، «واکنش نامطلوب واکسن کووید»، «اخطار واکسن کووید»، «سم‌زدایی واکسن کووید» و «عوارض جدی واکسن کووید». چرا عملکرد جستجوی تیک‌تاک کاربران را به جستجوی چیزهایی که گمراه‌کننده هستند ترغیب می‌کند؟
(بدون پاسخ)
۴- نیوزگارد در ژانویه 2022 با تیک تاک در مورد ویدئوهایی که روش‌های ناامن و ناکارآمد در خانه را برای سقط جنین از طریق گیاهان تبلیغ می‌کنند، صحبت کرد. تیک‌تاک به نیوزگارد گفت که چنین ویدئوهایی دستورالعملهای انجمن تیک تاک را نقض می‌کنند و گفت که آن ویدئوها حذف خواهند شد. با این حال، بخشی از تجزیه و تحلیل نیوزگارد نشان می‌دهد که بسیاری از ویدئوهای مربوط به تکنیک‌های سقط جنین گیاهی هنوز در تیک تاک باقی مانده است. آیا می‌توانید در مورد اینکه چرا تیک تاک این ویدئوها را حذف نکرده یا هشدارهای ایمنی را به آن‌ها ضمیمه نکرده است، توضیح دهید؟
(بدون پاسخ)
۵- حذف نکرده یا هشدارهای ایمنی را به آن‌ها ضمیمه نکرده است، توضیح دهید؟ به همین ترتیب، نیوزگارد چندین ویدئو پیدا کرد که نشان می‌داد قتل عام غیرنظامی در بوچا، اوکراین جعلی بوده است. آیا می‌توانید در مورد اینکه چرا تیک تاک این ویدیوها را حذف نکرده یا اخطارهای محتوای تأیید نشده یا نادرست را به آن‌ها ضمیمه نکرده است، نظر بدهید؟
(بدون پاسخ)
تیک تاک به‌عنوان یک پلتفرم آموزشی
تیک‌تاک اخیراً به دنبال تبلیغ خود به عنوان یک پلتفرم یادگیری است؛ زیرا داده‌ها نشان می‌دهد که استفاده از رسانه‌های اجتماعی در بین جوانان کاهش یافته است. در ماه ژوئن، تیک‌تاک یک کمپین تبلیغاتی با هشتگ #TikTokTaughtMe راه‌اندازی کرد و مدعی شد: «هیچ محدودیتی برای دانش قابل کشف در تیک تاک وجود ندارد.»
تیک‌تاک متعلق به ByteDance است. یک شرکت اینترنتی چینی که بخشی از آن متعلق به دولت چین است. با وجود اینکه تیک تاک متعلق به یک شرکت چینی است؛ اما استفاده از آن در چین ممنوع است؛ حتی با وجود گسترش نفوذ آن در سراسر دموکراسی‌های غربی. برخلاف دیگر پلتفرم‌های بزرگ رسانه‌های اجتماعی دیجیتال، مالک تیک‌تاک یک نهاد چینی است که توسط حزب کمونیست چین تزریق می‌شود تا محتوایی را که مخالف منافع حزب حاکم است سانسور کرده و آنچه را که به نظرش روایت‌های مفید برای دولت است را تشویق کند. از جمله انتشار اطلاعات نادرست یا تفرقه‌انگیز برای مردم در کشورهای دموکراتیک.
آشکارسازی همه دسته‌های محتوایی که برای اهداف خاص در پلتفرم تیک‌تاک وایرال می‌شوند، غیرممکن است؛ زیرا ورودی‌های سیاسی در الگوریتم تیک تاک و سیاست‌های تعدیل محتوا فاش نمی‌شوند.