تیک تاک محتوای غیر اخلاقی و خشونت آمیز را به صورت خودکار حذف می‌کند

تیک تاک این روزها سرگرم رویکرد خودکار تعدیل محتوا است. این پلتفرم در حال حذف خودکار ویدئو‌هایی است که دستورالعمل‌های انجمن تیک تاک را نقض می‌کنند.

تیک تاک مسئولیت حذف محتوا را به دست فناوری می‌سپارد

تیک تاک در پستی در اتاق خبر خود از تلاش این پلتفرم برای کارآمدتر کردن حذف محتوا خبر داد. پیش از این، ویدئو‌های تیک تاک از یک فیلتر اولیه که مسئولیت بررسی این که آیا ویدئوها هیچ یک از سیاست‌های تیک تاک را نقض می‌کند یا خیر را به عهده دارد، عبور می‌کردند. اگر این فیلتر ویدئویی را نشانه گذاری و تخلفی را تشخیص دهد، یکی از اعضای تیم ایمنی تیک تاک آن را بررسی کرده و سپس تصمیم می‌گیرد که آن را حذف کند یا نه.

اما اکنون، تیک تاک در حال بازبینی بررسی دستی از روند حذف ویدئو در ایالات متحده و کانادا است. فناوری تعدیل محتوای آن انواع خاصی از محتوا را به طور خودکار، همه بدون دخالت انسان و با کمک از الگوریتم بررسی و حذف می‌کند.
فناوری تیک تاک فقط با فیلم‌هایی که “بالاترین درجه‌ی دقت” در آن‌ها تشخیص داده شده باشد، مقابله خواهد کرد. این حذف خودکار سیستمی شامل فیلم‌هایی می‌شود که سیاست‌های تیک تاک در مورد برهنگی بزرگسالان، کار کودکان زیر سن قانونی، محتوای جنسی و همچنین خشونت را نقض می‌کنند.

کارمندان تیم امنیتی تیک تاک بیکار نخواهد نشست. وظیفه‌ی آن‌ها رسیدگی به محتوای دقیق تر مانند زورگویی، آزار و اذیت و اطلاعات نادرست است. تیک تاک خاطرنشان می‌کند که این تغییر فرصتی برای استراحت تیم امنیتی از تماشای “فیلم‌های ناراحت کننده” نیز خواهد بود و به‌کمک این سیستم‌ها تعداد این گونه ویدئوها کاهش پیدا خواهد کرد.

اگرچه تیک تاک می‌گوید که به تلاش برای “به حداقل رساندن حذف نادرست خطای سیستمی” فناوری خود ادامه خواهد داد، اما خطای سیستم هنوز هم اتفاق می افتد. همانطور که پیش تر ذکر شد، سیستم حذف این پلتفرم دارای پنج درصد خطا است. با توجه به اینکه تیک تاک فقط در نیمه‌ی اول سال ۲۰۲۱ بیش از ۶۱ میلیون کلیپ را حذف کرده است، پنج درصد خطا تعداد قابل توجهی ویدئو است.
وقتی تیک تاک ویدیویی را حذف می‌کند، سیستم عامل تخلف خود را در بخش به روزرسانی‌های حساب کاربری صندوق ورودی به کاربر اطلاع می‌دهد. هرگونه نقض تحمل صفر منجر به ممنوعیت فوری خواهد شد و تخلفات مکرر و با شدت کمتر نیز می‌تواند منجر به ممنوعیت مشروط شود.

اگر تیک تاک در نهایت محتوایی را حذف کند که در واقع مغایر با سیاست‌های تیک تاک نیست، سازنده همچنان می‌تواند از حذف آن درخواست تجدید نظر کند.

آیا تیک تاک در سال ۲۰۲۱ فیلم‌های بیشتری را حذف می کند؟

اکنون که تیک تاک بخشی از سیستم حذف محتوای خود را خودکار کرده است، حذف‌ها احتمالاً در سیستم عامل برجسته تر می‌شوند. ویدئوهایی که سیاست‌های تیک تاک را نقض نمی‌کنند و توسط سیستم خودکار حذف می‌شوند، به طور حتم به پای فیلم‌های ناقص خط مشی تیک تیک خواهند سوخت که این کار قطعاً برای کاربران نا امید کننده است.

جایگزینی چشم انسان به جای الگوریتم اتوماتیک هنگام تعدیل محتوا دشوار است، بنابراین از دیدن میزان دقت بیشتر حذف تیک تاک در گزارش شفاف سازی بعدی تیک تاک تعجب نخواهیم کرد.