خطای هوش مصنوعی یوتیوب، در نظارت بر محتوا

یوتیوب، بعد از عملکرد نه چندان جالب هوش مصنوعی در نظارت محتوا، قصد بازگرداندن ناظران انسانی را دارد.

این پلتفرم ویدئویی، با فراگیری ویروس کرونا و آغاز دورکاری کارمندان، اعلام کرده بود که از الگوریتم‌های خودکار به جای نیروی انسانی، برای بررسی ویدئو‌ها بهره خواهد برد. اما دقت پایین فیلترهای هوش مصنوعی در نظارت بر محتوای این شبکه، ایجاب کرد که یوتیوب تصمیم به بازگرداندن ناظران انسانی بگیرد.

یوتیوب در مارس امسال، اعلام کرد که قصد دارد با استفاده از سیستم‌های یادگیری ماشین، محتوایی را که قوانین این پلتفرم را نقض کرده و همچنین موجب نفرت‌پراکنی و ارائه اطلاعات نادرست می‌شوند را حذف کند. اما یوتیوب در همین هفته، در مصاحبه با رسانه‌ی فایننشال تایمز اعلام کرد، که محتوای زیادی با اشتباه ناظران هوش مصنوعی، حذف شدند.

چیزی در حدود ۱۱ میلیون ویدئوی یوتیوب، از ماه آوریل تا جون حذف شدند، و به نقل از فایننشال تایمز، سیستم‌های هوش مصنوعی در حذف محتوای نا‌مناسب افراطی عمل کرده و به اشتباه، دو برابر حد معمول را حذف کردند. بیشتر از نصف تعداد مذکور، بازگردانی شده و ۳۲۰،۰۰۰ ویدئوی حذف شده مورد بررسی واقع شدند

هوش مصنوعی یوتیوب در نظارت بر محتوا اشکال دارد

نیل موهان، مدیر ارشد محصول یوتیوب خاطر نشان کرد:

در ابتدای شیوع ویروس کرونا تصمیم گرفتیم از سیستم‌ یادگیری ماشین به‌جای نیروی انسانی، برای نظارت بر محتوای این پلتفرم استفاده کنیم؛ هرچند که احتمال می‌دادیم دقت پایین این سیستم‌ در مقابل انسان، ممکن است سبب حذف شدن تعداد زیادی از ویدئو‌ها شود؛ ولی برای تامین امنیت کاربران از آن استفاده کردیم.

یکی از چالش‌هایی که بسیاری از شبکه‌های اجتماعی مانند فیسبوک، توییتر و یوتیوب با آن مواجه‌اند، انتشار یافتن محتوای نامناسب است. این پلتفرم‌ها مدعی بودند که امنیت خود را با استفاده از الگوریتم‌ها و فیلترهای خودکار تأمین می‌کنند. اما بدیهی است، که هوش مصنوعی دقت کافی برای تشخیص محتوای نامناسب را نداشته است.

ناظران شبکه‌های اجتماعی مسئولیت سختی را بر عهده دارند، چرا که باید هزاران محتوای نامناسب را با درنظر گرفتن قوانین خاص هر شبکه، بررسی کنند. این ناظران با برنامه‌های کاری فشرده، فعالیت می‌کنند، ولی از حمایت چندانی برخوردار نیستند. تعدادی از پلتفرم‌ها قصد دارند، در صورت استفاده از فناوری‌های هوش مصنوعی و یادگیری ماشین، با تشخیص چهره و دسته‌بندی محتوا، از زحمت ناظران انسانی بکاهند.

رفع خطاهای هوش مصنوعی یوتیوب

این تصمیمات در حالی گرفته شدند، که کارشناسان هوش مصنوعی و ناظران محتوا بارها گفته‌اند، که جلوگیری از انتشار محتوای نامناسب در پلتفرم‌ها، با استفاده از این سیستم امکان پذیر نیست. آن‌ها برای ادعای خود دلیل آوردند و گفتند که این فناوری قادر به تشخیص محتوایی مانند نژادپرستی، که سبب ناراحتی کاربران می‌شود، نیست. هوش مصنوعی در تشخیص محتوایی که نامناسب بودن آن واضح باشد، درست عمل می‌کند؛ ولی برای اینکه دقت کار بیشتر شود، فعلا می‌بایست از نیروی انسانی کمک گرفت.

سیستم‌های ناظر، توانایی کافی را نداشته و بعضا دچار اشتباهاتی می‌شوند؛ برای مثال در ماه مه، بسیاری از کامنت‌های کاربران، که حاوی کلمه‌ی “چینی” بودند، به‌طور خودکار حذف شدند و از آنجایی که این عبارات هیچ ارتباطی با “حزب کمونیست چین” ندارد، بنابراین قوانین را نیز نقض نمی‌کرده است؛ اما هوش مصنوعی به اشتباه آن‌ها را نامناسب تشخیص داده و حذف کرده است. سخنگوی یوتیوب، آن را با خطا در سیستم‌های اجرایی این پلتفرم مرتبط دانسته است.

به قول نیل موهان، سیستم‌های یادگیری ماشین کاربردهای خودشان را دارند، هرچند که ۱۱ میلیون محتوا به اشتباه‌ حذف شده است، ولی باید توجه کرد که نصف آن‌ها حتی یک بازدید از کاربران یوتیوب نداشت‌اند و بالغ‌بر ۸۰ درصدشان هم با کمتر از ۱۰ بار بازدید، حذف شده‌اند؛ این حاکی از سرعت و قدرت سیستم‌های یادگیری ماشین است.