راهکار آلفابت برای شناسایی کامنت‌های نامناسب

خبرگزاری ایسنا: شرکت آلفابت راهی برای فیلتر کردن نظراتی (کامنت‌هایی) که حاوی مطالب نامناسب هستند پیدا کرده است که البته با غلط‌های املایی نوشته‌شده، فریفته می‌شود. یکی از قوانین اصلی اینترنت، نخواندن و بی‌توجهی به کامنت‌های نامناسب است. بخشی از کامنت‌های موجود در اینترنت غالبا حاوی مضامین نامناسب هستند و به ندرت پیش می‌آید که یک نفر بدون آزرده خاطر شدن، از کنار آنها رد شود. شرکت Jigsaw، از شرکت‌های تابعه آلفابت، در حال تلاش برای مبارزه با این مشکل از طریق یک پروژه به نام پرسپکتیو (Perspective) است. یک رابط برنامه‌نویسی کاربردی (API) که با استفاده از هوش مصنوعی به جست‌وجوی کلمات آنلاین می‌پردازد. با وجود این محققان کشف کرده‌اند که بازی دادن این سیستم آسان است. پروژه پرسپکتیو به نظرات و کامنت‌ها بر اساس تاثیری که ممکن است در یک مکالمه داشته باشند نمره می‌دهد. برای مثال در جمله «این احمقانه و اشتباه است»، پرسپکتیو ممکن است آن را ۸۹ درصد مشکل‌دار تشخیص دهد. محققان آزمایشگاه امنیت شبکه در دانشگاه واشنگتن دریافتند که می‌توان این برنامه را با غلط املایی نوشتن عبارات، فریب داد. از طرفی اگر این جمله به «این احمقانه و اشتباه نیست» تغییر یابد که جمله مثبتی است، پرسپکتیو باز هم آن را منفی می‌بیند. با وجود این باید گفت که پرسپکتیو هنوز یک تکنولوژی در مراحل اولیه است و همان‌طور که محققان به درستی اشاره کردند، در حال حاضر تنها قادر به تشخیص الگوهای بسیار شبیه به نمونه‌هاست و به کاربران و محققان این امکان را می‌دهد که به ارائه اصلاحات به منظور بهبود آن بپردازند.