اینستاگرام زورگویی در تصاویر و زیرنویس ها را با هوش مصنوعی شناسایی می کند
استفاده از هوش مصنوعی برای شناسایی زورگویی در تصاویر و زیرنویس ها توسط اینستاگرام
سال قبل، اینستاگرام قابلیت فیلتر ارتقاء یافته ی کامنت را معرفی نمود که با استفاده از یادگیری ماشین، کلمات و جملات توهین آمیز را در کامنت های چالش برانگیز تشخیص می داد. در حال حاضر این شرکت، تکنولوژی مشابهی را برای عکس ها و زیرنویس ها معرفی نموده است. شبکه ی اجتماعی پر طرفدار در روز سه شنبه عنوان کرد که قبل از فرستادن محتوا به ناظران انسانی برای بررسی، با استفاده از هوش مصنوعی به صورت فعالانه زورگویی را تشخیص می دهد.
این قابلیت جدید در روزهای آینده در دسترس استفاده کنندگان از این برنامه قرار خواهد گرفت و به موقع برای ماه پیشگیری از زورگویی ملی در ایالات متحده و چند روز قبل از هفته ی ضد زورگویی در بریتانیا انتشار داده می شود. همین طور این تکنولوژی به فیلم های (لایو) یا زنده اضافه شده است تا کامنت ها را در آنجا هم فیلتر کند.
این اولین معرفی یک قابلیت اینستاگرام در زمان مدیریت جدید آدام موسری به حساب می آید که بعد از کناره گیری کوین سیستروم و مایک کریگر، موسسان این شبکه ی اجتماعی در ماه قبل میلادی به جایگاه مدیرعاملی اینستاگرام منصوب شد. بر اساس گزارش های به دست آمده، این جدایی به خاطر بالا گرفتن اختلافات میان این دو نفر و فیسبوک، شرکت مادر اتفاق افتاد که به صورت مرتب به دخالت در اینستاگرام می پرداخت.
با ادامه دار شدن روند کاهش اعتماد عمومی به Facebook، اینستاگرام به عنوان نقطه ی قوت برنامه های این شرکت باقی مانده است. اینستاگرام پر طرفدار و سودآور است و نکته جالب اینجاست که رسوایی هایی که گریبان فیسبوک را گرفتند تاکنون دامن گیر آن نشده اند. در نهایت، بهره مندی از هوش مصنوعی برای کمک به پاک کردن محتوای توهین آمیز و ایمن نگه داشتن این شبکه اجتماعی برای کاربران از اهمیت خیلی بالایی برخوردار است.
وب سایت وایر در مقاله ای که سال قبل آن را منتشر کرد، بعضی از جزئیات فیلتر کامنت مبنی بر یادگیری ماشین اینستاگرام در آن توضیح داده شد؛ ولی اعتقاد مردم بر این است که این نوع از تکنولوژی، به عنوان یک روش موفق برای سالم سازی محتوا به حساب نمی آید. این درست است که هوش مصنوعی، یک ابزار ارزان قیمت برای استفاده در مقیاس بالا محسوب می شود؛ ولی هنوز در مقابله با متن های ظریف و پیچیده ی نگارش شده توسط انسان با مشکلاتی رو به رو است. دقیقاً به همین علت، این فیلترهای جدید زورگویی می بایست نوشته ها را برای روند بررسی نهایی برای ناظران انسانی هم ارسال کنند. خودکارسازی بدون نظارت می تواند به به وجود آمدن اتفاقات بد منتهی شود.
اینستاگرام به صورت جالب توجهی عنوان کرده است که قابلیت جدیدی که ارائه خواهد کرد فقط زیرنویس عکس ها را برای شناسایی زورگویی مورد بررسی قرار نخواهد داد؛ بلکه به بررسی خود عکس ها هم خواهد پرداخت. یکی از عوامل اینستاگرام در مصاحبه با خبرگزاری ورج با آوردن یک مثال روش کار این قابلیت را توضیح داد. به عنوان مثال، چنانچه در عکس های تقسیم شده در صفحه ی فردی به صورت نامطلوب با فرد دیگری مقایسه شده باشد، هوش مصنوعی به جستجو برای شناسایی زورگویی این پست خواهد پرداخت. با توجه به این، این که هوش مصنوعی در جستجوی کدام یک از دست اندرکاران دیگری خواهد بود، هنوز معلوم نیست. هر چند باید این مسئله را در نظر داشت که اگر فیسبوک اعلام نماید با استفاده از هوش مصنوعی عکس های میم را اسکن خواهد نمود، افراد به احتمال زیاد به فکر دور زدن این فیلترها خواهند افتاد.
اینستاگرام غیر از فیلترهای جدید، «افکت مهربانی دوربین» را هم منتشر خواهد کرد. این طور که معلوم است این افکت، یک روش برای منتشر نمودن پیام های مثبت به عنوان روشی برای بالا بردن همکاری بین کاربران به حساب می آید. در هنگام استفاده از دوربین اصلی، این افکت ها نمایشگر گوشی کاربر را با پوششی از پیام های محبت آمیز به زبان های گوناگون پر خواهند کرد. پس از آن استفاده کننده با انتخاب کردن دوربین سلفی، ایموجی ها و تشویق های مودبانه را دریافت خواهد نمود تا «کاربری را که خواهان حمایت از او می باشد» در عکس خود برچسب گذاری کند.