Instagram is now using AI to fight trolls and spammers

انسٹاگرام سپامر اور تنگ کرنے والوں سے نپٹنے کے لیے اب مصنوعی ذہانت کا استعمال کر رہا ہے

سوشل میڈیا کے عام ہونے سے اس پر نفرت انگیز مواد کا بھی اضافہ ہوگیا ہے۔ سوشل میڈیا کے پیچھے موجود کمپنیاں مسلسل نفرت انگیز مواد سے نپٹنے کے طریقے ڈھونڈ رہی ہیں۔اب انسٹاگرام نے بھی اس حوالے سے اقدامات کرنے شروع کر دئیے ہیں۔ انسٹاگرام اب اس کے لیے منصوعی ذہانت کا استعمال کر رہا ہے۔
پچھلے سال انسٹاگرام نے کی ورڈ فلٹر متعارف کرایا تھا، جس کے استعمال سے صارفین اپنی فیڈ سے مخصوص الفاظ والی پوسٹ یا الفاظ ہٹا سکتے تھے۔

یہ ٹول نہ صرف خود سے غیر مناسب الفاظ حذف کرتا تھا بلکہ صارفین خود بھی اپنی مرضی کے الفاظ منتخب کر سکتے تھے۔
نفرت انگیز مواد سے نپٹنے کے لیے انسٹاگرام اب مصنوعی ذہانت کا استعمال بھی کر رہا ہے۔ منصوعی ذہانت کے استعمال سے انسٹا گرام سیاق و سباق کو دیکھتے ہوئے نفرت انگیز مواد کا خاتمہ کرتا ہے، چاہیے اس مواد میں صارفین کے شامل کیے ہوئے مخصوص کی ورڈ شامل بھی نہ ہوں۔

(جاری ہے)

انسٹاگرام کا یہ فیچر ابھی صرف انگریزی زبان کے لیے متعارف کرایا گیا ہے۔
ڈیپ ٹیکسٹ نامی یہ سسٹم سیاق و سباق سے کسی فقرے کے نفرت آمیز ہونے کا اندازہ لگاتا ہے۔ مثال کے طور پر یہ سسٹم سفید لفظ کو رنگ ہی سمجھتا ہے۔ سفید برف، سفید شرٹ کو تو یہ نظر انداز کردیتا ہے لیکن سفید فام کی طاقت کو یہ نفرت آمیز کے طور پر شناخت کر لیتا ہے۔
یاد رہے کہ نفرت انگیزمواد کا تعین کرنا انسانوں کےلیے بھی خاصا مشکل ہوتا ہے۔ جو شخص نفرت انگیز مواد شیئر کر رہا ہوتا ہے، ا سکےلیے یہ عام مواد ہوتا ہے۔ اس لیے ہوسکتا ہے کہ مصنوعی ذہانت بھی نفرت انگیز مواد کو 100 فیصد درستی کےساتھ چیک نہ کر سکے تاہم مصنوعی ذہانت کا استعمال وقت کے ساتھ ساتھ خود کو بہتر بناتا رہتا ہے۔

تاریخ اشاعت: 2017-06-29