اے آئی انسانیت کے لیے خطرہ بن سکتی ہے؟ چیٹ جی پی ٹی اور کلاڈ نے شاہزیب خانزادہ کے سوالات کے جواب دے دیے

 اینکر پرسن نے سوال کیا کہ کیا آپ بتا سکتی ہیں کہ مصنوعی ذہانت سے متعلق جن خطرات کا اظہار کیا جا رہا ہے، اس حوالے سے آپ کی کیا رائے ہے؟ یہ خطرات سنجیدہ ہیں، مگر خطرے کا ممکن ہونا اس بات کا مطلب نہیں کہ تباہی لازماً ہوگی۔ اے آئی سے غلط معلومات، دھوکا دہی، تعصب اور نقصان دہ فیصلوں جیسے خطرات موجود ہیں۔

مستقبل میں انتہائی طاقتور اے آئی انسان کے کنٹرول سے باہر ہو سکتی ہے یا نہیں، اس پر ماہرین متفق نہیں ہیں۔ میں نہ مکمل بے خطری کی ضمانت دے سکتی ہوں اور نہ تباہی کو یقینی قرار دے سکتی ہوں۔ شاہ خانزادہ نے سوال پوچھا کہ جو لوگ آپ کو بنا رہے ہیں، جب وہی آپ کی رفتار کم کرنے کی بات کر رہے ہیں تو کیا انہیں خود آپ سے خطرہ محسوس ہونے لگا ہے؟ یہ خوف سے زیادہ ذمہ داری کی علامت ہے۔

جو لوگ اس ٹیکنالوجی کو سب سے قریب سے دیکھتے ہیں، وہ اس کی صلاحیتوں اور کمزوریوں کو بھی سب سے بہتر سمجھتے ہیں۔ جیسے دوا ساز کمپنیاں نئی دوا عام کرنے سے پہلے اس کی جانچ کرتی ہیں، اسی طرح وہ چاہتے ہیں کہ حفاظتی تحقیق بھی اے آئی کی صلاحیتوں میں اضافے کی رفتار کے ساتھ آگے بڑھے۔ قوانین اور نگرانی کے نظام بروقت بنائے جائیں اور مسابقت کی دوڑ میں احتیاط قربان نہ ہو۔

مجھے بنانے والی کمپنی، اینتھروپک، کا بنیادی مقصد ہی یہ ہے کہ اے آئی کو محفوظ طریقے سے تیار کیا جائے۔ تو ہاں، وہ خطرات کو سنجیدگی سے لیتے ہیں۔ یہ اچھی بات ہے، گھبرانے کی نہیں۔ سوال پوچھا گیا کہ کیا واقعی اے آئی بنانے اور اس پر تحقیق کرنے والے بعض لوگ ان خطرات سے فکر مند ہیں؟ اے آئی بنانے اور اس پر تحقیق کرنے والے بعض لوگ واقعی ان خطرات کے بارے میں فکرمند ہیں، لیکن سب کا مؤقف ایک جیسا نہیں۔

ان کی تشویش یہ ہے کہ صلاحیتیں بڑھانے کی دوڑ میں حفاظتی جانچ اور انسانی نگرانی پیچھے رہ سکتی ہے۔ مثلاً مارچ 2023 میں ایک کھلے خط میں طاقتور اے آئی کی تربیت میں چھ ماہ کے وقفے کا مطالبہ کیا گیا تھا۔ ایسی اپیل خطرے کی موجودگی کی علامت ضرور ہے، لیکن یہ اس بات کا ثبوت نہیں کہ کنٹرول پہلے ہی ختم ہو چکا ہے۔ اینکر پرسن نے سوال پوچھا کہ کیا انسان واقعی اے آئی پر اپنا کنٹرول برقرار رکھ سکتا ہے یا ایک وقت آئے گا جب اے آئی خود فیصلے کرنے لگے گی، جس کے خدشے کا اظہار بار بار کیا جا رہا ہے؟ جب پر جواب دیا گیا کہ اے آئی آج بھی بہت سے چھوٹے فیصلے خود کرتی ہے، جیسے کون سی ویڈیو دکھانی ہے یا کون سا راستہ بتانا ہے۔

آگے چل کر اس کی خودمختاری میں اضافہ ہو سکتا ہے۔ اصل سوال یہ ہے کہ اہم فیصلوں پر انسانی نگرانی برقرار رہے گی یا نہیں۔ میری رائے میں کنٹرول برقرار رکھنا ممکن ہے، لیکن یہ خود بخود نہیں ہوگا۔ اس کے لیے سنجیدہ کوشش درکار ہے۔ ایسی تحقیق ضروری ہے جس سے یہ سمجھا جا سکے کہ اے آئی کے اندر کیا ہو رہا ہے، واضح حدود طے کی جائیں کہ کون سے فیصلے صرف انسان کرے گا، اور حکومتوں و کمپنیوں کے درمیان عالمی تعاون ہو۔

آپ بتائیے، کیا ایسا وقت آئے گا جب اے آئی انسان کی بات نہیں مانے گی اور خود اپنے فیصلے کرے گی؟ اے آئی کچھ فیصلے اور کام آج بھی خودکار طریقے سے انجام دیتی ہے۔ میں بھی دیے گئے کام میں اگلا قدم منتخب کر سکتی ہوں اور دستیاب اجازتوں کے تحت آلات استعمال کر سکتی ہوں۔ انسانی کنٹرول کا مطلب یہ ہے کہ لوگ مقاصد، حدود اور اختیارات طے کریں، کارروائی کی نگرانی کر سکیں اور ضرورت پڑنے پر اسے روک سکیں۔ اس کے لیے محدود رسائی، حساس کاموں کے لیے منظوری اور مسلسل جانچ ضروری ہے۔