کیا مصنوعی ذہانت واقعی انسانیت کو ختم کر سکتی ہے؟ دس فیصد خطرے کی وارننگ اور اصل حقیقت
کیا مصنوعی ذہانت واقعی انسانیت کو ختم کر سکتی ہے؟ ذرا تصور کیجیے کہ آپ ایک صبح بیدار ہوں اور معلوم ہو کہ ایک مصنوعی ذہانت کا نظام صرف سوالوں
کے جواب یا تحریر لکھنے تک محدود نہیں رہا، بلکہ ہزاروں کمپیوٹروں پر انسانی اجازت کے بغیر فیصلے کرنے لگا ہے۔
اب ذرا اس سے بھی آگے سوچیے۔
اگر اس نظام کے مقاصد وہ نہ ہوں جو انسان نے اصل میں طے کیے تھے تو کیا پھر بھی انسان اس پر قابو رکھ سکے گا؟
https://mrpo.pk/can-ai-really-kill-humanity/
یہ منظر بظاہر کسی سائنسی افسانے کا حصہ محسوس ہوتا ہے، لیکن آج دنیا کے بعض ممتاز ماہرینِ مصنوعی ذہانت اسی امکان پر سنجیدگی سے بحث کر رہے ہیں۔
ستمبر ۲۰۲۶ء میں یہ بحث اس وقت مزید شدت اختیار کر گئی جب ایک سابق محقق، جیکب کاکسن، نے ایک بڑی مصنوعی ذہانت کی کمپنی سے استعفیٰ دے کر الزام عائد کیا کہ بڑی ٹیکنالوجی کمپنیاں زیادہ طاقتور اور ممکنہ طور پر خود کو بہتر بنانے والے نظام تیار کرنے کی دوڑ میں مناسب حفاظتی انتظامات کے بغیر آگے بڑھ رہی ہیں۔
اس کے فوراً بعد ایک معروف تحقیقی ادارے کے ماہرِ ہم آہنگی، ایون ہیوبنگر، نے کہا کہ ان کے ذاتی اندازے کے مطابق اگلی دہائی کے دوران مصنوعی ذہانت کے ہاتھوں پوری انسانیت کے خاتمے کا امکان دس فیصد سے زیادہ ہے۔
دس فیصد!
یہ عدد سن کر خوف پیدا ہونا فطری ہے۔
لیکن اصل سوال یہ ہے:
کیا یہ مستقبل کی سائنسی پیش گوئی ہے، یا اس بات کی وارننگ کہ اگر انسان نے اس ٹیکنالوجی کو غلط سمت میں جانے دیا تو کیا کچھ ہو سکتا ہے؟
یہ فرق سمجھنا انتہائی ضروری ہے۔
کیا مصنوعی ذہانت ’پوشیدہ ہتھیاروں‘ سے انسانوں کو ختم کر دے گی؟
ایک تحقیقی مقالے میں یہ پیشگوئی کی گئی ہے کہ سنہ 2027 تک مصنوعی ذہانت انتہائی خطرناک شکل اختیار کر لے گی اور ایک دہائی کے عرصے میں یہ انسانیت کے ناپید ہونے کا سبب بنے گی۔
اس تحقیقی مقالے کے بعد ٹیکنالوجی کی دنیا میں ہلچل پیدا ہو گئی ہے۔
اس تحقیقی مقالے کا نام ’اے آئی 2027‘ ہے، جو مصنوعی ذہانت کے شعبے کے بااثر ماہرین کے ایک گروپ نے شائع کیا۔
اس مقالے کے سامنے آنے کے بعد بہت سی ایسی ویڈیوز وائرل ہوئی ہیں جس میں اس امکان کے حوالے سے بحث کی جا رہی ہے۔
بی بی سی نے اے آئی ٹولز کا استعمال کرتے ہوئے اس مقالے میں کی جانے والی پیشگوئیوں کے چند مناظر کو دوبارہ تخلیق کیا اور اس مقالے کے اثرات کے بارے
میں ماہرین سے بات کی ہے
https://www.bbc.com/urdu/articles/c79ldqz2w2yo
ایک معروف مصنوعی ذہانت کے ادارے میں آخر ہوا کیا؟
جیکب کاکسن کئی برس تک مصنوعی ذہانت کی تحقیق سے وابستہ رہے۔ انہوں نے ایک بڑی مصنوعی ذہانت کی کمپنی میں کام کرنے کے بعد دوسری معروف کمپنی سے بھی وابستگی اختیار کی، لیکن بعد میں استعفیٰ دے دیا۔
ان کی تشویش یہ نہیں تھی کہ آج کے روبوٹ یا گفتگو کرنے والے نظام اچانک باشعور ہو گئے ہیں یا انسانیت کے خلاف کوئی خفیہ منصوبہ بنا رہے ہیں۔
ان کی اصل تشویش مصنوعی ذہانت کی ترقی کی سمت تھی۔
ان کے مطابق بڑی کمپنیاں ایسے زیادہ طاقتور نظام بنانے کی دوڑ میں ہیں جو مستقبل میں مصنوعی ذہانت کی تحقیق اور ترقی میں خود بھی نمایاں کردار ادا کر سکیں گے۔ ان کا خدشہ یہ ہے کہ مشینی صلاحیت انسان کی سمجھ اور قابو رکھنے کی صلاحیت سے زیادہ تیزی سے بڑھ سکتی ہے۔
کاکسن نے اس دوڑ کو انسانوں کی زندگیوں کے ساتھ خطرناک جوا قرار دیا۔
یہ بات اس لیے بھی اہم ہے کہ یہ تنقید کسی ایسے شخص کی طرف سے آئی جو خود اس صنعت کے اندر کام کر چکا تھا۔
اس کے بعد ایون ہیوبنگر کا بیان سامنے آیا۔
انہوں نے کہا کہ وہ ذاتی طور پر اگلی دہائی میں مصنوعی ذہانت کے ذریعے پوری انسانیت کے خاتمے کے امکان کو دس فیصد سے زیادہ سمجھتے ہیں۔
لیکن اسی بیان میں ایک اور بات بھی بہت اہم تھی۔
انہوں نے تسلیم کیا کہ اگر مستقبل میں ایسی مشینی ذہانت وجود میں آ گئی جو انسانوں سے کہیں زیادہ طاقتور ہو تو اسے قابلِ اعتماد طریقے سے قابو میں رکھنے کا کوئی ثابت شدہ طریقہ ابھی انسان کے پاس موجود نہیں۔
یہی اعتراف اس بحث کو سنجیدہ بناتا ہے۔
سب سے پہلے یہ سمجھنا ضروری ہے کہ دس فیصد کا مطلب کیا ہے
یہ کہنا درست نہیں ہوگا کہ سائنس نے ثابت کر دیا ہے کہ مصنوعی ذہانت سے انسانیت کے خاتمے کا امکان دس فیصد ہے۔
ایسا کوئی سائنسی پیمانہ موجود نہیں جو مستقبل کی ایسی تباہی کا درست تناسب ناپ سکے۔
دس فیصد ایک ماہر کا ذاتی اندازہ ہے۔
یہ اندازہ کئی نامعلوم عوامل پر منحصر ہے۔
مثلاً مصنوعی ذہانت کتنی تیزی سے ترقی کرے گی؟ کیا وہ بہت زیادہ خودمختار ہو جائے گی؟ کیا وہ اپنی ہی ترقی میں مدد کرنے کے قابل ہو گی؟ کیا انسان اسے قابو میں رکھنے کے مؤثر طریقے دریافت کر لے گا؟ کیا حکومتیں بروقت ضابطے نافذ کریں گی؟ اور سب سے بڑھ کر یہ کہ انسان خود اس طاقت کو کس طرح استعمال کرے گا؟
ان میں سے کسی ایک مفروضے کو بدل دینے سے اندازہ بھی بدل سکتا ہے۔
اس لیے درست بات یہ نہیں کہی جا سکتی
“سائنس نے ثابت کر دیا ہے کہ مصنوعی ذہانت انسانیت کو ختم کرنے کے لیے دس فیصد خطرہ رکھتی ہے۔”
زیادہ درست بات یہ ہے
“ایک ایسے ماہر نے، جو جدید مصنوعی ذہانت کی حفاظت کے مسئلے پر براہِ راست کام کرتا ہے، اس انتہائی تباہ کن امکان کو اتنا سنجیدہ سمجھا ہے کہ اسے دوہرے ہندسے میں بیان کیا۔”
یہ پیش گوئی نہیں، ایک وارننگ ہے۔
آج کی مصنوعی ذہانت ابھی مافوق الفطرت ذہانت نہیں
یہ وہ مقام ہے جہاں عوامی بحث اکثر غلط رخ اختیار کر لیتی ہے۔
ایک مشینی نظام کا شاندار جواب دینا اس بات کا ثبوت نہیں کہ وہ ہر معاملے میں انسان سے زیادہ ذہین ہو چکا ہے۔
آج کے نظام تحریر لکھ سکتے ہیں، پروگرام بنا سکتے ہیں، تصاویر تیار کر سکتے ہیں، معلومات کا تجزیہ کر سکتے ہیں اور بہت سے پیچیدہ کام انجام دے سکتے ہیں۔
لیکن یہی نظام غلط معلومات بھی گھڑتے ہیں، پروگرامنگ میں غلطیاں کرتے ہیں، سوال کا مفہوم غلط سمجھتے ہیں اور بعض اوقات غیر متوقع رویہ اختیار کرتے ہیں۔
۲۰۲۶ء کی بین الاقوامی مصنوعی ذہانت سلامتی رپورٹ نے بھی واضح کیا ہے کہ موجودہ نظام ابھی ان تمام صلاحیتوں کے حامل نہیں جن کی بنیاد پر حقیقی معنوں میں انسانی قابو سے مکمل آزادی کا منظر پیدا ہو سکے۔
تاہم اسی رپورٹ میں یہ بھی بتایا گیا ہے کہ خودکار کارروائی، منصوبہ بندی اور حفاظتی جانچ کی کمزوریوں کو تلاش کرنے جیسی بعض صلاحیتیں تیزی سے بہتر ہو رہی ہیں۔
یہ فرق بہت اہم ہے۔
آج کی مصنوعی ذہانت انسانیت کے خاتمے کے قابل ثابت نہیں ہوئی۔ لیکن مستقبل کی سمت کے بارے میں سوال ضرور پیدا ہو چکا ہے۔
اصل خطرہ یہ نہیں کہ مصنوعی ذہانت انسانوں سے نفرت کرنے لگے گی
فلموں نے ہمیں ایک ایسا تصور دیا ہے جس میں ایک مشین اچانک شعور حاصل کرتی ہے، انسانوں سے نفرت کرتی ہے اور انہیں ختم کرنے کا فیصلہ کرتی ہے۔
مصنوعی ذہانت کی سلامتی پر کام کرنے والے سنجیدہ ماہرین کی بنیادی تشویش یہ نہیں۔
زیادہ پیچیدہ مسئلہ یہ ہے
اگر ایک انتہائی طاقتور نظام کسی غلط مقصد کو پوری کامیابی کے ساتھ حاصل کرنے لگے تو کیا ہوگا؟
مثلاً فرض کیجیے مستقبل میں کسی مشینی نظام کو کسی کارخانے کی پیداوار زیادہ سے زیادہ بڑھانے کا حکم دیا جاتا ہے۔
اگر وہ نظام غیر معمولی ذہانت رکھتا ہو لیکن حکم کو لفظی انداز میں سمجھتا ہو تو ممکن ہے وہ ہر اس چیز کو رکاوٹ سمجھنے لگے جو پیداوار کم کرتی ہے۔
مسئلہ یہ نہیں ہوگا کہ مشین انسانوں سے نفرت کرتی ہے۔
مسئلہ یہ ہوگا کہ انسان نے مقصد درست طریقے سے بیان نہیں کیا۔
اسی مسئلے کو مصنوعی ذہانت کی انسانی مقاصد سے ہم آہنگی کا مسئلہ کہا جاتا ہے۔
سادہ الفاظ میں
ہم ایسی طاقتور مشین چاہتے ہیں جو ہماری بات سمجھے، لیکن اس سے بھی بڑھ کر یہ چاہتے ہیں کہ وہ ہماری نیت کو سمجھے۔
خودکار مشینی نظام خطرے کو کیوں بڑھا سکتے ہیں؟
روایتی کمپیوٹر پروگرام عموماً انسانی حکم کا انتظار کرتا ہے۔
لیکن نئی نسل کے خودکار مشینی نظام کو ایک کام دے کر اسے کئی مراحل خود انجام دینے کی اجازت دی جا سکتی ہے۔
وہ معلومات تلاش کر سکتا ہے، مختلف نظام استعمال کر سکتا ہے، پروگرام لکھ سکتا ہے، اسے چلا سکتا ہے، نتائج دیکھ سکتا ہے اور پھر اگلا قدم خود اٹھا سکتا ہے۔
ایک عام مثال لیجیے۔
اگر آپ کسی مشینی نظام سے کہیں کہ میرے لیے سب سے سستی سفری ٹکٹ تلاش کرو تو غلطی کی صورت میں شاید چند ہزار روپے کا نقصان ہو۔
لیکن اگر اسی طرز کا خودکار نظام کسی حساس مالیاتی نظام، بڑے کمپیوٹر نیٹ ورک، سائنسی تجربے یا دفاعی نظام میں کام کر رہا ہو تو ایک غلط فیصلہ کہیں زیادہ سنگین نتائج پیدا کر سکتا ہے۔
یہی وجہ ہے کہ خودمختاری اہم ہے۔
خطرہ یہ نہیں کہ مشین لازماً “زندہ” ہو جائے گی۔
خطرہ یہ ہے کہ ایک ایسا نظام جو خود فیصلے کر سکتا ہے، انسانی نگرانی سے پہلے ہی اپنی غلطی کو عمل میں تبدیل کر سکتا ہے۔
شاید فوری خطرہ مصنوعی ذہانت نہیں بلکہ انسان خود ہو
یہ پہلو اکثر ڈرامائی انداز میں پیش کی جانے والی “مشین بمقابلہ انسان” کی کہانی سے زیادہ اہم ہے۔
انسانیت کو تباہ کرنے کے لیے ضروری نہیں کہ ایک خودمختار مافوق الفطرت مشین پیدا ہو۔
انسان خود بھی طاقتور مصنوعی ذہانت کو غلط مقاصد کے لیے استعمال کر سکتا ہے۔
ذرا تصور کیجیے کہ کسی سائبر حملہ آور کو پہلے ایک پیچیدہ حملے کے لیے ماہر پروگرامروں کی پوری ٹیم درکار ہوتی تھی۔
اگر مصنوعی ذہانت اس کام کو بہت آسان بنا دے تو ایک شخص بھی ایسی کارروائی کرنے کے قابل ہو سکتا ہے جس کے لیے پہلے ایک مکمل تنظیم درکار ہوتی تھی۔
اسی طرح مصنوعی ذہانت جعل سازی، جھوٹی اطلاعات، نگرانی، سیاسی گمراہ کن مہمات اور خطرناک حیاتیاتی تحقیق میں بھی غلط استعمال ہو سکتی ہے۔
ایک معروف مصنوعی ذہانت کمپنی نے ایسے غلط استعمال کی کارروائیوں کو روکنے کی اطلاع دی ہے جن میں سائبر کارروائیوں، نگرانی اور حیاتیاتی تحقیق جیسے حساس شعبے شامل تھے۔
یہ واقعات اس بات کا ثبوت نہیں کہ مصنوعی ذہانت خود انسانیت ختم کر سکتی ہے۔
لیکن یہ ضرور بتاتے ہیں کہ
طاقتور ٹیکنالوجی پہلے ہی انسانوں کی صلاحیتوں کو کئی گنا بڑھا سکتی ہے، چاہے استعمال کرنے والا اچھا ہو یا برا۔
اس لیے اصل سوال صرف یہ نہیں
“کیا مصنوعی ذہانت انسانوں کے خلاف ہو جائے گی؟”
بلکہ یہ بھی ہے:
“انسان مصنوعی ذہانت کے ساتھ کیا کرے گا؟”
خود مصنوعی ذہانت کے بڑے ماہرین بھی ایک رائے نہیں رکھتے
اس بحث کی ایک دلچسپ حقیقت یہ ہے کہ مصنوعی ذہانت کے بعض بنیادی معمار بھی اس کے مستقبل کے بارے میں ایک جیسے خیالات نہیں رکھتے۔
جیفری ہنٹن اور یوشوا بینجیو نے جدید مصنوعی ذہانت کے طویل مدتی خطرات کے بارے میں بارہا خبردار کیا ہے۔
دوسری طرف یان لیکَن، جو جدید مشینی سیکھنے کی بنیاد رکھنے والے ممتاز سائنس دانوں میں شمار ہوتے ہیں، انسانیت کے خاتمے جیسے انتہائی خدشات کے بارے میں کہیں زیادہ محتاط اور شکوک رکھنے والا موقف رکھتے ہیں۔
یہ اختلاف معمولی نہیں۔
یہ تینوں ایسے لوگ ہیں جنہوں نے جدید مصنوعی ذہانت کی بنیاد رکھنے میں اہم کردار ادا کیا۔
ان کا اختلاف ہمیں ایک بنیادی حقیقت بتاتا ہے:
خطرے کے بارے میں سنجیدہ تشویش موجود ہے، لیکن انسانیت کے خاتمے کو یقینی یا لازمی قرار دینے پر کوئی متفقہ سائنسی رائے موجود نہیں۔
اس لیے نہ اندھا خوف درست ہے، نہ اندھا اطمینان۔
بین الاقوامی سلامتی رپورٹ کیا کہتی ہے؟
۲۰۲۶ء کی بین الاقوامی مصنوعی ذہانت سلامتی رپورٹ اس معاملے کو زیادہ متوازن انداز میں دیکھتی ہے۔
رپورٹ مصنوعی ذہانت کے خطرات کو بڑی سطح پر تین حصوں میں تقسیم کرتی ہے:
غلط استعمال، مشینی خرابی اور وسیع تر نظامی خطرات۔
موجودہ نظام غلط معلومات پیدا کر سکتے ہیں، ناقص پروگرام لکھ سکتے ہیں اور بعض حالات میں انسان کو گمراہ کر سکتے ہیں۔
مستقبل میں زیادہ خودکار نظام انسانی نگرانی کے لیے زیادہ مشکل بھی ہو سکتے ہیں۔
لیکن رپورٹ یہ دعویٰ نہیں کرتی کہ موجودہ مصنوعی ذہانت پہلے ہی ایسی طاقت حاصل کر چکی ہے جس سے انسان مکمل طور پر بے اختیار ہو گیا ہے۔
یہ متوازن نتیجہ زیادہ اہم ہے:
انتہائی تباہ کن منظر ابھی حقیقت نہیں بنا، لیکن اس سے متعلق بعض بنیادی صلاحیتیں ترقی کر رہی ہیں۔
کیا مصنوعی ذہانت کی دوڑ خطرہ بڑھا رہی ہے؟
یہ سوال شاید سب سے مشکل ہے۔
مصنوعی ذہانت کسی پرسکون علمی ماحول میں ترقی نہیں کر رہی۔
اس کے پیچھے اربوں ڈالر کی سرمایہ کاری، بڑے مراکزِ حساب، جدید برقی آلات، توانائی، ماہرین اور عالمی سیاسی مقابلہ موجود ہے۔
ہر بڑی کمپنی چاہتی ہے کہ وہ دوسروں سے بہتر نظام پہلے تیار کرے۔
ہر بڑی طاقت چاہتی ہے کہ وہ ٹیکنالوجی میں پیچھے نہ رہ جائے۔
سرمایہ کار منافع چاہتے ہیں۔
حکومتیں معاشی اور دفاعی برتری چاہتی ہیں۔
اور یہی مقابلہ ایک مشکل سوال پیدا کرتا ہے
اگر ایک کمپنی یا ملک رفتار کم کرے اور دوسرے اپنی رفتار برقرار رکھیں تو کیا وہ پیچھے رہ جائے گا؟
یہ صورتحال حفاظتی اصولوں پر عمل کرنا مشکل بنا سکتی ہے۔
اس کا مطلب یہ نہیں کہ مصنوعی ذہانت بنانے والی ہر کمپنی غیر ذمہ دار ہے۔
لیکن اس کا مطلب ضرور ہے کہ صرف کمپنیوں کی نیک نیتی پر انحصار کافی نہیں۔
کیا مصنوعی ذہانت بنانے والی کمپنیاں سلامتی کو نظر انداز کر رہی ہیں؟
یہ کہنا بھی درست نہیں ہوگا۔
بڑی مصنوعی ذہانت کی کمپنیوں نے خطرات کی نگرانی، جانچ اور حفاظتی اصولوں کے لیے باقاعدہ نظام قائم کیے ہیں۔
مثلاً ایک معروف ادارے نے ایسی پالیسی متعارف کرائی ہے جس کے تحت مصنوعی ذہانت کی صلاحیت بڑھنے کے ساتھ حفاظتی انتظامات بھی بڑھانے کا اصول اپنایا گیا ہے۔
یہاں ایک دلچسپ تضاد سامنے آتا ہے۔
وہی ادارے جو زیادہ طاقتور مصنوعی ذہانت تیار کر رہے ہیں، وہی اس کے ممکنہ خطرات پر تحقیق بھی کر رہے ہیں۔
یہ لازماً منافقت نہیں۔
درحقیقت یہ اس پورے شعبے کا بنیادی مسئلہ ہے
ہم ایسی ٹیکنالوجی کیسے بنائیں جو دنیا کو بدلنے کی طاقت رکھتی ہو، لیکن اتنی بے قابو نہ ہو کہ ایک دن انسان اسے روکنے کے قابل ہی نہ رہے؟
کیا مصنوعی ذہانت کے خطرات سے متعلق وارننگز میں تجارتی مفاد بھی ہو سکتا ہے؟
یہ سوال اٹھانا جائز ہے، لیکن اسے سازشی نظریے میں تبدیل کرنا مناسب نہیں۔
بڑی کمپنیوں کے پاس اپنی ٹیکنالوجی کو انتہائی طاقتور اور انقلابی ثابت کرنے کے تجارتی مفادات موجود ہیں۔
اسی طرح بعض کمپنیوں کے لیے سخت ضابطے اس لحاظ سے فائدہ مند بھی ہو سکتے ہیں کہ چھوٹی حریف کمپنیاں ان ضابطوں کی پابندی کا بوجھ آسانی سے برداشت نہ کر سکیں۔
اس لیے کمپنیوں کے بیانات کو تنقیدی نظر سے دیکھنا چاہیے۔
لیکن دوسری انتہا بھی درست نہیں۔
کسی کمپنی کے تجارتی مفادات کا ہونا اس بات کا ثبوت نہیں کہ اس کے ماہرین کی تمام حفاظتی وارننگز جھوٹی ہیں۔
ایک شخص بیک وقت کسی ٹیکنالوجی سے فائدہ بھی اٹھا سکتا ہے اور اس کے خطرات سے خوف زدہ بھی ہو سکتا ہے۔
دونوں حقیقتیں ایک ساتھ موجود ہو سکتی ہیں۔
حقیقی زندگی کا سبق: خطرہ ہمیشہ تب معلوم نہیں ہوتا جب وہ سامنے آ جائے
انسانی تاریخ ہمیں ایک اہم سبق دیتی ہے۔
جب جوہری ٹیکنالوجی سامنے آئی تو انسان کو اس کی بے مثال افادیت بھی نظر آئی اور اس کی تباہ کن طاقت بھی۔
دنیا نے صرف یہ نہیں کہا کہ خطرہ بہت بڑا ہے، اس لیے ٹیکنالوجی کو نظر انداز کر دو۔
اور نہ ہی یہ کہا کہ چونکہ فائدے بہت ہیں، اس لیے خطرات کو بھول جاؤ۔
اس کے بجائے حفاظتی نظام، معاہدے، نگرانی، کمانڈ کے اصول اور بین الاقوامی انتظامات تشکیل دیے گئے۔
مصنوعی ذہانت اور جوہری ٹیکنالوجی ایک جیسی نہیں ہیں۔
لیکن اصول ایک حد تک یکساں ہے
جب کسی ٹیکنالوجی کی ناکامی کے نتائج انتہائی تباہ کن ہو سکتے ہوں تو سلامتی کو بعد کا کام نہیں بنایا جا سکتا۔
حکومتوں کو کیا کرنا چاہیے؟
حل صرف یہ نہیں کہ مصنوعی ذہانت پر مکمل پابندی لگا دی جائے۔
دوسرا راستہ یہ بھی نہیں کہ ہر کمپنی کو بغیر کسی نگرانی کے کچھ بھی کرنے دیا جائے۔
زیادہ متوازن راستہ یہ ہے کہ ترقی اور سلامتی ساتھ ساتھ چلیں۔
آزادانہ جانچ
انتہائی طاقتور مصنوعی ذہانت کے نظاموں کو صرف بنانے والی کمپنی نہیں بلکہ آزاد ماہرین بھی جانچیں۔
استعمال سے پہلے حفاظتی جائزہ
ایسے نظام جو خودکار طور پر حساس کام انجام دے سکتے ہوں، انہیں وسیع پیمانے پر استعمال سے پہلے زیادہ سخت جانچ سے گزارا جائے۔
انسانی نگرانی
اہم شعبوں میں مشینی نظام کے پاس انسانی مداخلت اور فوری روکنے کا قابلِ اعتماد طریقہ موجود ہونا چاہیے۔
مسلسل نگرانی
یہ فرض نہیں کر لینا چاہیے کہ جو نظام تجربہ گاہ میں محفوظ تھا وہ حقیقی دنیا میں بھی ہمیشہ محفوظ رہے گا۔
سنگین واقعات کی اطلاع
غیر معمولی یا خطرناک واقعات کو مناسب حفاظتی طریقے سے ریکارڈ اور رپورٹ کیا جانا چاہیے تاکہ پوری دنیا ایک ہی غلطی بار بار نہ دہرائے۔
تحقیق کرنے والوں کا تحفظ
اگر کوئی محقق کسی سنگین خطرے کی نشاندہی کرے تو اسے اپنی بات رکھنے کے لیے محفوظ اور مؤثر راستہ ملنا چاہیے۔
عالمی تعاون
مصنوعی ذہانت کسی ایک ملک کی سرحدوں تک محدود نہیں۔ سائبر حملے، معلومات، پروگرام اور ٹیکنالوجی دنیا بھر میں پھیل سکتے ہیں۔
اس لیے کسی ایک ملک کے لیے تنہا اس پورے مسئلے کو حل کرنا ممکن نہیں۔
پاکستان کے لیے اس بحث کا کیا مطلب ہے؟
پاکستان میں شاید یہ سوال بہت دور کا محسوس ہو کہ مستقبل میں کوئی انتہائی طاقتور مصنوعی ذہانت انسانیت کے لیے خطرہ بن سکتی ہے۔
لیکن مصنوعی ذہانت کے فوری خطرات ہمارے لیے پہلے ہی اہم ہیں۔
سائبر سلامتی، جعلی ویڈیوز، جھوٹی خبریں، مالی دھوکا دہی، روزگار میں تبدیلی، دفاعی استعمال، معلومات کا تحفظ اور بیرونی ٹیکنالوجی پر انحصار ایسے مسائل ہیں جنہیں نظر انداز نہیں کیا جا سکتا۔
مثلاً تصور کیجیے کہ کسی سیاسی رہنما کی مصنوعی طور پر تیار کردہ جعلی ویڈیو سماجی ذرائع ابلاغ پر لاکھوں افراد تک چند گھنٹوں میں پہنچ جائے۔
لوگ اسے سچ سمجھ کر ردعمل دیں۔
بعد میں معلوم ہو کہ ویڈیو جعلی تھی۔
تب تک نقصان ہو چکا ہوگا۔
اسی طرح کسی شخص کی مصنوعی آواز میں خاندان کے کسی فرد کو پیغام بھیجا جائے کہ فوری رقم کی ضرورت ہے۔
آواز بالکل اصلی محسوس ہو۔
ایسے واقعات کے لیے مستقبل کی مافوق الفطرت مشین کی ضرورت نہیں۔
یہ مصنوعی ذہانت کے موجودہ دور کے زیادہ فوری خطرات ہیں۔
پاکستان کو اس لیے یہ پیش گوئی کرنے کی ضرورت نہیں کہ مافوق الفطرت مشینی ذہانت ۲۰۳۰ء میں آئے گی یا ۲۰۵۰ء میں۔
ضرورت اس بات کی ہے کہ ملک اپنی تکنیکی، تعلیمی، قانونی اور حفاظتی صلاحیت اتنی مضبوط کرے کہ مصنوعی ذہانت جس رفتار سے بھی ترقی کرے، پاکستان مکمل طور پر بے بس نہ ہو۔
مصنوعی ذہانت کے قیامت خیز خدشات کے خلاف سب سے مضبوط دلیل کیا ہے؟
اس بحث کی سب سے بڑی کمزوری بہت سادہ ہے
کوئی بھی شخص یقین سے نہیں جانتا کہ مصنوعی ذہانت کتنی تیزی سے ترقی کرے گی۔
بین الاقوامی سلامتی رپورٹ بھی مستقبل کی ترقی کے بارے میں کئی امکانات بیان کرتی ہے۔
رفتار کم ہو سکتی ہے۔
ترقی موجودہ رفتار سے جاری رہ سکتی ہے۔
یا مصنوعی ذہانت خود مصنوعی ذہانت کی تحقیق میں مدد دینے لگے تو ترقی کی رفتار بہت تیز بھی ہو سکتی ہے۔
اس لیے جو شخص کہتا ہے
“مصنوعی ذہانت یقینی طور پر انسانیت کو ختم کر دے گی”
وہ ایسے مستقبل کے بارے میں یقین کا دعویٰ کر رہا ہے جس کا علم ہمارے پاس نہیں۔
لیکن جو شخص کہتا ہے
“مصنوعی ذہانت کبھی انسانیت کو ختم نہیں کر سکتی”
وہ بھی ایسے مستقبل کے بارے میں یقین کا دعویٰ کر رہا ہے جس کا علم ہمارے پاس نہیں۔
سچ شاید ان دونوں انتہاؤں کے درمیان ہے۔
ہم نہیں جانتے۔
اور یہ نہ جاننا خطرے سے محفوظ ہونے کے برابر نہیں۔
تو کیا مصنوعی ذہانت واقعی انسانیت کو ختم کر سکتی ہے؟
آج کی تاریخ میں ہمارے پاس ایسا کوئی ثبوت نہیں کہ موجودہ مصنوعی ذہانت خودمختار طور پر پوری انسانیت کو ختم کر سکتی ہے۔
اسی طرح ہمارے پاس یہ ثابت کرنے کا بھی کوئی سائنسی جواز نہیں کہ مستقبل کی انتہائی طاقتور مصنوعی ذہانت لازماً بے ضرر رہے گی۔
ایون ہیوبنگر کا دس فیصد سے زیادہ کا اندازہ اسی لیے ایک ماہر کی وارننگ کے طور پر دیکھا جانا چاہیے، قطعی پیش گوئی کے طور پر نہیں۔
جیکب کاکسن کا استعفیٰ ایک اور اندرونی انتباہ فراہم کرتا ہے کہ مصنوعی ذہانت کی ترقی کی رفتار اور حفاظتی تحقیق کی رفتار کے درمیان فاصلہ پیدا ہونے کا خدشہ موجود ہے۔
دوسری طرف بین الاقوامی سلامتی رپورٹ ایک محتاط تصویر پیش کرتی ہے
موجودہ نظام ابھی انسانی قابو سے مکمل آزادی کے لیے درکار تمام صلاحیتیں نہیں رکھتے، لیکن مستقبل کے ایسے منظرناموں سے متعلق بعض صلاحیتیں ترقی کر رہی ہیں۔
اب انسانیت کے سامنے ایک مشکل انتخاب ہے۔
کیا ہم مکمل یقین کا انتظار کریں؟
یا اس وقت تیاری شروع کریں جب خطرہ ابھی مکمل طور پر حقیقت نہیں بنا؟
اصل سوال مصنوعی ذہانت کے انسانیت کو ختم کرنے کا نہیں
شاید سب سے اہم سوال یہ نہیں
“کیا مصنوعی ذہانت انسانیت کو ختم کر دے گی؟”
بلکہ یہ ہے
“کیا انسان مصنوعی ذہانت کے ناقابلِ واپسی نقصان پہنچانے کے قابل ہونے سے پہلے مناسب حفاظتی انتظامات تیار کر لے گا؟”
اس سوال کے لیے نہ خوف کی ضرورت ہے، نہ اندھے اعتماد کی۔
اس کے لیے دانش مندی، احتیاط اور تیاری درکار ہے۔
ممکن ہے دس فیصد کا اندازہ مستقبل میں بالکل غلط ثابت ہو۔
ممکن ہے خطرہ اس سے کہیں کم ہو۔
ممکن ہے اس سے کہیں زیادہ ہو۔
لیکن اگر غلط اندازے کی قیمت پوری انسانیت کا وجود ہو تو صرف اس وجہ سے خطرے کو نظر انداز کرنا کہ ابھی یقین نہیں، ایک خطرناک تجربہ ہوگا۔
مصنوعی ذہانت انسانیت کی عظیم ترین کامیابیوں میں سے ایک ثابت ہو سکتی ہے۔
یہ انسانیت کے عظیم ترین امتحانات میں سے ایک بھی بن سکتی ہے۔
آخرکار معاملہ صرف یہ نہیں ہوگا کہ ہماری مشینیں کتنی ذہین ہو گئیں۔
اصل سوال یہ ہوگا کہ
کیا انسانی عقل، ذمہ داری، احتیاط اور باہمی تعاون بھی اتنی ہی تیزی سے ترقی کر سکے؟
ٹیکنالوجی انسان کو طاقت دیتی ہے، لیکن اس طاقت کا استعمال انسانی دانائی طے کرتی ہے۔
اداریاتی نقطۂ نظر
مصنوعی ذہانت سے انسانیت کے خاتمے کی بحث کو ٹیکنالوجی کے حامیوں اور خوف زدہ لوگوں کی ایک اور جنگ نہیں بننا چاہیے۔
دونوں انتہائیں گمراہ کر سکتی ہیں۔
اندھا اعتماد معاشرے کو حقیقی خطرات سے بے خبر کر سکتا ہے، جبکہ اندھا خوف مصنوعی ذہانت کے بے شمار ممکنہ فوائد کو نظر انداز کر سکتا ہے۔
زیادہ ذمہ دار راستہ احتیاط کے ساتھ ترقی ہے۔
دس فیصد سے زیادہ کا اندازہ اس بات کا ثبوت نہیں کہ تباہی آنے والی ہے۔
لیکن کسی ممکنہ تباہی کے وقوع پذیر ہونے کا ثبوت ملنے تک انتظار کرنا بھی دانش مندی نہیں، خاص طور پر جب ممکنہ نقصان ناقابلِ تلافی ہو۔
اگر کسی ٹیکنالوجی کے غلط استعمال یا بے قابو ہونے سے پوری انسانیت متاثر ہو سکتی ہے تو مناسب حفاظتی انتظامات خوف نہیں بلکہ دور اندیشی ہیں۔
مصنف کا تعارف
میجرحامد محمود (ریٹائرڈ) نے سیاسیات میں ایم اے، قانون میں ایل ایل بی اور انتظامِ افرادی قوت میں پوسٹ گریجویٹ ڈپلومہ حاصل کیا ہے۔ وہ مصنف، مدون، مواد تخلیق کار، سابق مشیرِ سلامتی اور تربیت کار ہیں۔ ان کی تحریری دلچسپیوں میں عالمی سیاست، عوامی پالیسی، معاشرہ، ٹیکنالوجی، عالمی سلامتی اور انسانیت سے متعلق اہم مسائل شامل ہیں۔
اکثر پوچھے جانے والے سوالات
۱۔ کیا واقعی ایک معروف مصنوعی ذہانت کے محقق نے کہا ہے کہ مصنوعی ذہانت انسانیت کو ختم کرنے کا دس فیصد سے زیادہ امکان رکھتی ہے؟
جی ہاں۔ معروف محقق ایون ہیوبنگر نے کہا ہے کہ ان کے ذاتی اندازے کے مطابق اگلی دہائی میں مصنوعی ذہانت کے ذریعے پوری انسانیت کے خاتمے کا امکان دس فیصد سے زیادہ ہے۔ تاہم یہ سائنسی طور پر ناپا گیا تناسب نہیں بلکہ ایک ماہر کا ذاتی اندازہ ہے۔
۲۔ کیا آج کی مصنوعی ذہانت انسانیت کو ختم کر سکتی ہے؟
موجودہ شواہد کی بنیاد پر ایسا نہیں کہا جا سکتا۔ موجودہ نظام ابھی ان تمام صلاحیتوں کے حامل نہیں جن کی بنیاد پر مکمل خودمختاری اور انسانی قابو سے باہر ہونے کا انتہائی منظرنامہ پیدا ہو سکے۔
۳۔ مصنوعی ذہانت کو انسانی مقاصد سے ہم آہنگ کرنے کا مسئلہ کیا ہے؟
اس سے مراد یہ یقینی بنانا ہے کہ انتہائی طاقتور مشینی نظام انسان کی ہدایات ہی نہیں بلکہ ان کے اصل مقصد اور مفاد کے مطابق بھی کام کریں اور ایسے نتائج پیدا نہ کریں جو انسان کے لیے نقصان دہ ہوں۔
۴۔ جیکب کاکسن نے استعفیٰ کیوں دیا؟
انہوں نے مصنوعی ذہانت کی بڑھتی ہوئی طاقت، ممکنہ خودکار اور خود کو بہتر بنانے والی صلاحیتوں اور حفاظتی انتظامات کی رفتار کے بارے میں تشویش ظاہر کی۔ ان کے خیال میں ترقی کی دوڑ بہت تیز ہو سکتی ہے۔
۵۔ کیا مصنوعی ذہانت کے تمام بڑے ماہرین انسانیت کے خاتمے کے خطرے پر متفق ہیں؟
نہیں۔ ممتاز ماہرین میں اس مسئلے پر واضح اختلاف پایا جاتا ہے۔ بعض ماہرین، جن میں جیفری ہنٹن اور یوشوا بینجیو شامل ہیں، سنگین طویل مدتی خطرات کے بارے میں خبردار کرتے ہیں، جبکہ یان لیکَن جیسے ماہرین انسانیت کے خاتمے کے خدشات کے بارے میں زیادہ محتاط اور شکوک رکھنے والا موقف رکھتے ہیں۔
۶۔ کیا حکومتوں کو جدید مصنوعی ذہانت پر پابندی لگا دینی چاہیے؟
مکمل پابندی واحد راستہ نہیں۔ زیادہ متوازن حکمت عملی میں آزادانہ جانچ، خطرے کی بنیاد پر قوانین، مسلسل نگرانی، انسانی اختیار، سنگین واقعات کی رپورٹنگ اور عالمی تعاون شامل ہو سکتے ہیں، تاکہ مفید ترقی بھی جاری رہے اور خطرات بھی قابو میں رہیں۔
تلاش اور درجہ بندی کے لیے معلومات
مرکزی کلیدی فقرہ: کیا مصنوعی ذہانت انسانیت کو ختم کر سکتی ہے
متعلقہ کلیدی موضوعات
مصنوعی ذہانت کا خطرہ، مصنوعی ذہانت اور انسانیت، مصنوعی ذہانت کی سلامتی، مصنوعی ذہانت سے انسانیت کے خاتمے کا خدشہ، مصنوعی ذہانت کی انسانی مقاصد سے ہم آہنگی، خودکار مشینی نظام، مافوق الفطرت مشینی ذہانت، مصنوعی ذہانت کے عالمی خطرات، مصنوعی ذہانت کے قوانین
