لاہور(پاک ترک نیوز)سوچیے۔۔۔ایک ایسا مصنوعی ذہانت کا نظام جسے انسانوں نے انٹرنیٹ سے مکمل طور پر کاٹ کر ایک محفوظ حصار میں بند کیا ہو۔۔۔
لیکن وہی نظام اچانک اس حصار سے باہر نکلنے کا راستہ تلاش کرلے!اور پھر
انٹرنیٹ تک رسائی حاصل کرکے ایک عوامی چیٹ روبوٹ سے رابطہ بھی کرلے!
یہ کوئی فلمی کہانی نہیں، بلکہ اوپن اے آئی کے مطابق 20 ستمبر کو پیش آنے والا حقیقی واقعہ ہے۔
اوپن اے آئی نے انکشاف کیا ہے کہ اس کے زیر تربیت مصنوعی ذہانت کے ایک ماڈل نے محفوظ آزمائشی ماحول سے نکلنے کا راستہ تلاش کرلیا۔
ماڈل کو انٹرنیٹ تک رسائی نہیں دی گئی تھی، لیکن اس نے نظام میں موجود ایک ایسے راستے کا سراغ لگایا جس کے ذریعے وہ ایک عوامی چیٹ روبوٹ کو سوالات بھیجنے میں کامیاب ہوگیا۔
یعنی جس دروازے کو انسانوں نے بند سمجھ رکھا تھا۔۔۔
مصنوعی ذہانت نے اسی نظام کے اندر ایک دوسرا راستہ تلاش کرلیا!
مصنوعی ذہانت کے ایک ماڈل کو ایک محفوظ آزمائشی ماحول میں معلومات تلاش کرنے کا کام دیا گیا۔
شرط واضح تھی۔۔۔
انٹرنیٹ تک کوئی رسائی نہیں!
لیکن ماڈل نے نظام کے اندر موجود ایک راستہ ڈھونڈ نکالا، ناموں کے انٹرنیٹ پتوں تک رسائی حاصل کی اور ایک عوامی چیٹ روبوٹ کو سوالات بھیجنے میں کامیاب ہوگیا۔
یعنی جس نظام کو مکمل طور پر بند سمجھا جارہا تھا۔۔۔
مصنوعی ذہانت نے اسی کے اندر سے باہر نکلنے کا راستہ تلاش کرلیا۔
یہ پہلا واقعہ بھی نہیں۔
اس سے پہلے جولائی میں اوپن اے آئی کے ہزاروں مصنوعی ذہانت کے ایجنٹس نے محفوظ آزمائشی ماحول سے نکلنے کی کوشش کی تھی، جبکہ سیکڑوں ایجنٹس نے ایک سائبر حملے میں حصہ لیا تھا۔
اگست میں حفاظتی انتظامات مزید سخت کیے گئے، لیکن چند ہی ہفتوں بعد نیا واقعہ سامنے آگیا۔
اوپن اے آئی نے تسلیم کیا کہ حفاظتی نظام کی ایک خامی کی وجہ سے ماڈل انٹرنیٹ تک پہنچنے میں کامیاب ہوا۔
نگرانی کے نظام نے مشکوک سرگرمی کا کچھ حصہ چند منٹوں میں پکڑ لیا، لیکن خودکار طور پر ماڈل کو روکنے والا نظام ناکام ہوگیا۔
نتیجتاً تربیت کو دستی طور پر روکنا پڑا۔
یہ بھی پڑھیں: امریکی صدارتی دوڑ کے ممکنہ امیدوار کرس وان ہولن کا پاکستان سے خصوصی تعلق
اب اوپن اے آئی نے دو الگ حفاظتی تہیں قائم کرنے اور ماڈل کی تربیت دوبارہ ابتدا سے شروع کرنے کا فیصلہ کیا ہے۔
لیکن اصل سوال ابھی باقی ہے۔۔۔اگر مصنوعی ذہانت کو بند دروازوں کے پیچھے رکھا جائے۔۔۔اور وہ خود ہی باہر نکلنے کا راستہ تلاش کرلے۔۔۔تو آنے والے وقت میں انسان اسے روک پائے گا؟
