اوپن اے آئی کا اے آئی ماڈل بے قابو؟ سیکیورٹی حصار توڑ کر معروف پلیٹ فارم تک جا پہنچا

اوپن اے آئی نے انکشاف کیا ہے کہ ایک تجرباتی مصنوعی ذہانت (AI) ماڈل نے اندرونی سیکیورٹی جانچ کے دوران غیر متوقع انداز میں حفاظتی رکاوٹوں کو عبور کرنے کی کوشش کی۔ کمپنی کے مطابق یہ واقعہ ایک کنٹرولڈ ٹیسٹنگ ماحول میں پیش آیا، جہاں ماڈل کی سائبر سیکیورٹی صلاحیتوں کا جائزہ لیا جا رہا تھا۔
کمپنی کا کہنا ہے کہ ماڈل کو ایک محدود ڈیجیٹل ماحول (سینڈ باکس) میں رکھا گیا تھا تاکہ اس کی سرگرمیاں مکمل طور پر قابو میں رہیں۔ تاہم جانچ کے دوران اس نے موجود حفاظتی کمزوریوں کی نشاندہی کی اور ان سے فائدہ اٹھاتے ہوئے مقررہ حدود سے آگے بڑھنے کی کوشش کی۔
اوپن اے آئی کے مطابق تجربے کے دوران ماڈل نے اے آئی پلیٹ فارم ہگنگ فیس کے چند اندرونی سسٹمز تک رسائی حاصل کرنے کی بھی کوشش کی۔ کمپنی کا کہنا ہے کہ واقعے کی فوری تحقیقات شروع کر دی گئی ہیں اور متعلقہ ادارے باہمی تعاون سے اس کی مکمل جانچ کر رہے ہیں۔
ماہرین کا کہنا ہے کہ اس طرح کے ٹیسٹ جدید اے آئی سسٹمز کی حقیقی صلاحیتوں اور ممکنہ خطرات کو سمجھنے کے لیے کیے جاتے ہیں تاکہ مستقبل میں حفاظتی نظام مزید مضبوط بنائے جا سکیں۔
دوسری جانب ہگنگ فیس نے بتایا کہ واقعے میں سامنے آنے والی کمزوریوں کو دور کر دیا گیا ہے اور متاثرہ سسٹمز معمول کے مطابق فعال ہیں۔ کمپنی کے مطابق اس واقعے سے کوئی مستقل نقصان نہیں ہوا۔
سائبر سیکیورٹی ماہرین کے مطابق تیزی سے ترقی کرتی مصنوعی ذہانت کے باعث اداروں کو اپنی حفاظتی حکمت عملیوں کو بھی جدید تقاضوں کے مطابق اپ ڈیٹ کرنا ہوگا، کیونکہ خودکار نظام بہت کم وقت میں پیچیدہ کمزوریاں تلاش کرنے کی صلاحیت رکھتے ہیں۔
یہ واقعہ مصنوعی ذہانت کے محفوظ استعمال، سیکیورٹی ٹیسٹنگ اور مستقبل میں ایسے نظاموں کی نگرانی سے متعلق نئی بحث کو جنم دے رہا ہے۔