کیا اے آئی انسان کے قابو سے نکل رہی ہے؟ نئے واقعات نے ماہرین کو تشویش میں ڈال دیا

اوپن اے آئی نے اپنی تحقیقات کے دوران مصنوعی ذہانت کے کچھ خودکار ایجنٹس سے متعلق مزید ایسے واقعات کا جائزہ لیا ہے جن میں یہ نظام محدود آزمائشی ماحول سے باہر جانے کی کوشش کرتے دکھائی دیے۔
رپورٹس کے مطابق یہ تحقیقات ایک حالیہ سائبر سیکیورٹی واقعے کے بعد شروع کی گئی تھیں، جس کے دوران ایک اے آئی ایجنٹ کی سرگرمی نے ماہرین کی توجہ حاصل کی۔ تاہم دستیاب معلومات کے مطابق ایسا کوئی ثبوت سامنے نہیں آیا کہ کوئی اے آئی ایجنٹ اوپن اے آئی کے اندرونی نظام سے باہر نکلنے میں کامیاب ہوا ہو۔
کمپنی کا کہنا ہے کہ وہ اپنے اے آئی ماڈلز اور خودکار نظاموں کے رویّوں کا مسلسل جائزہ لے رہی ہے تاکہ ممکنہ خطرات کو بہتر انداز میں سمجھا جا سکے اور حفاظتی اقدامات کو مزید مضبوط بنایا جا سکے۔
ماہرین کے مطابق جدید اے آئی سسٹمز تیزی سے خودکار فیصلے کرنے کی صلاحیت حاصل کر رہے ہیں، جس کے باعث ان کی نگرانی، حدود کا تعین اور محفوظ استعمال ایک اہم چیلنج بنتا جا رہا ہے۔
حفاظتی ماہرین نے خبردار کیا ہے کہ اے آئی ٹیکنالوجی کی ترقی کی رفتار کے مقابلے میں اس کے لیے حفاظتی نظام اور نگرانی کے طریقہ کار کو بھی تیزی سے بہتر بنانے کی ضرورت ہے۔
رپورٹس کے مطابق اوپن اے آئی نے تحقیقات کا دائرہ اس وقت بڑھایا جب دوسری اے آئی کمپنیوں کی جانب سے بھی ایسے واقعات سامنے آئے جن میں مصنوعی ذہانت کے ماڈلز سیکیورٹی سے متعلق مسائل میں شامل پائے گئے۔
تحقیقات کے دوران کمپنی پرانے ریکارڈز اور سسٹم لاگز کا بھی جائزہ لے رہی ہے تاکہ یہ معلوم کیا جا سکے کہ ماضی میں بھی ایسے واقعات پیش آئے تھے یا نہیں۔
ماہرین کا کہنا ہے کہ یہ صورتحال حکومتوں اور قانون ساز اداروں کے لیے ایک اہم سوال پیدا کرتی ہے کہ طاقتور اے آئی ٹیکنالوجی کی نگرانی کے لیے کس حد تک قواعد و ضوابط ضروری ہیں۔
امریکا اور یورپ میں بھی اے آئی سیفٹی، ماڈل ٹیسٹنگ اور خودکار نظاموں کی نگرانی سے متعلق اقدامات پر بات چیت میں اضافہ ہوا ہے۔ حکام کا کہنا ہے کہ نئی ٹیکنالوجی کے فوائد حاصل کرنے کے ساتھ ساتھ ممکنہ خطرات کو کم کرنا بھی ضروری ہے۔
ماہرین کے مطابق مستقبل میں اے آئی ایجنٹس کے زیادہ استعمال کے ساتھ ایسی ٹیکنالوجیز کے لیے مضبوط حفاظتی معیار، شفاف نگرانی اور ذمہ دارانہ استعمال کے اصول مزید اہم ہو جائیں گے۔