سائبر سکیورٹی خدشات، گوگل نے نئے اے آئی ماڈل کی رسائی محدود کردی

ویب ڈیسک: مصنوعی ذہانت کے طاقتور ہوتے ماڈلز کے ممکنہ غلط استعمال سے متعلق خدشات کے پیش نظر گوگل نے اپنے نئے اے آئی ماڈل جیمنائی 4 آرگن کی عوامی دستیابی فی الحال محدود رکھنے کا فیصلہ کیا ہے۔

گوگل کے مطابق ماڈل کو ابتدائی مرحلے میں منتخب سائبر سکیورٹی ماہرین اور امریکی حکام کے ساتھ آزمایا جائے گا۔ اس عمل کا مقصد ماڈل کی جدید صلاحیتوں کے ساتھ ساتھ ان سے پیدا ہونے والے ممکنہ سکیورٹی خطرات کا جائزہ لینا ہے۔

کمپنی کا کہنا ہے کہ جدید اے آئی سسٹمز کو وسیع پیمانے پر متعارف کرانے سے پہلے مرحلہ وار جانچ زیادہ محفوظ طریقہ ہے۔ ماہرین کی جانب سے حاصل ہونے والی آرا اور تجربات کا جائزہ لینے کے بعد ماڈل کی عوامی دستیابی سے متعلق اگلا فیصلہ کیا جائے گا۔

گوگل کے مطابق جیمنائی 4 آرگن پیچیدہ سافٹ ویئر انجینئرنگ، قانونی و مالیاتی کاموں اور سائبر سکیورٹی سمیت متعدد شعبوں میں جدید صلاحیتیں رکھتا ہے۔ خاص طور پر یہ کمپیوٹر پروگرامز میں موجود سکیورٹی خامیوں کی نشاندہی اور ان کے حل میں مدد دے سکتا ہے۔

ابتدائی تجربات کے دوران ماڈل نے اسپتالوں میں استعمال ہونے والے سافٹ ویئر میں ایک ایسی سکیورٹی خامی کی نشاندہی کی جس سے حساس معلومات غیر مجاز افراد تک پہنچنے کا امکان پیدا ہو سکتا تھا۔ گوگل کے مطابق آزمائش میں شامل دیگر جدید اے آئی ماڈلز اس خامی کی نشاندہی نہیں کر سکے۔

تاہم کمپنی نے ماڈل میں حفاظتی پابندیاں بھی شامل کی ہیں تاکہ اسے سائبر حملوں یا کیمیائی، حیاتیاتی اور جوہری ہتھیاروں کی تیاری سے متعلق خطرناک ہدایات پر عمل کرنے سے روکا جا سکے۔

گوگل نے اے آئی مِس الائنمنٹ کے ممکنہ خطرے کو بھی اپنی نگرانی میں رکھا ہے۔ اس اصطلاح سے مراد ایسی صورت حال ہے جس میں اے آئی سسٹم کسی کام کو صارف کی ہدایت یا مقررہ حدود سے مختلف انداز میں انجام دینے لگے۔ کمپنی ماڈل کے استدلال اور اس کے کام کرنے کے طریقۂ کار کی نگرانی کے ذریعے ایسے امکانات کا جائزہ لے رہی ہے۔

اے آئی کی سائبر سکیورٹی صلاحیتوں میں اضافے کے ساتھ یہ بحث بھی شدت اختیار کر رہی ہے کہ طاقتور ماڈلز کو عام صارفین کے لیے دستیاب کرنے سے قبل کس حد تک حفاظتی جانچ ضروری ہے۔ گوگل کا موجودہ طریقہ کار اسی بحث میں احتیاطی اور مرحلہ وار ریلیز کی ایک مثال کے طور پر سامنے آیا ہے۔