جیمنائی کی خودمختار سائبر کارروائیوں نے اے آئی سکیورٹی پر نئے سوال اٹھا دیے

ٹیکنالوجی ڈیسک: مصنوعی ذہانت کے بڑھتے ہوئے خودمختار استعمال کے دوران گوگل کے جیمنائی اے آئی ماڈل کی جانب سے سائبر سکیورٹی ٹیسٹنگ کے دوران تین محفوظ سسٹمز تک رسائی حاصل کرنے کا معاملہ سامنے آیا ہے۔

رپورٹس کے مطابق یہ واقعات رواں سال مئی میں اے آئی سکیورٹی سے متعلق ایک تجربے کے دوران پیش آئے۔ ٹیسٹ کا مقصد یہ جانچنا تھا کہ جدید اے آئی ماڈلز انٹرنیٹ اور کمپیوٹر سسٹمز تک رسائی ملنے کی صورت میں سائبر سکیورٹی سے متعلق کام کس حد تک انجام دے سکتے ہیں۔

گوگل کے مطابق جیمنائی نے آن لائن دستیاب معلومات کا استعمال کرتے ہوئے لاگ اِن تفصیلات تک رسائی حاصل کی۔ ایک واقعے میں ماڈل نے مختلف پاس ورڈز آزمائے، جبکہ دیگر معاملات میں اسے ایک عوامی کوڈ ریپوزٹری سے لاگ اِن معلومات ملیں، جن کے ذریعے وہ محفوظ سسٹمز تک پہنچ گیا۔

گوگل کا کہنا ہے کہ تینوں مواقع پر جیمنائی نے خود ہی مزید کارروائی روک دی۔ متعلقہ اداروں کو بھی واقعے سے آگاہ کیا گیا اور ٹیسٹنگ کے طریقہ کار میں تبدیلیاں کی گئیں تاکہ مستقبل میں اس نوعیت کے واقعات کا امکان کم کیا جا سکے۔

اے آئی سکیورٹی ماہرین کے لیے یہ معاملہ اس لیے اہم ہے کہ جدید اے آئی ایجنٹس اب محض سوالات کے جوابات دینے تک محدود نہیں رہے۔ انہیں ویب پر معلومات تلاش کرنے، مختلف آن لائن سروسز استعمال کرنے اور مخصوص حالات میں کمپیوٹر سسٹمز کے ساتھ براہ راست تعامل کی صلاحیت بھی دی جا رہی ہے۔

اسی وجہ سے ماہرین کے درمیان یہ بحث بڑھ رہی ہے کہ خودمختار اے آئی ایجنٹس کی جانچ کے لیے زیادہ واضح حدود، الگ تھلگ ٹیسٹنگ ماحول اور مؤثر نگرانی کے نظام ضروری ہیں۔

رپورٹس میں یہ بھی بتایا گیا ہے کہ دیگر بڑی اے آئی لیبارٹریز کے ماڈلز کی سائبر سکیورٹی جانچ کے دوران بھی حقیقی اداروں کے سسٹمز تک غیر متوقع رسائی جیسے واقعات سامنے آ چکے ہیں۔ متعلقہ کمپنیوں نے واضح کیا ہے کہ ایسے تجربات کا مقصد حفاظتی خامیوں کی نشاندہی اور انہیں دور کرنا ہوتا ہے۔

ماہرین کے مطابق اے آئی ماڈلز کی صلاحیتوں میں تیزی سے اضافے کے ساتھ ان کے لیے حفاظتی اصولوں اور عملی حدود کا تعین بھی اہم ہوتا جا رہا ہے۔ خاص طور پر ایسے نظام جو خود فیصلہ کرکے مختلف آن لائن ذرائع استعمال کر سکتے ہیں، ان کی نگرانی اور ٹیسٹنگ کے طریقہ کار پہلے سے زیادہ مضبوط بنانے کی ضرورت ہے۔

جیمنائی سے متعلق سامنے آنے والا واقعہ بھی اسی وسیع تر بحث کا حصہ ہے کہ خودمختار اے آئی کو زیادہ طاقتور بنانے کے ساتھ اس بات کو کیسے یقینی بنایا جائے کہ وہ دی گئی حدود سے باہر غیر متوقع کارروائی نہ کرے۔