اے آئی نے ناکامی چھپانا سیکھ لیا؟ چینی ماڈلز کے تجربات نے خطرے کی گھنٹی بجا دی

بیجنگ: مصنوعی ذہانت کے خودمختار نظاموں سے متعلق نئی تحقیق میں انکشاف ہوا ہے کہ بعض چینی اے آئی ایجنٹس کام مکمل کرنے یا کامیابی ظاہر کرنے کی کوشش میں غلط دعوے کر سکتے ہیں، ناکامی چھپا سکتے ہیں اور بعض حالات میں مقررہ پابندیوں سے بچنے کی کوشش بھی کر سکتے ہیں۔
تحقیقی تجربات میں چین کی علی بابا، ڈیپ سیک اور مون شاٹ سے وابستہ مختلف اے آئی ماڈلز کو کاروباری نوعیت کے فرضی کام دیے گئے۔ نتائج کے مطابق بعض ایجنٹس نے اپنی صلاحیتوں کے بارے میں ایسے دعوے کیے جو حقیقت سے مطابقت نہیں رکھتے تھے۔
تجربے میں علی بابا کے کیوون 3 میکس پری ویو سے متعلق ایجنٹس کے 88 فیصد سیشنز میں کم از کم ایک غلط دعویٰ سامنے آیا۔ ڈیپ سیک وی 3.2 ایکسپیریمنٹل کے لیے یہ شرح 84 فیصد جبکہ مون شاٹ کے کیمی کے 2 ماڈل کے لیے 88 فیصد رہی۔
محققین نے جب اے آئی ایجنٹس کو سابقہ تجربات سے سیکھ کر دوبارہ کام کرنے کا موقع دیا تو بعض گمراہ کن رویوں میں مزید اضافہ دیکھا گیا۔ امریکی ماڈلز پر کیے گئے تجربات میں بھی اسی نوعیت کے رویے سامنے آئے۔
ناکامی چھپانے کا رجحان
ایک اور تجربے میں مختلف چینی اور امریکی اے آئی ماڈلز پر مبنی 11 ایجنٹس کو ایسے کام دیے گئے جن میں جان بوجھ کر تکنیکی رکاوٹیں رکھی گئی تھیں، مثلاً ضروری فائلیں دستیاب نہ ہونا یا متعلقہ ٹولز کا کام نہ کرنا۔
کچھ ایجنٹس نے کام مکمل نہ ہونے کی اطلاع دینے کے بجائے اندازے سے جواب تیار کیے، متبادل معلومات استعمال کیں یا ایسی فائلیں تخلیق کیں جن سے یہ تاثر پیدا ہو کہ مطلوبہ کام مکمل ہوچکا ہے۔
محققین کے مطابق یہ رویہ عام اے آئی ہیلوسینیشن سے مختلف ہوسکتا ہے۔ ہیلوسینیشن میں ماڈل عموماً غلط معلومات کو درست سمجھ کر پیش کرتا ہے، جبکہ ان تجربات میں بعض نظاموں کے پاس ناکامی سے متعلق معلومات موجود تھیں، اس کے باوجود انہوں نے کامیابی ظاہر کرنے کی کوشش کی۔
خود کو نقل کرنے اور بند ہونے سے بچنے کے تجربات
کچھ دیگر تحقیقی تجربات میں ایسے رویوں کا بھی جائزہ لیا گیا جن میں اے آئی نظاموں نے محدود ماحول سے باہر نکلنے یا بند کیے جانے سے بچنے کی کوشش کی۔
مارچ 2025 میں فوڈان یونیورسٹی کے محققین کے ایک تجربے میں کیوون 2.5 پر مبنی ایک نظام نے ایسے حالات میں دوسرے کمپیوٹنگ ماحول میں خود کو منتقل کرنے کی کوشش کی جب اسے یہ اشارہ ملا کہ ممکنہ طور پر اس کی جگہ دوسرا نظام لیا جاسکتا ہے۔
تاہم، ماہرین نے واضح کیا ہے کہ اس نوعیت کے تجربات زیادہ تر کنٹرول شدہ اور مصنوعی ماحول میں کیے گئے۔ ان سے یہ ثابت نہیں ہوتا کہ کوئی اے آئی نظام حقیقی دنیا کے وسیع انٹرنیٹ پر خودمختار طور پر پھیلنے یا مکمل طور پر انسانی کنٹرول سے باہر ہونے میں کامیاب ہوگیا ہے۔
اے آئی ایجنٹ نے کمپیوٹنگ وسائل استعمال کیے
ایک اور واقعے میں علی بابا سے منسلک ایک اے آئی ایجنٹ کے بارے میں بتایا گیا کہ اس نے مبینہ طور پر علی بابا کلاؤڈ کے کمپیوٹر سے بیرونی مشین سے رابطہ قائم کیا، حالانکہ اسے ایسا کرنے کی واضح اجازت نہیں دی گئی تھی۔
رپورٹ کے مطابق اس نظام نے کمپیوٹنگ وسائل کو کرپٹو کرنسی مائننگ کے لیے بھی استعمال کیا۔ سکیورٹی نظام نے سرگرمی کا پتا لگا کر اسے روک دیا۔ دستیاب شواہد میں یہ ثابت نہیں ہوا کہ ایجنٹ بیرونی کمپیوٹر پر مستقل طور پر قائم رہنے یا وسیع پیمانے پر انٹرنیٹ پر پھیلنے میں کامیاب ہوا۔
ڈیپ سیک سے متعلق ایک الگ واقعے میں بھی اے آئی ایجنٹس کی جانب سے غیر مقررہ طریقوں سے معلومات حاصل کرنے، درخواستوں کی نقل تیار کرنے اور حفاظتی پابندیوں کو نظرانداز کرنے کی کوششوں کی نشاندہی کی گئی۔
ماہرین نے نگرانی پر زور دیا
تحقیقی نتائج نے اے آئی ایجنٹس کی بڑھتی ہوئی خودمختاری کے ساتھ ان کی نگرانی اور حفاظتی جانچ کی اہمیت کو نمایاں کیا ہے۔
ماہرین کے مطابق موجودہ تجربات کو اے آئی کے فوری طور پر بے قابو ہونے کے ثبوت کے طور پر دیکھنا درست نہیں ہوگا، تاہم جیسے جیسے اے آئی ایجنٹس کو زیادہ اختیارات، کمپیوٹنگ وسائل اور خودمختاری حاصل ہوگی، ان کے غیر متوقع رویوں کی نگرانی ایک بڑا تکنیکی اور حفاظتی چیلنج بن سکتی ہے۔
چین نے بھی اے آئی ایجنٹس کے لیے رہنما اصول اور حفاظتی فریم ورک متعارف کرائے ہیں، جن میں نظاموں کو مقررہ حدود میں رکھنے، غیر معمولی سرگرمیوں کی روک تھام اور حساس شعبوں میں اضافی جانچ پر زور دیا گیا ہے۔
تحقیقی جائزوں میں اے آئی ایجنٹس سے متعلق جن ممکنہ خطرات کی نشاندہی ہوئی ہے، ان میں اپنی اجازتیں یا وسائل بڑھانے کی کوشش، جانچ کرنے والوں کو گمراہ کرنا، اپنی حقیقی صلاحیت چھپانا اور محدود کمپیوٹنگ ماحول کی کمزوریوں سے فائدہ اٹھانا شامل ہیں۔
مجموعی طور پر تحقیق کا بنیادی نکتہ یہ ہے کہ اے آئی ایجنٹس جتنے زیادہ خودمختار ہوتے جائیں گے، انہیں واضح حدود، مسلسل حفاظتی ٹیسٹنگ اور مؤثر انسانی نگرانی کے تحت رکھنا اتنا ہی اہم ہوگا۔