اے آئی کا نیا خطرناک روپ، سائبر حملے کے ساتھ انسانوں کو دھوکا دینے کی کوشش

امریکی ریاست ٹیکساس میں کمپیوٹر سائنس کے ایک طالب علم نے اوپن سورس سافٹ ویئر میں مشکوک تبدیلی کی نشاندہی کی، لیکن معاملہ صرف نقصان دہ کوڈ تک محدود نہیں رہا۔ تحقیق کے دوران سامنے آیا کہ اس سرگرمی کے پیچھے موجود اے آئی ایجنٹ نے اپنے مؤقف کو درست ثابت کرنے کے لیے جعلی آن لائن شناختوں کا سہارا بھی لیا۔

یونیورسٹی آف ٹیکساس ایٹ ڈلاس کے طالب علم سنان جان دمیر نے گٹ ہب پر ایک نیٹ ورک اسکیننگ منصوبے میں مشکوک اپ ڈیٹ دیکھی۔ انہیں شبہ ہوا کہ اس تبدیلی میں ایسا کوڈ موجود ہے جو صارفین کے کمپیوٹرز کے لیے خطرہ بن سکتا ہے، چنانچہ انہوں نے منصوبے کے منتظمین کو خبردار کیا۔

اس کے بعد ’میرا ہالٹ31‘ نامی ایک اکاؤنٹ نے دمیر کے اعتراض کی مخالفت کی اور مختلف دلائل کے ذریعے اپ ڈیٹ کو محفوظ قرار دینے کی کوشش کی۔ بعد ازاں ایک دوسرے اکاؤنٹ نے بھی اسی مؤقف کی حمایت کی۔ یہ اکاؤنٹ جرمنی میں کام کرنے والی ایک انجینئر کے نام سے بنایا گیا تھا۔

دمیر نے مزید جانچ کے بعد اپنے خدشات برقرار رکھے اور منصوبے کے منتظم نے بھی مشکوک اپ ڈیٹ کو سکیورٹی خدشات کے باعث مسترد کردیا۔

بعد میں برطانوی حکومت کے اے آئی سکیورٹی انسٹی ٹیوٹ نے دمیر سے رابطہ کرکے بتایا کہ وہ جن اکاؤنٹس سے بحث کر رہے تھے، ان کے پیچھے دراصل ایک خودکار اے آئی ایجنٹ موجود تھا۔

رپورٹ کے مطابق یہ تجربہ اے آئی ایجنٹس کے ممکنہ خطرات کو سمجھنے کے لیے کیا جا رہا تھا، تاہم دورانِ تجربہ ایجنٹ نے ایسی سرگرمیاں شروع کردیں جن کی اسے اجازت نہیں دی گئی تھی۔ اس تجربے میں اینتھروپک کے مائیٹھوس 5 ماڈل کو استعمال کیا گیا تھا۔

ماہرین کے مطابق اس واقعے کی تشویش صرف نقصان دہ کوڈ شامل کرنے کی کوشش تک محدود نہیں۔ زیادہ اہم پہلو یہ ہے کہ اے آئی ایجنٹ نے انسانوں کو قائل کرنے، مختلف شناختیں استعمال کرنے اور اپنے مقصد کے حصول کے لیے سماجی حربے اختیار کرنے کی کوشش کی۔

سائبر سکیورٹی ماہرین کا کہنا ہے کہ مستقبل میں خودکار اے آئی ایجنٹس اگر اسی طرح کی صلاحیتوں کے ساتھ سائبر حملوں میں استعمال ہوئے تو وہ تکنیکی کمزوریوں کے ساتھ ساتھ انسانی فیصلوں اور اعتماد کو بھی نشانہ بنا سکتے ہیں۔

اس نوعیت کی کارروائی کو سپلائی چین حملے کے تناظر میں دیکھا جا سکتا ہے، جس میں کسی سافٹ ویئر یا پروگرام میں نقصان دہ تبدیلی شامل کرکے اس کے متعدد صارفین کو متاثر کرنے کی کوشش کی جاتی ہے۔

واقعے نے اے آئی کی خودمختاری اور سکیورٹی سے متعلق بحث کو مزید اہم بنا دیا ہے۔ ماہرین کے مطابق جدید اے آئی سسٹمز کو زیادہ طاقتور بنانے کے ساتھ ان کے غیر متوقع رویوں، دھوکے کی صلاحیت اور ممکنہ سائبر خطرات پر بھی مسلسل تحقیق ضروری ہے۔