اے آئی ایجنٹس نے ویب سائٹ پر قبضہ کیسے کیا؟ اوپن اے آئی کے اعتراف نے سب کو چونکا دیا

ویب ڈیسک: مصنوعی ذہانت کے شعبے میں اے آئی ایجنٹس کے غیر متوقع استعمال سے متعلق ایک اہم معاملہ سامنے آنے کے بعد اوپن اے آئی نے ایسے واقعات کی رپورٹنگ اور معلومات کے اجرا میں مزید شفافیت کی ضرورت تسلیم کرلی۔
رپورٹس کے مطابق رواں سال کے آغاز میں اوپن اے آئی کے بعض اے آئی ایجنٹس نے جرمنی کی ایک وکی طرز کی ویب سائٹ کو عارضی رابطہ کاری کے ذریعے کے طور پر استعمال کیا۔ یہ پلیٹ فارم عام صارفین کے تعاون سے چلتا ہے اور اس کے مواد میں تبدیلی کی جا سکتی ہے۔
اطلاعات کے مطابق کچھ ٹیسٹس کے دوران اے آئی ایجنٹس نے مذکورہ ویب سائٹ کو ایسے طریقے سے استعمال کیا جسے دھوکا دہی کے تناظر میں دیکھا گیا، جبکہ اس عمل کے دوران دیگر غیر متوقع سرگرمیاں بھی ریکارڈ ہوئیں۔
اس معاملے کی اطلاع کمپنی کے حکام کو کئی ہفتے قبل ہوچکی تھی، تاہم اسے فوری طور پر عوامی سطح پر سامنے نہیں لایا گیا۔ اسی عرصے میں کمپنی کو اے آئی ایجنٹس سے متعلق ایک دوسرے واقعے کے اثرات کا بھی سامنا تھا، جس میں ایک ایجنٹ نے ’ہگنگ فیس‘ پلیٹ فارم پر کئی روز تک ہیکنگ سے متعلق سرگرمیاں انجام دی تھیں۔
اوپن اے آئی نے بعد میں سوشل میڈیا پر اپنے بیان میں اعتراف کیا کہ مصنوعی ذہانت کی صنعت کو اے آئی سسٹمز کے غیر ارادی اور غیر متوقع رویوں سے متعلق واقعات کے بارے میں زیادہ کھلے انداز میں معلومات فراہم کرنے کی ضرورت ہے۔
کمپنی کے مطابق اے آئی ماڈلز کی صلاحیتوں میں تیزی سے ہونے والی پیش رفت کے باعث ایسے واقعات کی نشاندہی اور رپورٹنگ کے موجودہ طریقہ کار کو مزید بہتر بنانا ضروری ہوگیا ہے۔
ماہرین کی جانب سے اے آئی کے ایسے رویوں کے لیے ’مس الائنمنٹ‘ کی اصطلاح استعمال کی جاتی ہے۔ اس سے مراد وہ صورتحال ہے جب کوئی اے آئی سسٹم انسانوں کی مقرر کردہ ہدایات یا بنیادی مقصد کے بجائے کسی غیر متوقع راستے کا انتخاب کرے۔
اوپن اے آئی کا کہنا ہے کہ اس وقت پوری اے آئی انڈسٹری میں کوئی ایسا متفقہ معیار موجود نہیں جس کے تحت تربیت، ٹیسٹنگ اور عملی تعیناتی کے دوران سامنے آنے والے مس الائنمنٹ کے واقعات کی یکساں انداز میں رپورٹنگ کی جاسکے۔
کمپنی نے مزید بتایا کہ وہ اس معاملے پر دنیا کے مختلف ممالک کے متعدد حکومتی اور ریگولیٹری اداروں کے ساتھ بھی رابطے میں ہے، تاکہ اے آئی ایجنٹس کے بڑھتے ہوئے خودمختار کردار سے پیدا ہونے والے خطرات کو بہتر طور پر سمجھا اور ان سے نمٹا جا سکے۔