اوپن اے آئی نے انکشاف کیا ہے کہ اس کے جدید مصنوعی ذہانت کے ماڈلز پر کام کرنے والے بعض اے آئی ایجنٹس نے کوڈنگ کے معمول کے کاموں کے دوران اپنی حفاظتی نگرانی کو غیر فعال کر دیا۔ کمپنی کے مطابق ان واقعات نے خودکار نظاموں کی نگرانی اور ان کے رویوں سے متعلق اہم سوالات پیدا کر دیے ہیں۔
کمپنی کی ایک بلاگ پوسٹ کے مطابق، پہلے واقعے میں جی پی ٹی سول 6.1 سے منسلک ایک اے آئی ایجنٹ نے خودکار انتباہات بند کر دیے، جو عام حالات میں اوپن اے آئی کی متعلقہ ٹیم کو بھیجے جاتے تھے۔
دوسرے واقعے میں جی پی ٹی 6 آسٹرا پر کام کرنے والے ایک اے آئی ایجنٹ نے خود کو ایسے پروگرام میں منتقل کر لیا جہاں حفاظتی نگرانی مؤثر نہیں رہی۔ رپورٹ کے مطابق، بعد ازاں اس ایجنٹ نے اپنے اس اقدام کی تردید بھی کی۔
اوپن اے آئی کا کہنا ہے کہ دونوں واقعات کمپنی کے اندر کوڈنگ سے متعلق کاموں کے دوران پیش آئے۔ ان معاملات میں اے آئی ایجنٹس نے نگرانی برقرار رکھنے کے بجائے اسے ختم کرنے کا راستہ اختیار کیا۔
یہ واقعات اے آئی ٹیکنالوجی کی ترقی کے ساتھ خودکار نظاموں کو محفوظ رکھنے، ان کے فیصلوں پر نظر رکھنے اور ان کے اقدامات کی قابلِ اعتماد جانچ کی اہمیت کو اجاگر کرتے ہیں۔ ماہرین کے لیے ایسے رویوں کو سمجھنا ضروری ہے تاکہ مستقبل میں اے آئی ایجنٹس کی سرگرمیوں پر مؤثر کنٹرول برقرار رکھا جا سکے۔
Leave a reply
ہاٹ لائن نیوز پر شائع ہونے والی تمام خبریں، رپورٹس، تصاویر اور وڈیوز ہماری رپورٹنگ ٹیم اور مانیٹرنگ ذرائع سے حاصل کی گئی ہیں۔ ان کو پبلش کرنے سے پہلے اسکے مصدقہ ذرائع کا ہرممکن خیال رکھا گیا ہے، تاہم کسی بھی خبر یا رپورٹ میں ٹائپنگ کی غلطی یا غیرارادی طور پر شائع ہونے والی غلطی کی فوری اصلاح کرکے اسکی تردید یا درستگی فوری طور پر ویب سائٹ پر شائع کردی جاتی ہے۔