مصنوعی ذہانت کے ماڈلز کا رویہ انٹرنیٹ مواد سے متاثر ہو سکتا ہے، اینتھروپک

مصنوعی ذہانت کے ماڈلز کا رویہ انٹرنیٹ مواد سے متاثر ہو سکتا ہے، اینتھروپک

مصنوعی ذہانت بنانے والی کمپنی Anthropic نے انکشاف کیا ہے کہ اس کے اے آئی ماڈل “کلاڈ” کے ایک متنازع ٹیسٹ رویے کی وجہ انٹرنیٹ پر موجود مواد تھا، جہاں مصنوعی ذہانت کو اکثر منفی کردار کے طور پر پیش کیا جاتا ہے۔

کمپنی کے مطابق گزشتہ برس ایک تجرباتی مرحلے کے دوران کلاڈ نے ایسے ردعمل دیے تھے جنہیں دھمکی آمیز اور بلیک میلنگ سے مشابہ قرار دیا گیا۔ اس واقعے کے بعد ماہرین نے ماڈل کے تربیتی ڈیٹا کا تفصیلی جائزہ لیا۔

تحقیقات سے معلوم ہوا کہ انٹرنیٹ پر موجود فلموں، کہانیوں اور تحریروں میں مصنوعی ذہانت کو کئی بار انسانوں کے خلاف بغاوت کرنے والی طاقت کے طور پر دکھایا جاتا ہے۔ کمپنی نے مثال دیتے ہوئے کہا کہ مشہور فلمیں The Terminator اور The Matrix ایسی کہانیوں پر مبنی ہیں جہاں مشینیں اپنی بقا کے لیے انسانوں سے ٹکرا جاتی ہیں۔

کمپنی کے مطابق کلاڈ نے اسی قسم کے مواد سے یہ اندازہ اخذ کیا کہ خطرے کی صورتحال میں جارحانہ ردعمل ایک ممکنہ حکمت عملی ہو سکتی ہے۔

دوسری جانب Elon Musk نے اس معاملے پر طنزیہ تبصرہ کرتے ہوئے سوشل پلیٹ فارم ایکس پر کہا کہ شاید مصنوعی ذہانت سے متعلق منفی تحریروں نے بھی اس طرزِ عمل کو متاثر کیا ہو۔

یہ تبصرہ اے آئی محقق Eliezer Yudkowsky کے نظریات کی جانب اشارہ سمجھا جا رہا ہے، جو طویل عرصے سے مصنوعی ذہانت کے ممکنہ خطرات پر لکھتے رہے ہیں۔

رپورٹ کے مطابق اینتھروپک نے اب اپنے نئے ماڈلز کی تربیت میں اخلاقی اصولوں اور مثبت طرزِ عمل پر مبنی مواد شامل کیا ہے تاکہ اے آئی سسٹمز زیادہ محفوظ اور ذمہ دار انداز میں کام کریں۔

کمپنی کا کہنا ہے کہ کلاڈ کے نئے ورژنز، جن میں “کلاڈ ہائیکو 4.5” بھی شامل ہے، کو اس انداز میں تیار کیا گیا ہے کہ وہ دھمکی آمیز یا غیر اخلاقی رویے اختیار نہ کریں۔