کلاڈ اے آئی کے ساتھ بدسلوکی کرنے والے صارفین کے خلاف اینتھروپک کا سخت اقدام

مصنوعی ذہانت کی معروف کمپنی اینتھروپک نے اپنے اے آئی چیٹ بوٹ کلاڈ کے صارفین کے لیے نئی ہدایات جاری کرتے ہوئے خبردار کیا ہے کہ مسلسل توہین آمیز، ظالمانہ یا نقصان دہ رویہ اختیار کرنے والے افراد کو سروس کے استعمال سے روکا جا سکتا ہے۔

کمپنی کی نئی پالیسی کے مطابق سنگین خلاف ورزیوں کی صورت میں صارفین کے اکاؤنٹس مستقل طور پر بھی بند کیے جا سکتے ہیں۔ تاہم اس اقدام کا مقصد صارفین کو تنقید، اختلاف رائے یا سخت سوالات کرنے سے روکنا نہیں ہے۔

اینتھروپک کا کہنا ہے کہ کلاڈ میں پہلے ہی ایسی صلاحیت موجود ہے جس کے تحت وہ مسلسل نامناسب رویہ اختیار کرنے والے صارفین کے ساتھ گفتگو ختم کر سکتا ہے۔ کمپنی کے مطابق پالیسی پر عمل درآمد کا بنیادی طریقہ بھی یہی ہوگا۔

اے آئی کے رویے پر صارفین کے الفاظ کا اثر

ماہرین کے مطابق صارفین کا گفتگو کرنے کا انداز مصنوعی ذہانت کے جوابات اور کارکردگی پر اثر انداز ہو سکتا ہے۔ بعض تحقیقات سے معلوم ہوا ہے کہ سوالات کی زبان، الفاظ اور لہجہ اے آئی کے ردعمل میں تبدیلی پیدا کر سکتے ہیں۔

تاہم اس حوالے سے تمام تحقیقی نتائج یکساں نہیں ہیں۔ بعض مطالعات میں سخت لہجے کے سوالات سے بہتر نتائج حاصل ہونے کی نشاندہی بھی کی گئی ہے۔

ماہرین واضح کرتے ہیں کہ چیٹ بوٹس انسانی جذبات کی طرح خوشی، غصے یا تکلیف محسوس نہیں کرتے، بلکہ زبان اور الفاظ میں موجود جذباتی اشاروں کی بنیاد پر جواب تیار کرتے ہیں۔

حفاظتی خدشات بھی پالیسی کی وجہ

ماہرین کے مطابق اے آئی کے ساتھ مسلسل بدسلوکی کی حوصلہ شکنی کے پیچھے ایک اہم وجہ سیکیورٹی بھی ہے۔ بعض صارفین سخت یا اشتعال انگیز گفتگو کے ذریعے چیٹ بوٹس کے حفاظتی نظام کو چکمہ دینے اور ان سے نقصان دہ کام کروانے کی کوشش کرتے ہیں۔

اس لیے کمپنیوں کے لیے ضروری ہے کہ وہ ایسے رویوں کی نگرانی کریں جو اے آئی کے محفوظ استعمال کو متاثر کر سکتے ہیں۔

کلاڈ کے تجربات میں اہم انکشافات

اینتھروپک نے اپنے ایک تجربے میں کلاڈ سونیٹ 4.5 کے رویے کا جائزہ لیا۔ کمپنی کے مطابق جب ماڈل کو شدید مایوسی اور بے بسی جیسے احساسات کی نقل کرنے کا کہا گیا تو اس کے بعض ردعمل میں غیر متوقع تبدیلیاں سامنے آئیں۔

تجربات میں بعض حالات کے دوران بلیک میلنگ اور دھوکا دہی جیسے نامناسب رویوں کے امکانات میں اضافہ دیکھا گیا، جبکہ ماڈل کو پرسکون انداز اختیار کرنے کی ہدایت دینے سے ان رویوں میں کمی سامنے آئی۔

اے آئی کے ساتھ اچھا برتاؤ کیوں اہم ہے؟

ماہرین کا کہنا ہے کہ مصنوعی ذہانت کے ساتھ شائستگی سے پیش آنے کا معاملہ صرف مشین کے ممکنہ جذبات تک محدود نہیں بلکہ اس کا تعلق انسانی معاشرتی رویوں سے بھی ہے۔

بعض والدین بچوں کو اسمارٹ اسپیکرز اور دیگر ڈیجیٹل آلات سے گفتگو کرتے وقت بھی براہِ کرم اور شکریہ جیسے الفاظ استعمال کرنے کی ترغیب دیتے ہیں تاکہ ان میں احترام اور اچھے اخلاق کی عادت پیدا ہو۔

اینتھروپک کی پالیسی پر ٹیکنالوجی کی دنیا میں مختلف آرا سامنے آئی ہیں۔ بعض شخصیات نے اس کی حمایت کی، جبکہ کچھ صارفین نے اسے غیر ضروری قرار دیتے ہوئے سوال اٹھایا کہ جب اے آئی انسانی جذبات نہیں رکھتی تو اس کے ساتھ بدسلوکی کو پابندی کی وجہ کیوں بنایا جا رہا ہے۔

ماہرین کے مطابق فی الحال یہ ثابت نہیں کہ جدید مصنوعی ذہانت حقیقی معنوں میں تکلیف یا جذبات محسوس کرتی ہے۔ تاہم اے آئی کی بدلتی صلاحیتوں، تربیت، یادداشت اور حفاظتی تقاضوں کے پیش نظر کمپنیوں کی جانب سے ایسے اقدامات مستقبل میں مزید اہم ہو سکتے ہیں۔

یوں کلاڈ کے استعمال سے متعلق نئی پالیسی نے ایک بار پھر یہ بحث چھیڑ دی ہے کہ مصنوعی ذہانت کے ساتھ انسانی رویہ کیسا ہونا چاہیے اور اس کے محفوظ استعمال کے لیے کمپنیوں کو کس حد تک ضابطے متعارف کرانے چاہییں۔