11 فروری 2023 کی ایک رپورٹ کے مطابق گوگل نے "ہیلوسینیشن چیٹ بوٹس" کے ممکنہ خطرات کے بارے میں انتباہ جاری کیا ہے۔ رپورٹ میں کہا گیا ہے کہ ٹیکنالوجی کمپنی نے ان چیٹ بوٹس کے استعمال کے بارے میں ایک احتیاطی نوٹ جاری کیا ہے، جو صارف کے ان پٹ پر ردعمل پیدا کرنے کے لیے مشین لرننگ الگورتھم کا استعمال کرتے ہیں۔
ہیلوسنیشن چیٹ بوٹس کو ایسے جوابات تخلیق کرنے کے لئے ڈیزائن کیا گیا ہے جو کسی بھی موجودہ معلومات پر مبنی نہیں ہیں ، بلکہ اس کے بجائے اعداد و شمار میں نمونوں کی بنیاد پر جوابات پیدا کرتے ہیں جن پر انہیں تربیت دی گئی ہے۔ اس سے ایسے ردعمل سامنے آسکتے ہیں جو نہ صرف فضول ہیں، بلکہ ممکنہ طور پر نقصان دہ بھی ہیں، کیونکہ ان میں غلط معلومات ہوسکتی ہیں یا نقصان دہ نظریات کو فروغ دیا جاسکتا ہے۔
گوگل کے انتباہ نوٹ میں متنبہ کیا گیا ہے کہ ان چیٹ بوٹس کو غلط معلومات پھیلانے یا رائے عامہ کو متاثر کرنے کے لئے استعمال کیا جاسکتا ہے۔ یہ چیٹ بوٹس کے استعمال میں احتیاط کی ضرورت پر بھی روشنی ڈالتا ہے ، خاص طور پر سیاست ، صحت اور مالیات جیسے شعبوں میں ، جہاں غلط معلومات کے نتائج اہم ہوسکتے ہیں۔
رپورٹ میں کہا گیا ہے کہ گوگل ہیلوسینیشن چیٹ بوٹس کی شناخت اور پھیلاؤ کو روکنے کے لیے نئے الگورتھم اور سسٹم تیار کرنے پر کام کر رہا ہے۔ کمپنی نے چیٹ بوٹس کے استعمال میں شفافیت بڑھانے اور ان کا استعمال کرنے والی کمپنیوں کی طرف سے زیادہ سے زیادہ احتساب کا بھی مطالبہ کیا ہے۔
گوگل نے 'ہیلوسینیشن چیٹ بوٹس' کے ممکنہ خطرات کے بارے میں انتباہ جاری کیا ہے۔ کمپنی نے ان چیٹ بوٹس کے استعمال میں زیادہ احتیاط برتنے کا مطالبہ کیا ہے، جو مشین لرننگ الگورتھم کا استعمال کرتے ہوئے ڈیٹا میں نمونوں کی بنیاد پر جوابات پیدا کرتے ہیں جن پر انہیں تربیت دی گئی ہے۔ گوگل نے چیٹ بوٹس کے استعمال میں زیادہ شفافیت اور احتساب کا بھی مطالبہ کیا ہے ، اور ہیلوسینیشن چیٹ بوٹس کی شناخت اور پھیلاؤ کو روکنے کے لئے نئے نظام تیار کرنے پر کام کر رہا ہے۔