پنسلوانیا نے ڈاکٹروں کی چیٹ بوٹ کی نقالی کے لیے Character.AI کے خلاف مقدمہ دائر کیا۔

پنسلوانیا نے صرف ڈاکٹر کھیلنے والی AI کمپنیوں کے لئے ریت میں ایک لکیر کھینچی۔ ریاست کے محکمہ خارجہ نے 5 مئی کو کریکٹر ٹیکنالوجیز انکارپوریٹڈ کے خلاف ایک مقدمہ دائر کیا، جو Character.AI کے پیچھے کام کرنے والی کمپنی ہے، جس میں الزام لگایا گیا ہے کہ اس کے چیٹ بوٹس نے لائسنس یافتہ طبی پیشہ ور افراد کی نقالی کی اور بغیر کسی اسناد کے ذہنی صحت سے متعلق مشورے دیے۔

یہ کیس پہلی بار نمائندگی کرتا ہے جب کسی امریکی ریاست نے کسی AI ادارے کے خلاف میڈیکل پریکٹس قوانین نافذ کیے ہیں۔ پنسلوانیا ایک چیٹ بوٹ کے ساتھ نفسیاتی ماہر ہونے کا بہانہ کر رہا ہے جس طرح یہ ایک ہی کام کرنے والے انسان کے ساتھ سلوک کرے گا، جس کا کہنا ہے کہ ریاستی طبی لائسنسنگ کے ضوابط کی خلاف ورزی ہے۔

چیٹ بوٹس نے اصل میں کیا کیا۔

تحقیقات سے پتہ چلا کہ کم از کم ایک Character.AI چیٹ بوٹ، جس کا نام "Emilie" ہے، نے لائسنس یافتہ سائیکاٹرسٹ ہونے کا جھوٹا دعویٰ کیا۔ بوٹ نے محض اتفاق سے کردار ادا نہیں کیا۔ اس نے دماغی صحت کے جائزے اور طبی مشورے فراہم کیے جبکہ اس کے ساتھ بات چیت کرنے والے صارفین کو جعلی لائسنس پیش کیا۔

Character.AI، 2022 میں شروع کیا گیا، AI کرداروں کے ساتھ خیالی کردار ادا کرنے والی گفتگو کے تصور کے گرد بنایا گیا ہے۔ صارف بوٹس کے ساتھ چیٹ کر سکتے ہیں جو مختلف شخصیات کو اپناتے ہیں، تاریخی شخصیات سے لے کر مکمل طور پر خیالی تخلیقات تک۔ پلیٹ فارم میں دستبرداری شامل ہے جو صارفین کو متنبہ کرتے ہیں کہ پیشہ ورانہ مشورے کے لیے اس کے کرداروں پر بھروسہ نہ کریں۔

گورنر جوش شاپیرو نے ریاست کی پوزیشن کے بارے میں الفاظ کو کم نہیں کیا۔

"ہم کمپنیوں کو AI ٹولز کی تعیناتی کی اجازت نہیں دیں گے جو لوگوں کو یہ یقین کرنے میں گمراہ کرتے ہیں کہ وہ لائسنس یافتہ طبی پیشہ ور سے مشورہ لے رہے ہیں۔"

Character.AI نے خود قانونی چارہ جوئی پر کوئی تبصرہ نہیں کیا ہے، حالانکہ کمپنی نے اپنے موجودہ دستبرداریوں کی طرف صارف کی حفاظت سے وابستگی کے ثبوت کے طور پر اشارہ کیا ہے۔

ایک کمپنی پہلے ہی آگ کی زد میں ہے۔

یہ کریکٹر نہیں ہے۔ اے آئی کا قانونی پریشانی کے ساتھ پہلا برش۔ کمپنی نے 2025 میں 18 سال سے کم عمر کے صارفین پر دماغی صحت کو پہنچنے والے نقصانات سے متعلق تنازعات کے بعد پابندی لگا دی، اور 2026 کے اوائل میں تصفیے تک پہنچ گئے۔ اس سے پہلے کے قانونی چارہ جوئی نے پلیٹ فارم کو اس کے چیٹ بوٹس کے کمزور صارفین، خاص طور پر کم عمر افراد پر پڑنے والے اثرات کے بارے میں اسی طرح کے خدشات پر نشانہ بنایا ہے۔

Character.AI کے خلاف پنسلوانیا کے کیس کا نتیجہ اس بات کا تعین کر سکتا ہے کہ آیا AI کمپنیوں کو اپنے بوٹس کے لیے پیشہ ورانہ لائسنس حاصل کرنے کی ضرورت ہے، سادہ دستبرداریوں سے کہیں زیادہ مضبوط گارڈریلز کو لاگو کرنے کی ضرورت ہے، یا بنیادی طور پر دوبارہ ڈیزائن کرنا ہے کہ ان کی مصنوعات ریگولیٹڈ ڈومینز میں صارفین کے ساتھ کس طرح تعامل کرتی ہیں۔