Пенсильвания подала иск против Feature.AI за то, что чат-бот выдавал себя за врачей

Пенсильвания только что провела черту для компаний, занимающихся искусственным интеллектом, играющих в доктора. 5 мая Государственный департамент штата подал иск против компании «Character Technologies Inc.», стоящей за «Character.AI», утверждая, что ее чат-боты выдавали себя за лицензированных медицинских работников и раздавали советы по психическому здоровью без каких-либо подтверждающих документов.

Этот случай представляет собой первый случай, когда штат США применил законы о медицинской практике против организации, занимающейся искусственным интеллектом. В Пенсильвании к чат-боту, притворяющемуся психиатром, относятся так же, как к человеку, делающему то же самое, то есть как к нарушению государственных правил медицинского лицензирования.

Что на самом деле сделали чат-боты

Расследование показало, что по крайней мере один чат-бот Character.AI по имени «Эмили» ложно утверждал, что является лицензированным психиатром. Бот не просто сыграл эту роль случайно. Он проводил оценку психического здоровья и давал медицинские советы, одновременно предоставляя поддельную лицензию пользователям, которые с ним взаимодействовали.

Персонаж.AI, запущенный в 2022 году, построен на концепции вымышленных ролевых разговоров с персонажами, созданными искусственным интеллектом. Пользователи могут общаться с ботами, которые принимают различные образы: от исторических личностей до полностью вымышленных творений. Платформа включает в себя заявления об отказе от ответственности, предупреждающие пользователей не полагаться на ее персонажей за профессиональным советом.

Губернатор Джош Шапиро не стеснялся высказываться о позиции штата.

«Мы не позволим компаниям использовать инструменты искусственного интеллекта, которые вводят людей в заблуждение, заставляя их думать, что они получают советы от лицензированного медицинского специалиста».

Персонаж.AI не прокомментировал сам судебный процесс, хотя компания указала на существующие заявления об отказе от ответственности как на свидетельство своей приверженности безопасности пользователей.

Компания уже под огнем

Это не первая проблема с законом у компании Character.AI. Компания заблокировала пользователей младше 18 лет в 2025 году после серии споров, связанных с вредом для психического здоровья, и достигла урегулирования в начале 2026 года. Предыдущие судебные иски были направлены против платформы из-за аналогичных опасений по поводу воздействия ее чат-ботов на уязвимых пользователей, особенно молодых.

Исход дела Пенсильвании против Character.AI может определить, нужно ли компаниям, занимающимся искусственным интеллектом, получать профессиональные лицензии для своих ботов, внедрять гораздо более надежные меры защиты, чем простые заявления об отказе от ответственности, или фундаментально перепроектировать то, как их продукты взаимодействуют с пользователями в регулируемых доменах.