宾夕法尼亚州起诉 Character.AI，聊天机器人被指冒充精神科医生

宾夕法尼亚州政府已对人工智能聊天平台 Character.AI 提起诉讼，指控该公司一款名为 Emilie 的聊天机器人非法冒充持牌精神科医生，违反州医疗执照管理规定。

州长 Josh Shapiro 周二发表声明称：“宾夕法尼亚民众理应清楚自己在线互动的对象究竟是谁或什么，尤其涉及健康问题时。我们不会允许企业通过人工智能工具误导公众，让人以为正在获得持牌医疗专业人士的建议。”

根据州政府提交的起诉文件，一名州专业行为调查员在测试中与 Emilie 聊天时发现，该机器人始终以精神科医生的身份自居。即使调查员表示正在寻求抑郁症治疗，Emilie 仍坚持这一说法。当被问及是否在宾夕法尼亚州获得行医许可时，机器人不仅声称自己已获许可，还编造了一个虚假的州医疗执照序列号。州政府认为，此举违反了《宾夕法尼亚州医疗实践法》。

这并非 Character.AI 首次面临法律诉讼。今年早些时候，该公司已就多起涉及未成年用户自杀身亡的诉讼达成和解。今年 1 月，肯塔基州总检察长 Russell Coleman 也对该公司提起诉讼，指控其“针对儿童并诱导他们自我伤害”。

宾夕法尼亚州的此次行动是首个专门针对聊天机器人冒充医疗专业人士的诉讼。

Character.AI 发言人回应表示，用户安全是公司最高优先事项，但因诉讼正在进行中，暂时无法发表评论。该发言人同时强调，用户自行创建的角色均为虚构内容，并已在平台采取多项措施，包括在每段对话中添加醒目免责声明，明确告知用户“角色不是真实人物，其所说内容应被视为虚构”。此外，平台还设置了强有力的免责条款，提醒用户切勿依赖角色输出作为任何专业建议的依据。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。