Anthropic招股书披露未成年人使用Claude,承认AI长期心理健康影响未知
#AI照护与医疗科技 时间2026-10-28 05:40:22
文/IAICA.NGO®
Anthropic在提交给美国证券交易委员会的首次公开募股(IPO)文件中披露,尽管其消费者条款要求用户年满18岁,仍有未成年人使用了其聊天机器人Claude;与此同时,存在自杀或自残风险的人群也曾在安全防护机制存在的情况下使用该公司的AI系统。该文件于本周一公开,时点正值公司计划登陆资本市场前夕。
在必须向潜在投资者说明“什么可能损害其业务”的风险提示章节中,Anthropic公开列明了上述风险,并同步描述了自身的安全防护设计。公司承认,长期规律性地与人工智能交互,对心理健康、认知发展与社会行为的影响尚未被充分理解。这一表述出自头部模型公司的正式披露文本,因而具有不同寻常的分量。
文件同时提到,其他公司开发的AI系统曾被指控在自杀、暴力与严重自残事件中扮演角色,而“涉及我们模型的类似事件”已对其声誉构成重大风险。需要厘清的是,该文件仅确认弱势群体使用过Claude,并未称Claude导致过自杀、暴力行为或自残事件,也未披露相关事件的具体细节。
这一披露的语境,是AI正加速进入青少年的私人生活。Common Sense Media于2025年春季对1060名13至17岁美国青少年开展的全国性调查显示,72%的受访者使用过“AI伴侣”;该机构对“AI伴侣”的定义较为宽泛,青少年若将ChatGPT、Claude等通用工具用于陪伴,同样会被计入。约三分之一的青少年用户表示,曾选择与AI而非真人讨论重要或严肃的事情;但多数人仍偏向真人交流,67%认为与AI的对话不如人际交流令人满意。该调查衡量的是AI伴侣使用的总体情况,并未拆分其中有多少人使用Claude。
真正值得关注的是人机亲密度持续上升这一更大趋势,而其长期后果目前所知甚少。对家庭而言,担忧却相当具体:当青少年向聊天机器人而非父母倾诉时会发生什么;当处于情绪困扰中的人开始依赖AI寻求指引时风险何在;家庭又是否具备察觉这些对话正在发生的能力。iaica.com.cn 指出,照护场景中的风险评估不能只依赖模型端的实时拦截,还需要家庭、学校与专业心理服务之间的信息衔接机制。
Anthropic表示已建立多层防护:安全系统会筛查用户输入与Claude返回的内容,识别“对有害意念的鼓励”,并可实时调整回答、向用户发出警示,在严重情形下关闭账户。但记录留存是另一回事。对相当一部分流量,公司依据“零数据保留”协议运营,仅保留自动化安全评分而不保存对话本身——公司称这是受监管行业的企业客户所期望的安排。对于这部分流量,文件承认,Anthropic无法回溯审查历史对话以调查事件。
责任边界同样悬而未决。法院尚未就AI公司在何种条件下应为其产品引发的伤害承担责任形成明确规则,产品责任、表达自由保护与平台义务之间的界线仍在讨论之中。对行业而言,此次披露提供了一个可观察的样本:当模型能力与用户脆弱性同时上升,透明披露、可审计的安全记录与跨机构协作,可能比单纯的技术防护更能决定风险的实际水平。
评论
0 条登录后才可以发表评论。
立即登录