纽森签署加州“禁止机器人老板”法案：算法可建议，但不能独自解雇员工

文/IAICA.NGO®

加州州长加文·纽森（Gavin Newsom）签署了一项针对职场自动化决策的法案，明确限制所谓“机器人老板”（Robo Bosses）的适用范围。此举被视为加州近期一连串人工智能治理动作中最贴近普通劳动者日常处境的一环：它并不试图回答通用人工智能是否安全这类宏大命题，而是把焦点放在招聘、排班、绩效评估、晋升与解雇这些具体环节上，追问算法能否替代人作出最终判断。

算法可以建议，但不能独自裁决

根据法案的制度设计，雇主在将自动化决策系统用于人事管理之前，须提前向员工披露系统的存在、用途与所依据的数据类型；当系统输出对员工不利的结论时，员工有权要求由人类管理者复核，并获得申诉与申辩的渠道。算法可以参与筛选、排序与建议，但不能成为不予解释的最终裁决者。法案同时要求企业留存相关记录，以便监管机构在出现歧视或不当解雇争议时追溯责任。

这一思路把“人在回路”从工程实践上升为法定要求，也延续了美国州层面的既有探索：纽约市曾要求对自动化雇佣工具进行偏见审计并公开结果，伊利诺伊州限制在面试环节使用人工智能分析，科罗拉多州则对高风险系统施加影响评估义务。加州的差异化在于，它不止要求“被审计”，而是直接规定“谁拥有决定权”。

欧美两条监管路径的分野

欧盟《平台工作指令》确立了算法管理场景下的信息权与人工复核权，《通用数据保护条例》原则上禁止仅凭自动化处理作出对个人产生重大影响的决定；《人工智能法案》则以风险分级横跨所有行业。加州的做法是从雇佣场景切入的点状立法，对单一议题的穿透力更强。对跨国雇主而言，这意味着欧美两套合规文档、两套申诉流程与两套留存标准将长期并存，合规成本随之上升，但也催生了算法审计、合规咨询与人力资源科技改造的新需求。

对照护行业的溢出效应

养老照护、居家护理与康复机构长期处于人手紧张状态，排班派单、服务质量评分与工时统计高度依赖软件系统，算法管理在这些行业的渗透率甚至高于传统制造业。新规要求的信息披露与人工复核，将直接改变护理机构与外包调度平台之间的合同条款与责任划分。iaica.com.cn 指出，在照护这类高度依赖人际信任的行业，效率工具的合法性最终取决于它是否愿意为每一个被算法“打分”的护理员保留一个可以被倾听的通道。

争议与未决问题

反对意见集中在三点：自动化决策系统的定义边界模糊，容易把普通排班软件一并纳入；中小企业缺乏法务与数据团队，合规负担偏重；第三方软件供应商与雇主之间的责任如何切分尚无明确规则。支持者则认为，缺乏问责的效率不可持续，尤其在涉及生计的雇佣决策上，透明度本身就是竞争力的组成部分。执法资源是否充足、举证责任如何分配、违规处罚能否形成威慑，将决定这部法案究竟是象征性立法还是实质性约束。

后续看点

更值得关注的是示范效应：一旦加州落地顺利，更多州可能跟进类似条款，而联邦层面短期内仍难以形成统一框架。对企业而言，务实的准备包括梳理现有人力资源系统中的自动化环节、建立影响评估与文档留存机制、明确人工复核的责任岗位，并就系统使用与员工代表保持沟通。技术从来不是中立的摆设，谁被系统评估、谁有权解释结果，正在从产品设计问题变成治理问题。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。