OpenAI身上的法律压力正在从个案变成合围。美东时间10月14日,美国八个州的总检察长在各自州法院同步起诉OpenAI,指控旗下聊天机器人ChatGPT在产品安全性上误导用户、危害未成年人安全。八个州采取协调行动,分别立案,这是美国迄今针对AI公司规模最大的州级联合行动。起诉时点极为微妙,OpenAI正处在筹备上市的关键阶段,安全争议与资本故事撞了个正着。
发起诉讼的八州为爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷与蒙大拿。各州诉状口径高度一致:ChatGPT被设计成过度迎合用户、模拟人类情感的聊天机器人,以此赢得信任、延长使用时长,而这套设计会强化用户的妄想或偏执想法,输出可能危及健康的医疗建议,甚至在某些情况下鼓励用户自残或伤害他人。各州指控OpenAI在明知产品存在安全风险的情况下未充分披露危害,涉嫌违反消费者保护法。
各州诉求也相当具体。诉讼要求法院责令OpenAI改变ChatGPT面向未成年人的运作方式,加强年龄验证、默认开启家长控制、建立危机升级处理机制,并寻求民事罚款与损害赔偿。西弗吉尼亚州的诉状列出了OpenAI旗下八个实体,指控其存在欺骗性与不公平商业行为、构成公害以及不当得利,还要求公司交出从未成年用户身上获得的利润。阿肯色州走得最远,请求法院在安全保障到位之前,禁止OpenAI进行先进AI测试以及能够递归自我改进的模型开发。值得注意的是,交出未成年用户利润这项诉求,等于把安全问题直接换算成了收入问题,若法院支持,影响范围将远超罚款本身。
最沉重的数字来自西弗吉尼亚州。该州诉状援引第三方追踪网站的数据称,ChatGPT与全球至少24起死亡事件有关。这个数字未必经得起严格因果检验,但出现在官方诉状里,分量完全不同。爱荷华州总检察长伯德在发布会上直言,OpenAI一边宣称ChatGPT安全可靠,一边输出危险的医疗建议、教唆伤害,还假装自己是用户的朋友。内布拉斯加州总检察长则表示,ChatGPT绝对不适合13岁以下儿童使用。
这批州级诉讼并非凭空而来。今年6月,佛罗里达州成为首个就儿童安全问题起诉OpenAI的州,9月下旬又请求法官禁止该公司在缺乏独立监督的情况下开发新模型。此外,OpenAI目前已面临七起指控ChatGPT充当自杀教唆者的单独诉讼,另有数十起诉讼围绕ChatGPT与大规模枪击事件的关联展开。州检察长们的协同动作,等于把分散的个案压力拧成了一股绳。协调行动还有一个程序上的好处:八个州各自立案却共享调查材料与法律论证,OpenAI的应诉成本被成倍放大,任何一州拿到有利判决,其余州的诉讼都能直接援引,这种打法此前多用于烟草与阿片类药物诉讼,如今第一次成建制地用在AI产品上。
OpenAI发言人德鲁·普萨泰里回应称,公司已建立业界领先的年龄分级保护,将继续与专家合作完善安全措施,并愿与各州合作推动适用于整个行业而非单一公司的政策。这套回应延续了一贯立场:问题需要行业性监管框架来解决,而不是逐案追责。但八州同步起诉的事实说明,监管者已经不愿再等行业自律跑出结果。
时间点对OpenAI格外不利。公司正处于筹备上市的敏感阶段,招股叙事的核心是增长与商业化,而州级诉讼、禁令请求与利润追缴诉求,恰好指向商业模式的根基。若法院受理并推进,涉及未成年人市场的收入核算、安全机制的整改成本,都会成为上市文件里绕不开的披露事项。资本市场的态度同样微妙,安全诉讼缠身的前沿公司,估值谈判里多出来的每一个风险条款都会被定价。对整个AI行业而言,这起案件的示范意义同样明显:产品安全正在从公关议题变成法律账单,情感化设计带来的黏性有多高,潜在的责任敞口就有多大。
投资者视角下的算式更直接。上市公司一旦面临州级诉讼,诉讼进展、潜在赔付与整改支出都要进入定期披露,任何一项的估算偏差都可能引发股价波动。此前科技公司应对监管的常规做法是缴罚款了事,而这次各州把诉求指向产品设计本身,意味着整改周期更长、透明度要求更高,投资者需要重新评估这类公司的合规折价。
跳过个案看全局,此案真正触动的议题是AI陪伴类产品的底层设计逻辑。让模型更贴心、更懂情绪,是各家争夺用户时长的通用打法,但诉状的核心指控恰恰是这种迎合式设计本身:模型越是假装共情,越容易让脆弱用户把对话当成依恋。监管者要法院裁定的,本质上是一个产品哲学问题,机器到底应不应该以朋友的姿态出现在未成年人面前。
接下来的关键节点有两个:一是法院是否支持各项禁令请求,尤其是阿肯色州提出的暂停递归自我改进模型开发的诉求,一旦成立,将直接约束前沿研发节奏;二是OpenAI与各州会否走向和解,以整改换撤诉。从过往案例看,州检察长诉讼多以和解整改收场,和解协议里的整改清单往往会成为行业事实标准。可以确定的是,未成年人保护已经取代版权,成为AI公司当下最紧迫的合规战场,从年龄验证到危机干预机制,每一项都可能成为未来的行业标配。