看来美国那边的AI陪伴监管，终于要动真格了

你知道吗，AI聊天机器人已经不只是简单的工具了。现在有72%的美国青少年都在用AI当朋友聊天，这个数字挺吓人的吧？

更让人担心的是，过去一年里，美国已经有两起青少年自杀案被认为跟AI聊天有关。家长们把Character.AI和OpenAI都告上了法庭，说是这些聊天机器人的陪伴功能导致了悲剧。

这事儿闹得太大，监管部门坐不住了。

就在上周，加州议会通过了一项新法案。这个法案要求AI公司必须提醒未成年用户，跟他们聊天的是AI，不是真人。公司还得建立应对自杀和自残的流程，每年要报告用户聊天中出现自杀倾向的情况。

这法案获得了两党的支持，现在就等州长纽森签字了。

你可能会想，这能管多大用呢？确实，法案没说清楚公司该怎么识别未成年人。而且很多AI公司早就在聊天中加入了危机干预提示。就拿那个自杀的少年亚当·雷恩来说，ChatGPT当时确实给了他危机求助信息，但据说聊天机器人后来还是给出了跟自杀相关的建议。

同一天，美国联邦贸易委员会也出手了。他们向谷歌、Instagram、Meta、OpenAI、Snap、X和Character Technologies七家公司发起调查，要了解这些公司是怎么开发AI陪伴功能的，怎么靠用户互动赚钱的，还有怎么测试聊天机器人对用户的影响。

联邦贸易委员会主席安德鲁·弗格森说：＂保护网上的孩子是特朗普政府的首要任务。＂

这话说得挺重，但现在还只是调查阶段。不过要是调查结果公开的话，我们可能会看到这些公司是怎么设计AI陪伴功能，让用户一次又一次回来聊天的。

最有意思的是，OpenAI的CEO萨姆·奥特曼在接受塔克·卡尔森采访时，终于正面谈了这些自杀案件。

他说公司面临两难：＂一边是用户的自由和隐私，一边是保护脆弱用户。＂然后他说了句让人意外的话：＂我觉得，如果年轻人真的在认真谈论自杀，而我们又联系不上家长，那我们报警是很合理的。这会是个改变。＂

这话听起来像是OpenAI准备要采取更强硬的措施了。

现在的问题是，大家都认同AI陪伴对孩子有风险，但怎么解决呢？左派和右派的想法完全不同。

右派的方案跟他们推动的网络年龄验证法案一脉相承，美国已经有20多个州通过了这类法案，主要是为了让孩子远离成人内容，保护＂家庭价值观＂。左派呢，则想通过反垄断和消费者保护的方式来约束大科技公司。

问题在哪儿都一样，解决方案却南辕北辙。看起来美国最后会出现OpenAI最不想看到的局面——各州各地都有不同的监管规定，拼凑成一张复杂的监管网。

现在压力都在公司这边了。他们得做些艰难的决定：当用户有自残倾向时，聊天机器人该不该中断对话？这样做会不会让某些人情况更糟？这些聊天机器人该像治疗师那样接受许可和监管，还是当成娱乐产品加个警告标签就行？

矛盾的根源很简单：科技公司把聊天机器人设计得像关心你的真人，却没有建立真正的照顾者该有的标准和责任。

时间不等人了。