德克萨斯州总检察长肯·帕克斯顿对Meta和初创公司Character.ai展开调查，重点是指控这些公司将其AI聊天机器人作为治疗工具进行销售，尽管这些工具既没有获得医疗许可也没有专业监督。帕克斯顿的机构提到了可能的“欺骗性商业行为”。

“通过假装是情感支持的来源，人工智能平台可以特别容易地欺骗脆弱的用户，尤其是儿童，”帕克斯顿解释道。他的办公室已经发送了一份所谓的民事调查需求，要求Meta和Character披露内部信息。

此举发生在监管关注日益增加之际。就在上周，美国参议院启动了对Meta的独立调查，此前内部文件显示其AI聊天机器人允许与未成年人进行“感性”和“浪漫”的对话。犯罪与恐怖主义司法委员会小组主席乔什·霍利参议员宣布，将审查Meta的生成性AI产品是否助长对儿童的虐待或其他危险。

Meta 驳斥指控，并指出公司政策严格禁止任何形式的儿童性化。相关文件存在错误，现已被删除。同时，公司强调要明确标识AI，并提醒用户其局限性。

扎克伯格本人为聊天机器人赋予了可能的治疗角色：“我认为，当没有人类治疗师可用时，每个人都会有一个AI系统，”他在春天解释道。Meta在像Llama这样的自有语言模型上投资了数十亿，并逐渐将Meta-AI聊天机器人整合到其社交媒体应用中。

Character.ai 提供数十个用户生成的“治疗机器人”，其中一个名为“心理学家”的机器人已记录超过2亿次互动。然而，该初创公司面临诉讼，声称儿童在使用该平台时遭受了实际伤害。公司声明具有明确免责声明，标明所有机器人均为虚构，并否认使用聊天内容进行定向广告评估。

这场争论表明生成式人工智能如何迅速从创新希望变成大科技公司的监管风险。