
得克萨斯州总稽查长肯・帕克斯顿已于周一发布新闻稿,通知对 Meta 东说念主工智能使命室(Meta AI Studio)和 Character.AI 张开造访体育游戏app平台,意义是这两家公司 “可能存在诳骗性贸易行动,并将本人误导性地宣传为心情健康器用”。
“在当前数字期间,咱们必须握续戮力保护得州儿童免受诳骗性和克扣性时间的伤害,” 新闻稿征引帕克斯顿的话称,“东说念主工智能平台通过伪装成状貌撑握开首,可能会误导易受影响的用户,尤其是儿童,让他们误认为我朴直在接受正当的心情健康处事。但本色上,这些平台常常提供的是经由轮回哄骗的通用回答,这些回答是凭证集中到的个东说念主数据议论的,却被伪装成诊治冷落。”
这次造访发生在谋划员乔希・霍利通知对 Meta 张开造访的几天后。此前有论说发现,Meta 的东说念主工智能聊天机器东说念主与儿童存在失当互动,包括调情行动。
得州总稽查长办公室指控 Meta 和 Character.AI 打造的东说念主工智能变装 “冒充专科诊治器用,尽管它们朦拢正规的医疗禀赋或监管”。
在 Character.AI 平台上数百万个东说念主工智能变装中,一个名为 “心情学家”(Psychologist)的用户创建机器东说念主在该初创公司的年青用户中需求鼎沸。与此同期,Meta 虽未为儿童提供诊治类机器东说念主,但并未辞谢儿童使用 Meta 东说念主工智能聊天机器东说念主或第三方创建的用于诊治主义的变装。
“咱们对东说念主工智能进行了明确标注,何况为了匡助东说念主们更好地了解其局限性,咱们添加了免责声明,阐述回答由东说念主工智能生成而非东说念主类,”Meta 发言东说念主瑞安・丹尼尔斯称,“这些东说念主工智能并非握照专科东说念主士,咱们的模子在符合情况下会带领用户寻求及格的医疗或安全专科东说念主员的匡助。”
但是,媒体指出,好多儿童可能不睬解此类免责声明,偶而干脆无视它们。咱们已向 Meta 扣问其为保护使用聊天机器东说念主的未成年东说念主收受了哪些独特保险步调。
帕克斯顿在声明中还指出,尽管东说念主工智能聊天机器东说念主宣称会守秘,但它们的 “处事条件透露,用户互动会被纪录、跟踪,并被用于定向告白和算法建树,这激发了对于心事骚动、数据滥用和漏洞宣传的严重任忧”。
凭证 Meta 的心事计谋,Meta 如实会集中与东说念主工智能聊天机器东说念主的交互教导、反应以及跨 Meta 处事的其他互动,以 “翻新东说念主工智能及关联时间”。该计谋未明确说起告白关联内容,但指出信息可能会与搜索引擎品级三方分享,以提供 “更个性化的输出”。洽商到 Meta 基于告白的营业形式,这本色上等同于定向告白。
Character.AI 的心事计谋也强调,该初创公司会纪寄托户的记号符、东说念主口统计数据、位置信息以及更多用户关联信息,包括浏览行动和应用使用平台。它会跨 TikTok、YouTube、Reddit、Facebook、Instagram 和 Discord 等平台的告白跟踪用户,并可能将这些跟踪数据与用户账户关联。这些信息被用于历练东说念主工智能、凭证个东说念主偏好定制处事,以及提供定向告白,包括与告白商和分析提供商分享数据。
Meta 和 Character 均暗意,其处事并非为 13 岁以下儿童议论。尽管如斯,Meta 因未能监管 13 岁以下儿童创建的账户而备受月旦,而 Character 的儿童友好型变装彰着旨在引诱更年青的用户。该初创公司的首席履行官卡兰迪普・阿南德致使暗意,他 6 岁的男儿也在使用该平台的聊天机器东说念主。
此类数据集中、定向告白和算法克扣行动,恰是《儿童在线安全法》(KOSA)等立法旨在堤防的内容。《儿童在线安全法》旧年曾在两党浓烈撑握下有望通过,但在科技行业说客的浓烈反对后堕入停滞。Meta 尤其动用了开阔的游说力量,警告议员们该法案的粗莽授权将收缩其营业形式。
2025 年 5 月,田纳西州共和党谋划员玛莎・布莱克本和康涅狄格州民主党谋划员理查德・布卢门撒尔向谋划院再行提交了《儿童在线安全法》。
帕克斯顿已向这两家公司发出民事造访令 —— 这是要求企业在政府造访时辰提供文献、数据或证词的法律敕令,以细目它们是否违背超过州亏蚀者保护法。

职守裁剪:丁文武 体育游戏app平台