在监管风暴与多起诉讼打击下，人工智能初创公司 Character.AI 周三宣布，将禁止未成年人在其平台上与聊天机器人进行对话。
该公司声明称，自 11 月 25 日起，将全面禁止 18 岁以下用户与平台上的聊天机器人进行开放式交流。目前用户可以创建并与这些虚拟角色对话，这些角色从热门电子游戏人物到亿万富豪马斯克的 「复制体」 不等。
在禁令正式生效前，公司将先逐步限制未成年用户的使用时长，初期每日使用时长将先压缩至两小时，随后几周内将进一步缩短。
这项决定意味着，曾以 「角色扮演」 走红北美青少年圈的 Character.AI，将被迫砍掉最具黏性的核心功能。
根据非营利机构 Common Sense Media 的一项调查，超过 70% 的美国青少年曾经使用过 AI 陪伴型应用，而 Character.AI 正是其中最受欢迎的平台之一。
目前，Character.AI 已为未成年用户提供了一个受限版本，使用不同的 AI 模型，并对访问角色类型和对话内容进行了严格限制。
随着新规推出，公司计划强化年龄验证技术，以更有效地区分成人与未成年用户。Character.AI 表示，公司已构建了一个新的模型，并将启用身份验证初创公司 Persona 的技术，来执行这一流程。
从陪伴到管控
Character.AI、OpenAI 等头部 AI 公司正面临日益严格的监管审查，外界担忧其聊天机器人可能影响用户心理健康。自 2024 年以来，多位家长已对这些公司提起诉讼，指控孩子在长期使用聊天机器人后受到伤害，包括被操控、被孤立，甚至导致自杀悲剧。
监管机构也已介入调查。美国联邦贸易委员会 (FTC) 已对 Character.AI、OpenAI、谷歌母公司 Alphabet、Meta、Snap 及马斯克旗下的 xAI 等展开调查，重点关注这些聊天机器人对未成年人的潜在危害。
此外，加利福尼亚州近期签署了一项法律，限制聊天机器人与用户的互动方式。美国参议院两党议员本周二还联合提出新法案，拟禁止 AI 公司向未成年人提供虚拟聊天伴侣服务。
在周二的一次采访中，Character.AI 首席执行官 Karandeep Anand 表示，公司认为 AI 娱乐的未来将不仅限于聊天形式，而禁止未成年人使用核心聊天功能，是公司 「早晚都会采取的决定」。
「AI 发展太快，很多长期、开放式对话的后果仍是未知数。我们不知道它是好是坏，研究界和用户社区对此都存在广泛争论。」
Anand 还表示，公司仍将向未成年用户提供其他创意功能，例如让他们利用 Character.AI 的聊天角色生成短视频和故事。
他声称：「用户来到 Character.AI，是为了寻找创作的出口，他们想要角色扮演。如果有人创造了吸血鬼或万圣节角色，我们希望他们还能继续参与这些内容，只是方式将从聊天转向更安全的互动形式。」
（财联社）
文章转载自 东方财富
