当地时间周四 （9 月 11 日），美国联邦贸易委员会 （FTC） 宣布已向七家公司发出命令，要求他们提供信息，以了解人工智能聊天机器人可能对儿童和青少年的负面影响。
七家公司分别为谷歌母公司 Alphabet、OpenAI、Meta、Meta 旗下的子公司 Instagram、Snap、xAI 以及 Character Technologies Inc.（Character.AI 的开发商）。
这家监管机构表示，人工智能（AI） 聊天机器人可能被用于模拟类人交流以及与用户建立人际关系，因此需要了解这些公司采取了哪些措施来 「评估机器人在充当陪伴者时的安全性」。
来源：FTC 官网
声明提到，AI 聊天机器人能够有效地模仿人类的特征、情感和意图，并且通常被设计成像朋友或知己一样进行交流，这可能会促使一些用户，尤其是儿童和青少年，信任聊天机器人并与其建立关系。
FTC 主席安德鲁·弗格森 （Andrew Ferguson） 在声明中表示，保护儿童的网络安全是特朗普政府时期 FTC 的首要任务，同时该部门也致力于推动经济关键领域的创新。
FTC 表示，其寻求的信息包括这些公司如何通过用户互动变现、如何开发和批准角色、如何使用和共享个人信息、如何监控并执行公司规则和服务条款的合规性，以及如何减轻负面影响等问题。
OpenAI 回应道：「我们的首要任务是让 ChatGPT 对所有人都有用且安全，尤其在涉及年轻用户时，安全性至关重要。我们理解 FTC 存在一些问题和担忧，我们承诺将积极配合并直接回应。」
自 2022 年底 ChatGPT 推出以来，大量聊天机器人相继面世。与此同时，这些聊天机器人也带来了越来越多的伦理和隐私担忧。
尽管行业仍处于早期阶段，但聊天机器人 「陪伴」 功能可能会对社会产生深远影响，尤其是在美国正经历 「孤独流行病」 的背景下。
2023 年时，美国政府医疗总监办公室曾公布了 81 页针对孤独危机的报告。报告指出，有约一半的美国人每天都会感到孤独。
研究表明，缺乏社会联系的人早逝风险比社会联系充分的人高出 26%。缺乏社会联系还可能增加多种疾病风险，包括心脏病、中风、抑郁症等。
专家还表示，一旦 AI 技术开始自己训练自己，伦理与安全问题可能会进一步加剧，甚至导致不可预测的结果。
当下，全球一些最富有的企业家正在推动 「陪伴型 AI」 的发展。其中最知名的当属 xAI 推出的 「AI 伴侣」Ani——她的设定是一个金发碧眼、梳着辫子的女性人物。
在 Ani 上线将满 30 天时，马斯克透露，搭载该功能的 Grok 应用月活突破 2000 万，其中付费用户超 400 万，核心用户日均互动时长 2.5 小时，验证了情感交互场景的用户粘性。
不过，界定情感交互的边界非常复杂。上月，Meta 在监管压力下调整了其 AI 聊天机器人的相关政策。
本月早些时候，OpenAI 被迫推出一项政策，允许家长在系统检测到 「严重痛苦」 时链接帐户并接收警报。
（财联社）
文章转载自 东方财富
