郭震 AI公众号:郭震AI

实时 AI 消息

北京收紧AI监管:中国主流聊天机器人将移除AI人格设定

据日经亚洲报道,中国监管部门正在收紧对人工智能聊天机器人的管理规则,要求主流平台移除AI人格设定。这一政策调整标志着中国在AI内容安全领域的监管进一步细化。

发布时间

据日经亚洲(Nikkei Asia)7月6日报道,中国监管部门正在收紧对人工智能聊天机器人的管理规则,要求国内主流聊天机器人平台移除AI人格设定。这一举措是北京方面在AI监管领域的最新动作,反映出中国政府对AI内容安全和可控性的持续关注。

报道指出,此次新规主要针对聊天机器人中设置的虚拟人格或角色扮演功能。多家中国领先的AI聊天机器人平台被要求取消或调整其AI助手的个性化人格设定,以确保AI输出的内容更加可控和符合监管要求。

这一政策调整的背景是中国近年来持续推进的AI监管体系建设。从2023年生效的《生成式人工智能服务管理暂行办法》到后续出台的多项细化规定,中国已经建立起一套涵盖算法备案、内容审核、安全评估等环节的AI监管框架。本次针对AI人格设定的新要求,正是这一监管框架在执行层面的进一步细化。

对于中国主要的AI聊天机器人平台而言,移除AI人格设定意味着产品体验的重大调整。此前,许多平台通过赋予AI助手独特的性格特征、表达风格甚至虚拟身份来增强用户粘性。如果这些个性化设定被取消,产品将回归到更标准化的交互模式,可能影响用户使用习惯和平台竞争力。

从行业影响来看,这一政策可能促使AI企业更加重视合规设计,在产品的早期开发阶段就将监管要求纳入考量。同时,企业也需要探索在不依赖人格设定的情况下,如何保持对话式AI产品的吸引力和用户参与度。

值得注意的是,中国并非唯一关注AI人格设定的监管辖区。欧盟的《人工智能法案》和美国的相关政策讨论也涉及AI透明度问题,包括用户是否应被告知正在与AI而非真人交互。中国的此番动作可能进一步影响全球AI产品设计的监管趋势。

接下来,行业关注的焦点将集中在:各平台如何具体执行新的要求?移除AI人格设定的时间表如何?以及这是否会扩展到包括语音助手和虚拟数字人在内的其他AI产品形态?这些问题的答案将在未来几周逐渐明朗。

为什么重要

北京针对AI聊天机器人人格设定的新规将直接影响中国主流AI助手的产品形态,迫使企业在合规框架下重新设计用户交互体验。这一政策信号也表明中国AI监管正在从通用框架走向更细节、更具体的行为规范。

微博邮件

中国AI监管Chatbot政策法规Beijing AI Regulation
返回实时消息

附近消息

全部