纽约市议会 AI 听证会：业界人士警告“人类更可能失去控制”

纽约市的决策者本周一听到了关于人工智能的严厉警告。在一场市议会听证会上，AI 业界人士表示这项技术可能危及人类，并呼吁加强监管。这场作证发生在地方政府开始填补联邦监管空白之际。

多名近期从 Anthropic、OpenAI 和 Google DeepMind 离职的员工在听证会上形容，头部 AI 公司存在一种“鲁莽的文化”，它们正在竞赛式地打造自己并不懂得如何控制的技术。已成为监管倡导者代表人物的前 Anthropic 工程师 Jacob Coxon 说：“这些公司以一种创业心态运作：快速行动、打破常规、之后再修补。这对一个分享照片的应用可行，但用来打造史上最强大的技术则行不通。”

Coxon 表示 AI 可能带来巨大好处，但警告说，如果没有透明度和安全防护，事态更可能失控。“按照当前的路径，我认为人类更可能失去对这些 AI 的控制，甚至可能以人类灭绝告终，”他在听证会上说。

这背后是一个各州和城市正试图填补的政策真空。特朗普政府对 AI 采取被动态度，国会也迟迟未有行动；总统把对 AI 的担忧称为“骗局”，并在上月底签署了一份协议，列出企业自愿采取的步骤，基本上让企业自我监管。

一个由 AI 公司员工组成的小组也到场作证，他们分别代表 OpenAI、Anthropic、Google 和 Meta，向官员表示其系统已在改善人们的日常生活，并强调公司高度聚焦安全。Anthropic 和 OpenAI 都说过其先进产品需要被监管，两家公司的代表也对市议会的一些建议表达了开放态度。

OpenAI 的 Morgan Dwyer 说：“我认同你们确保技术安全发展、并让其收益被广泛分享的承诺。”当议长 Julie Menin 要求每位代表量化最坏情况下的灾难性风险时，Dwyer 回答：“我不知道——我也不认为这取决于它是 1%、10% 还是 20%……这些水平都完全不可接受。”

Menin 抨击这一回答“至少可以说是轻率的”。市议会正在考虑多项 AI 监管提案，包括要求企业披露 AI 工具的相关信息、要求在城市中使用的 AI 系统获得第三方批准，以及让举报人获得 AI 公司违法罚款的一部分。纽约州州长 Kathy Hochul 也已推动针对 AI 的申报与透明度标准，其他州的州长也在跟进。

Anthropic 的 Logan Graham 告诉市议会，公司欢迎“明智的监管”，州和地方政府在制定框架方面可以发挥作用：“AI 强大到一旦做错就会带来真实的后果，对个人、机构以及公众信任都是如此，”他说。