美参议院讨论AI安全立法 拟要求企业证明已采取防伤害措施

美国参议院谈判代表正在讨论一项人工智能监管立法，核心内容是要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。这一信息来自一名参议院助手和一位熟悉谈判情况的说客。

参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为“注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。目前尚无法立即确定什么情况才算“合理”。

该提案由参议院多数党领袖约翰·图恩、参议院商务委员会主席特德·克鲁兹以及参与谈判的民主党方面最高议员艾米·克洛布彻共同讨论。克鲁兹的一名发言人没有立即回应置评请求。

图恩周一对记者表示，国会有办法在丝毫不损害美国保持AI竞赛领先地位能力的情况下，对这类影响更为重大的威胁设置防护措施。

近期AI潜在危险引发的担忧有所加剧。Anthropic研究员雅各布·考克森表示他已辞职，并称辞职的部分原因是开发AI的人真心相信，它可能在这个十年结束前杀死所有人。周一，在业内几家最大AI公司的领导人呼吁放缓该技术发展步伐后，全球AI相关股票出现下跌。

该法案仍在讨论中。即便国会通过这项法案，它成为法律的可能性也很渺茫。美国总统特朗普周一表示，政府现有权力已经提供了足够的工具来监管和起诉科技公司，暗示他不会签署一项为AI制定新规则的法案。

这项讨论中的“注意义务”条款，意味着AI开发商需要向商务部长提交证明，说明自身已经采取了合理预防措施来避免其产品造成伤害。商务部长获得的授权还包括派遣政府审查人员亲自测试企业产品，以核实企业所声称的安全措施是否真实有效。这一机制将监管重点放在企业的事前预防责任上，而非事后追责。

参与讨论的三名参议员分别来自两党。约翰·图恩作为参议院多数党领袖，在推动立法议程方面具有关键影响力；特德·克鲁兹担任参议院商务委员会主席，该委员会对商务部长职权相关的立法拥有管辖权；艾米·克洛布彻则是民主党方面参与谈判的最高级别议员。三人共同讨论该提案，显示出这一立法努力试图跨越党派分歧。

图恩在周一对记者发表的言论中强调，设置防护措施与保持美国在AI竞赛中的领先地位并不冲突。他的表态指向一种监管思路：针对“影响更为重大的威胁”采取有限度的干预，而不对AI行业整体施加广泛限制。

围绕AI潜在危险的担忧在近期持续升温。Anthropic研究员雅各布·考克森公开表示自己已经辞职，并将辞职的部分原因归结为：开发AI的人真心相信，这项技术可能在这个十年结束前杀死所有人。这一表态来自AI行业内部，而非外部批评者。同一天，在业内几家最大AI公司的领导人呼吁放缓该技术发展步伐之后，全球AI相关股票出现下跌。股市反应与行业领导人呼吁放缓发展步伐这两件事在同一天发生，反映出市场对AI风险叙事的敏感度正在上升。

尽管参议院谈判代表正在推进讨论，该法案距离成为法律仍有很长的路要走。特朗普总统周一的表态为这项立法前景增添了不确定性。他表示，政府现有权力已经提供了足够的工具来监管和起诉科技公司，暗示他不会签署一项为AI制定新规则的法案。总统的立场意味着，即使国会两院通过该法案，也可能面临行政分支的否决。