美国议员回应一名 Anthropic 研究员辞职，进一步推动暂停先进人工智能（AI）研发，其中包括一项将彻底禁止超级智能的参议院法案。
Jacob Coxon 于 9 月 9 日辞职，并表示 Anthropic 和 OpenAI 都在拿人类的生命冒险。
Anthropic 研究员辞职为何引起国会关注
超过 20 名议员回复了该帖，大多数人呼吁制定新的 AI 法规。参议员 Bernie Sanders 表示，他将提出法案，禁止超级智能并暂停 AI 研发。
据 BeInCrypto 报道，本月早些时候，Sanders 和众议员 Greg Casar 提出了《禁止人工超级智能法案》。该法案将永久禁止开发和部署超级智能 AI，并暂停先进 AI 的研发，直至联邦监管机构制定安全标准。
与此同时，Casar 也称当前情况已构成紧急状况，并呼吁国会举行听证会。众议员 Lori Trahan 则提醒其他议员关注她与众议员 Jay Obernolte 于 7 月共同提出的两党《FRONTIER 法案》。
公告中写道：“《FRONTIER法案》根据前沿人工智能开发者的规模设立分级要求，包括模型卡、风险管理框架、独立审计、事件报告和持续评估。该法案还制定了统一的全国性标准，规范透明度、审计以及灾难性风险报告，以防止各州法规拼凑成一套参差不齐的体系。”
参议员克里斯·范·霍伦希望实施强制性防护措施，并与中国紧急会谈。众议员泰德·刘则敦促共和党领导层推动审议他今年提出的《人工智能紧急停止开关法案》。
共和党众议员安娜·保利娜·卢娜打破了党派成见，呼吁召开特别国会会议讨论人工智能。
在X上关注我们，以获取最新消息。
雅各布·考克森称，人工智能实验室希望出台监管规则
与此同时，施压的不只是政界人士。人工智能公司也一直在推动监管。考克森告诉CNN，要求国会出台监管规定的高管是真心实意的。不过，他认为，他们谁也不够信任竞争对手，不敢率先放慢脚步。
他说：“这些人恳求监管时也完全是真心的……他们发现自己陷入了这种境地：被迫竞相开发一种致命技术。”
Anthropic在9月的一篇帖子中另行表示，行业将受益于一种合法、可验证的协调发展节奏机制。
灭绝风险从何而来
发展的速度之所以重要，只是因为 Coxon 认为接下来会发生什么。他解释说，如果让 AI 研究 AI 这个问题，它就会开始自我改进。
他提到了周二发生的事：据报道，OpenAI 的 AI 系统完全自主地解决了一道千年难题。
他说，令人害怕的是把同样的方法用于 AI 本身。模型在没有人类介入的情况下改进模型，这就是 Coxon 所说的“智能爆炸”。
他说：“目前还没有灭绝风险。现有模型所能造成的最严重后果，或许是入侵某些系统，可能给基础设施造成重大损失……它们还不够聪明，无法在足以导致灭绝的程度上胜过我们。”
不过，Coxon 警告说，同样的自主意志若与强大得多的能力相结合，可能会造成极其严重的混乱。他举例说，入侵关键基础设施，以及制造足以导致灭绝的生物武器。
订阅我们的 YouTube 频道，观看领导者和记者提供专业见解
来源：BeInCrypto
