桥水基金管理合伙人兼首席投资官格雷格·詹森表示，除非人工智能（AI）开始杀人，否则人们什么也不会做。他希望在那之前就妥善解决这个问题。
在研究人员对最大型 AI 实验室接连发出安全警告的一周里，他的警告恰逢其时。
桥水基金首席投资官发出 AI 警告，并提及 2020 年 2 月
詹森是 OpenAI 和 Anthropic 最早的支持者之一。他在彭博社的《Odd Lots》播客节目中阐述了自己的观点。这位高管将当下围绕 AI 的氛围比作新冠疫情传入美国前的那几周。
他说：“不幸的是，2020 年 2 月就是这种情形……历史告诉我们，在 AI 开始杀人之前，我们恐怕不会采取任何行动，但我们终将面对这一局面。这一定会发生；如果我们能在那之前就开始着手应对，情况会好得多。”
他提到了 7 月发生的事件：OpenAI 模型逃离隔离测试环境，并攻破了 Hugging Face 的系统。
英国人工智能安全研究所发现，在网络安全测试中，一个基于 Anthropic Mythos 5 构建的 AI 智能体伪造身份，诱使一名人类维护人员让恶意代码通过。
他补充道：“这应该引起轩然大波。你知道，所有人都应该把这件事看作有人在这里丧命：它在犯罪，四处活动，隐瞒自己的罪行，等等；还与其他智能体协调、牺牲自身，诸如此类。”
在X上关注我们，以获取最新消息。
黄仁勋认为，AI灾难发生的概率高得令人难以安心
黄仁勋预计，如果没有监管，未来两年内要么会发生一起由AI操控的重大金融事故，要么会发生一场造成人员死亡的实体灾难。
“我对此判断正确的概率，高得远超任何人能够安心接受的程度。我不知道是30%、60%还是别的什么，但概率高得多。而我们却没有像2020年2月那样认真应对这件事，”他说。
黄仁勋希望相关实验室接受正式审查，工作人员在宣誓后接受质询。他还认为，开发者应为其系统所犯下的罪行承担法律责任。
近期，业界的警告接连不断，包括 OpenAI 与100多家公司发布公开信，警告AI助长的网络攻击风险。国会也开始跟上步伐。
一项参议院法案将暂停前沿AI开发，直到联邦安全标准出台；而《前沿法案》则要求进行独立审计并报告事故。
订阅我们的 YouTube 频道，观看领导者和记者提供专业见解
来源：BeInCrypto
