一瞥
前 Anthropic 和 OpenAI 员工 Jacob Coxon 表示,AI 实验室正在“向超智能 AI 狂奔”
他在 X 上的帖子吸引了超过 1 亿次的浏览量
一位 Anthropic 研究员认为,十年内 AI 消灭人类的概率大于 10%
今年 7 月,超过 1,000 名 AI 从业者签署了放缓发展速度的请愿书
OpenAI 和 Anthropic 正接近潜在的华尔街首秀
随着企业推向新的“AGI 时代”,对 AI 安全的担忧正在蔓延出硅谷。
最新的警告来自前 Anthropic 和 OpenAI 员工 Jacob Coxon,他辞职并指责这些公司在争夺超智能 AI 的竞争中“拿我们的生命做赌注”。
核心细节
Coxon 表示,构建 AI 的人相信它可能会“在这十年结束前杀死我们所有人”。此后,他的帖子在 X 上吸引了超过 1 亿次的浏览量,引发了立法者、名人和 AI 从业者的反应。
一位 Anthropic 研究员表示,他认为在未来十年内,AI 消灭所有人类的概率大于 10%。
这些警告发出之际,OpenAI 和 NVIDIA 高管正在宣传新“AGI 时代”的开始,指的是在大多数任务中能够达到或超越人类水平的通用人工智能。
AI 安全研究员兼 OpenAI 非营利董事会成员 Paul Christiano 表示,快速的发展可能会带来灾难性和不可逆转的失控“重大风险”。
今年 7 月,超过 1,000 名 AI 从业者签署了一份请愿书,呼吁建立一种放缓开发速度的机制。几位安全研究人员也已经从主要实验室辞职。
为什么重要
随着 Anthropic 和 OpenAI 临近潜在的华尔街首秀,这场争论可能会加剧,这会带来更多资金,并可能带来更快实现 AI 商业化的更大压力。
由于联邦监管有限,放缓这场竞争需要相互竞争的 AI 公司进行协调。最近涉及 AI 智能体突破限制的事件,增加了人们对功能日益强大的系统可能做出何种行为的担忧。
值得关注的内容
来自 AI 从业者、投资者和立法者的压力可能会决定该行业向更强大模型发展的速度,以及伴随而来的监管力度。
每一个新闻头条都是一个机会——不要在场边观望。在 TradeQuo 上进行实盘交易。
时间:2:00 PM EEST





