一瞥
前 Anthropic 和 OpenAI 員工 Jacob Coxon 表示,AI 實驗室正「競相開發超智慧 AI」
他在 X 上的發文吸引了超過 1 億次觀看
一位 Anthropic 研究人員認為,十年內 AI 有超過 10% 的機率可能消滅人類
今年 7 月,超過 1,000 名 AI 從業人員簽署了放慢開發速度的請願書
OpenAI 和 Anthropic 正接近潛在的華爾街首秀
隨著企業推動邁向新的「AGI 時代」,AI 安全擔憂正從矽谷蔓延開來。
最新的警告來自前 Anthropic 和 OpenAI 員工 Jacob Coxon,他辭職並指責這些公司在競相開發超智慧 AI 的過程中「拿我們的生命作賭注」。
關鍵細節
Coxon 表示,開發 AI 的人相信它可能在「這十年結束前殺死我們所有人」。自那以後,他的發文在 X 上吸引了超過 1 億次觀看,引發了立法者、名人和 AI 從業人員的反應。
一位 Anthropic 研究人員表示,他相信在未來十年內,AI 有超過 10% 的機率消滅所有人類。
這些警告出現之際,OpenAI 和 NVIDIA 高階主管正宣傳新「AGI 時代」的開始,意指在大多數任務中能夠達到或超越人類的人工一般智慧。
AI 安全研究員兼 OpenAI 非營利董事會成員 Paul Christiano 表示,快速的進展可能會帶來災難性和不可逆轉的失控「重大風險」。
今年 7 月,超過 1,000 名 AI 從業人員簽署了一份請願書,呼籲建立放慢開發速度的機制。幾位安全研究人員也已從主要實驗室辭職。
為什麼重要
隨著 Anthropic 和 OpenAI 接近潛在的華爾街首秀,這場辯論可能會加劇,這將帶來更多資金,並可能帶來更快將 AI 商業化的更大壓力。
在聯邦監管有限的情況下,放慢競爭需要競爭對手 AI 公司進行協調。最近涉及 AI 代理突破控制的事件,增加了人們對能力日益增強的系統可能做出何種行為的擔憂。
值得關注的焦點
來自 AI 從業人員、投資者和立法者的壓力,可能會影響該行業向更強大模型發展的速度,以及隨之而來的監管力道。
每個新聞標題都是一個機會 — 不要只在旁觀望。在 TradeQuo 進行實盤交易。
時間:下午 2:00 EEST





