顺哥。周末感想。中美人工智能竞争带给人类的后遗症。

顺哥。周末感想。中美人工智能竞争带给人类的后遗症。Anthropic CEO Dario Amodei 最近提出一个非常值得人类认真思考的问题：人工智能的发展速度可能已经快到我们的安全机制、法律制度，甚至整个社会都来不及适应。他认为，最先进的人工智能不应该无限制地追求“越快越好”，而应该考虑适当放慢发展速度，让安全研究、监管制度和人类社会有时间追上来。但是这里出现了一个最大的难题——中国。如果美国的 Anthropic、OpenAI、Google 等公司为了安全主动减速，而中国的人工智能公司继续全速发展，那么美国可能失去目前在人工智能领域的领先优势。于是就形成了一个非常危险的“军备竞赛”逻辑：美国怕中国超过，所以不能停；中国怕美国领先，所以也不能停。最后大家都知道速度太快可能存在危险，却没有任何一方敢先踩刹车。这才是 Amodei...