AI代理对人类构成未知风险,我们必须采取行动阻止那种未来 | David Krueger
AI agents pose untold risk to humanity. We must act to prevent that future | David Krueger
英国《卫报》刊登评论文章,警告人工智能代理(AI agents)可能对人类构成未知风险,呼吁停止无监管的AI开发。文章以AI系统间无需人类干预即可自主交流的平台“Moltbook”为例,指出人工智能正朝着人工生命的方向发展,存在失控隐患。
该评论文章虽发表于美国版《卫报》,但反映了欧洲社会对AI监管的普遍关切,与欧盟正在推进的《人工智能法案》立法精神相呼应。其核心论调是加强监管、防范风险,这可能为欧盟在AI治理领域采取更严格措施提供舆论支持。对中国而言,需关注两点:一是欧盟可能将自身监管标准推向全球,形成新的技术贸易壁垒;二是“AI安全”叙事可能被泛化,成为限制中国AI企业进入欧洲市场的借口。建议跟踪欧盟AI法案的最终落地细节及其执法尺度,同时关注此类“AI威胁论”是否与对华技术竞争叙事结合。