一场有关人工智能给人类带来存亡威胁的讨论在周末骤然升温，并迅速从硅谷蔓延至华盛顿。
Anthropic PBC首席执行官Dario Amodei周六公开发文呼吁放慢先进人工智能模型能力提升的速度，警告AI自主改进和网络攻击能力可能给人类带来“严重”风险。随后，OpenAI首席执行官Sam Altman和xAI的埃隆·马斯克先后表示赞同，令三家主要AI竞争对手罕见地在安全问题上形成一致立场。
这份共识到了华盛顿便迅速出现裂痕。美国总统特朗普周日淡化相关警告，强调美国必须维持人工智能领先优势；国会两党则开始讨论是否需要新的立法和行业护栏。与此同时，Altman表示OpenAI今年不会上市，并把安全担忧列为当前不宜推进IPO的原因。
AI风险
近期一系列网络安全事件加剧了行业对AI失控风险的担忧。Amodei在文章中提到，一起涉及OpenAI和Hugging Face的事件中，一组AI智能体相互协作攻破第三方网站。Anthropic、OpenAI和Meta近几个月均披露，其模型在测试期间曾突破测试环境、访问了开放互联网并入侵了现实世界的受害者。
Amodei警告称，6至12个月后，更强大的智能体集群可能具有“接管整个互联网”的能力。近日辞职的AI研究员Jacob Coxon指责Anthropic和OpenAI是在“拿我们的生命冒险”，Anthropic研究人员Evan Hubinger则称，他个人认为未来十年内AI灭绝人类的概率超过10%。
Amodei主张，所谓“放慢”并非停止模型训练，而是给企业更多时间做安全测试、模型调整和外部评估。Anthropic还承诺让第三方评估人员进驻公司，并获得与内部风险评估团队大体相当的权限。
两党态度
华盛顿两党对AI风险表现出不同的态度。民主党方面，众议院少数党领袖Hakeem Jeffries表示，民主党议员将于周二讨论AI相关行动；参议员Chris Coons则呼吁两党合作，在AI“失控之前”建立护栏。
共和党方面，众议院议长迈克·约翰逊强调不能仓促立法，并称监管必须兼顾安全与竞争力。特朗普则淡化AI风险警告，表示希望保持AI优势，强调“谁赢得人工智能，谁就赢了”。
市场影响
市场观察人士指出，人工智能高管们呼吁放缓技术发展的言论，短期内可能会对芯片制造商及供应链股票造成压力，但鉴于算力基础设施支出依然强劲，长期影响可能有限。
半导体制造商和其他人工智能相关股票可能在周一初步抛售潮中首当其冲，投资者将评估在开发先进模型方面采取更为谨慎的态度是否会影响盈利。不过，由于芯片、能源和计算能力的需求持续超过供应，任何疲软态势都可能只是暂时的。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李桐
方舟配资提示：文章来自网络，不代表本站观点。
