文章来源: 美国中文网 – 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
路透社周三报道称,拜登政府准备开辟一条新战线,旨在努力保护美国的人工智能AI技术免受中国侵害,并初步计划为最先进的AI模型设置护栏,这包括ChatGPT等AI系统的核心软件。
路透社援引知情人士的话报道称,商务部正在考虑采取新的监管措施,限制专有或闭源AI模型的出口,这些模型的软件和训练数据均处于保密状态。
过去2年,华盛顿已经针对北京出台了许多针对硬件的限制,包括阻止向中国出口先进的AI芯片、芯片制造工具,以减缓其军事尖端技术的开发速度。
目前,对于受微软支持的OpenAI、Alphabet旗下的Google DeepMind等美国AI巨头没有任何监管限制,这些公司可以将其开发的一些强大的闭源AI模型出售给世界上几乎任何人。
政府和私营部门研究人员担心,美国的对手可能会利用这些模型来发动侵略性网络攻击,甚至制造强大的生物武器,这些模型可以挖掘大量文本和图像来总结信息并生成内容。报道称,任何新的出口规则也可能针对其他国家。
据报道,为了制定AI模型的出口管制,美国可能会采用去年10月发布的AI行政命令中包含的阈值。该阈值基于训练模型所需的计算能力,当达到该阈值时,开发者必须向商务部报告其AI模型开发计划并向提供测试结果。
美国官员表示,计算能力阈值可能成为确定哪些AI模型受到出口限制的基础。
根据跟踪AI趋势的研究机构EpochAI的数据,如果该阈值被采用,它可能只会限制尚未发布的模型的出口。因为市面上已经存在的AI模型被认为都没有达到该阈值,尽管谷歌的“双子座”Gemini Ultra被认为已经接近阈值 。
消息人士强调,商务部远未敲定规则提案。但政府正在考虑采取这样的举措,已经表明其正尽可能地阻碍中国实现AI野心,尽管对这项快速发展的技术实施强有力的监管本身就面临着严峻的挑战。
美国情报界、智库和学术界越来越担心外国不良行为者获得先进AI能力所带来的风险。狮鹫科学公司(Gryphon Scientific)和兰德公司(Rand Corporation)的研究人员指出,先进的AI模型可以提供有助于制造生物武器的信息。
此外,国土安全部指出,在2024年国土威胁评估中,网络行为者可能会使用AI“开发新工具”,以“实现更大规模、更快、更高效、更具规避性的网络攻击”。
“AI的使用和开发可能会出现爆炸性的增长,我们实际上很难追踪这一趋势。”国家情报总监办公室官员布赖恩·霍姆斯(Brian Holmes)表示。
路透社的报道还指出,受到潜在出口限制的AI模型的门槛并不会一成不变。商务部最终可能会确定较低的阈值,再附加上其他因素,例如数据类型或AI模型的潜在用途——是否可用于设计制造生物武器的蛋白质的能力。
无论门槛如何,AI模型的出口都将很难控制。许多模型都是开源的,这意味着它们不会受到正在考虑的规则管制。
即使对更先进的专有模型实施控制也将具有挑战性,因为监管机构可能很难制定正确的标准来确定哪些模型应该受到控制。智库专家指出,中国在开发自己的AI软件这方面可能只落后美国2年左右。