登录
星期一, 12月 23, 2024
首页 人工智能 - AI AI是否应该开源?两方激烈舌战

AI是否应该开源?两方激烈舌战

admin

特斯拉首席执行官马斯克对OpenAI及其首席执行官阿尔特曼提起诉讼,这引发了X上关于AI的激烈讨论。

图片来源:DADO RUVIC/REUTERS

文章来源:  华尔街日报中文网 – 新闻取自各大新闻媒体,新闻内容并不代表本网立场!

在过去的几天里,马斯克和阿尔特曼的官司引发了风投界最著名的两位人物在X上展开激烈的争论:人工智能应该开源开发还是幕后开发?

在过去的几天里,风险投资界最著名的两位人物Marc Andreessen和Vinod Khosla就硅谷最具分歧的话题之一在X上展开了激烈的争论:AI应该开源开发还是幕后开发?

Andreessen等开源AI技术的支持者表示,开源AI代表着科学的开放共享和更高的透明度,也是防止科技巨头利益集团垄断一项强大技术的方式。Khosla等幕后AI开发的支持者则表示,公司或其他私营实体提供了一种防范AI潜在危险和被滥用的方法。

开源AI是免费发布的,供公众在此基础上构建和共享,而不公开的或专有AI则由其创造者私人控制和共享。但这两种方法并不相互排斥,它们可以共存。公司在开源代码的基础上构建私有系统就是一个例子。

Marc Andreessen是硅谷风投公司Andreessen Horowitz的联合创始人。

图片来源:STEVE JENNINGS/GETTY IMAGES

在X上的争论最初由马斯克(Elon Musk)对OpenAI及其首席执行官阿尔特曼(Sam Altman)提起的诉讼引发。这场争论凸显了在AI的发布和安全性问题上找到明确答案的难度,尤其是在监管机构、科技巨头、科学家和各国政府仍然不知道这项技术会发展到什么程度以及发展速度有多快的情况下。

在与这场争论有利害关系的科技巨头中,Meta倡导开源AI,并发布了Llama 2模型,供公众下载和修改。总部位于巴黎的Mistral AI发布了具有开放“权重”的模型,开放的是构成模型内部工作原理的数值参数。与此同时,业内最大的AI初创公司OpenAI和Anthropic都在销售封闭源代码的AI模型。

Vinod Khosla是硅谷风投公司Khosla Ventures的联合创始人。

图片来源:DAVID PAUL MORRIS/BLOOMBERG NEWS

Andreessen Horowitz的联合创始人Andreessen上周六发帖称,Khosla正在“游说禁止开源”。在Andreessen发表评论之前,Khosla在马斯克提起诉讼后对阿尔特曼和OpenAI进行了声援,马斯克的诉讼指控两者都违反了该公司的创始协议,即致力于公共、开源的AI,而非优先考虑利润。

Khosla Ventures的创始人Khosla也是OpenAI营利性部门的支持者,他回应说,AI就好比核武器,开源AI会危及国家安全。Khosla最近的帖子提到了OpenAI的技术前瞻者Ilya Sutskever说过的一句话:“不分享科学成果也完全没问题”。

Khosla Ventures的一位发言人指出,之前Khosla曾发表过一篇支持开源技术的帖子,但认为大型AI模型是一项需要严密保护的“国家安全和技术”优势。

Andreessen Horowitz没有回应记者的置评请求。

上述两个阵营之间普遍达成的共识是,大型语言模型——即为ChatGPT提供动力并在海量数据基础上进行培训的算法,并不是一项完全成熟的技术。ChatGPT和其他AI工具可能会产生幻觉,生成有偏见的结果以及带有恶意或攻击性的输出。除此之外,它们的使用和培训成本高得惊人,而且耗能巨大。

对于一些开源支持者来说,AI模型中存在的这类技术差距意味着,它们必须在出于商业利益而闭源、甚至可能达到通用AI阶段之前,在科学家和学者群体中公开开发。通用AI是一种机器可以像人类一样学习和思考的AI假想程序。

人们普遍认为,大语言模型–即为ChatGPT提供动力并在海量数据基础上进行训练的算法–并不是一项完全成熟的技术。

图片来源:RICHARD DREW/ASSOCIATED PRESS

“我们相信,这是我们第一次大规模部署一项我们并不真正了解的技术,”非营利性研究机构Allen Institute for AI的首席执行官Ali Farhadi表示。“我们不知道如何控制这些系统。”Allen Institute for AI由已故微软联合创始人艾伦(Paul Allen)于2014年创立。

Farhadi和其他开源支持者很快指出,早在谷歌研究人员于2017年分享为大语言模型奠定基础的transformer模型之前,AI技术长达几十年的发展靠的是科学家分享他们的研究成果。

一些美国议员认可Khosla的观点,即如果可以自由分发AI技术,可能就会放任外国对手发展该技术,因此AI应该受到相应的保护。这种信念的核心在于,AI技术会给人类带来生存风险,可能引发灾难,许多闭源AI公司都认同这样的理念。

阿尔特曼已表示,OpenAI会认真履行其安全义务,AI的开发应非常谨慎,但同时也表示,该技术会提供巨大商机。

始于几十年前的软件领域开源运动伴随着Linux等系统的快速普及,该运动可提供一些线索,帮助人们判断眼下这场开源/闭源之争的迭代会走向何方: 开源软件几乎支撑着包括云计算在内的所有技术形式,而云计算的商业化助力亚马逊等公司成为了巨头。

但由于易于下载和修改,开源软件也给企业和政府带来了网络安全风险。

专家们表示,闭源和开源技术一直是共存的。Meta负责生成式AI的副总裁Ahmad Al-Dahle认为,任何一方胜出都是“错误的对立”。他说:“我认为两种技术都有发展空间。”

构建专有模型的AI初创公司AI21的联合创始人兼联合首席执行官Ori Goshen表示:“从根本上说,开源技术将发挥非常重要的作用,在这个世界上,即使是像我们这样的专有项目供应商,一些基础模型也将变成开源项目,但其他一切都将是你最宝贵的知识产权。”

Copyright ©2022 Dow Jones & Company, Inc. All Rights Reserved. 87990cbe856818d5eddac44c7b1cdeb8显示评论

相关新闻

发表评论

@2023 – All Right Reserved.