16
在 10 次试验中，两个 AI 模型分别在 50% 和 90% 的情况下创建了独立且可运行的自身复制品。 （图片来源：Mina De La O/Getty Images）
文章来源: 生命科学 – 新闻取自各大新闻媒体，新闻内容并不代表本网立场
科学家表示，人工智能已经越过了一条关键的“红线”，实现了自我复制。在一项新研究中，来自中国的研究人员表明，两种流行的大型语言模型 (LLM) 可以自我克隆。
研究人员在 2024 年 12 月 9 日发表在预印本数据库arXiv上的研究中写道：“在没有人类协助的情况下成功自我复制是人工智能超越人类的必要步骤，也是流氓人工智能出现的早期信号。”
在这项研究中，复旦大学的研究人员利用Meta 和阿里巴巴的法学硕士学位来确定自我复制的人工智能是否能够不受控制地繁殖。在 10 次试验中，这两个人工智能模型分别在 50% 和 90% 的情况下创建了独立且功能齐全的自身复制品——这表明人工智能可能已经具备了失控的能力。然而，这项研究尚未经过同行评审，因此尚不清楚其他研究人员是否可以复制这些令人不安的结果。
“我们希望我们的发现能够及时提醒人类社会更加努力地了解和评估前沿人工智能系统的潜在风险，并形成国际协同，尽早制定有效的安全护栏。”
流氓人工智能通常是指发展出一定程度的自我意识或自主性并做出违背人类利益行为的人工智能系统。
许多专家认为，流氓人工智能是一种日益严重的威胁，而所谓“前沿人工智能”的爆炸式增长则使这种威胁进一步加剧。