马斯克与 LeCun 因 AI 安全性和监管问题隔空开怼,还上升到人身攻击

AI新闻5个月前发布 SUYEONE
770 0 0

昨日,AI 领域两位重量级人物 Yann LeCun 和 Elon Musk 就人工智能的安全性和监管问题在社交媒体上「隔空交锋」。

人工智能先驱 LeCun 在 X 上表达了他对正在进行的人工智能监管的看法。LeCun 认为,现在担心人工智能带来「生存风险」还为时过早,更别说对其进行监管了。

「人工智能并不是某种会突然出现并变得危险的自然现象。我们设计它,我们建造它。」

他强调 AI 的安全性取决于人类设计,目前无需过度担忧。

而马斯克则以幽默回应,「Prepare to be regulated」,暗示未来可能的监管。

马斯克 LeCun 隔空战,激烈开火

对于 AI 监管问题,马斯克和 LeCun 从来都不在一条战线上,这次对话让公众更加清晰地看到了他们二人立场的不同。

在马斯克的回复下面,LeCun 也毫不示弱,他问道「你对『不要训练超过 10^26flops 的模型』感到高兴吗?」

LeCun 所提到的「不要训练超过 10^26flops 的模型」,出自拜登去年 10 月签署的白宫首个生成式 AI 监管规定。

事实上,这个规定的出台,马斯克作为一个积极的「监管支持者」功不可没,他总是一方面展现出对人工智能失控的巨大恐惧,另一方面不遗余力地建立自己的 AI 帝国。

而 LeCun 作为一个拥护 AI 进步「监管反对者」,同时也在极力倡导开源和共享。

LeCun:要开放,不要监管

人工智能不是某种自然现象,它不会突然出现,也不会突然变得危险。

它是由我们设计的,也由我们构建。

我能想象出成千上万种涡轮喷气发动机出现严重错误的情况。

然而,在广泛部署涡轮喷气发动机之前,我们设法使其变得极其可靠。

对于人工智能来说,这个问题是类似的:

「我们是否认为至少存在一种人工智能系统的设计,它同时是安全可控的,并能以比人类更智能的方式实现目标?」

如果答案是肯定的,我们就会没事。

如果答案是否定的,我们就不会建造它。

现在,我们甚至连达到人类级别的智能系统设计的影子都还没看到。

所以,现在担心还为时过早。

而且为了防止「生存风险」而对其进行监管也为时尚早

LeCun 发表这则推文的背景,是在加强人工智能监管的呼声日益高涨,OpenAI 人工智能安全团队大规模外流之下发布的。

LeCun 的立场与 OpenAI 前董事会成员所表达的观点形成鲜明对比。

后者一直主张更严格的人工智能监管。他们认为,为了全人类的福祉,必须要驯服市场力量。

就连最近备受诟病的 OpenAI 首席执行官阿尔特曼也对「微妙的失调」导致人工智能变得危险表示担忧。他表示,「杀手机器人」不太可能,但「失调」可能带来的潜在风险是需要警惕的。

此外,谷歌的首席执行官劈柴也同意阿尔特曼和马斯克关于良好监管人工智能重要性的观点。

然而,LeCun 的帖子表明,人工智能社区在这个问题上还远未达成共识。

就像在开源 or 闭源这个问题上,他们存在的巨大分歧一样。

LeCun 在网友「了解『我们』设计和构建的人工智能是如何工作的可能是个好主意」这一评论下表示赞许

「是的,这就是为什么我一直大力倡导开放研究和开源。」

马斯克:要监管,更要竞争

马斯克一直支持监管。

他曾多次警告人工智能的危险,「人工智能比管理不善的飞机设计或生产维护或糟糕的汽车生产更危险,从某种意义上说,它具有潜力,无论人们认为这种可能性有多小,但它并非微不足道 —— 它有文明毁灭的潜力」。

包括那封著名的公开信,呼吁暂停「失控」的人工智能开发竞赛 6 个月。

他还作为顶尖技术领袖出席与立法者的闭门会议,并且公开支持政府对人工智能的监管。

马斯克表示,尽管「受到监管并不有趣」,可一旦人工智能「可能掌控一切」,制定法规可能就为时已晚。

话虽这么说,但这并没有阻碍马斯克的行动,也不妨碍他深度参与人工智能的发展。

马斯克通过对他庞大的公司帝国的投资,参与了更广泛的人工智能军备竞赛。

他正在全力打造一款能够与科技巨头微软和谷歌的人工智能产品相媲美的产品。

马斯克将其描述为「最大程度追求真理的人工智能」,「关心理解宇宙」。

与此同时,他也赞助了其他 AI 项目。

这也引来了网友的嘲讽:

LeCun 嘲讽马斯克,被网友开炮

另一边,在马斯克刚刚转发自家 xAI 公司招募帖子下面,LeCun 又开始阴阳怪气起来。

马斯克配文:

如果你相信我们理解宇宙的使命,就加入 Xai 吧!这需要在追求真理道路上必须秉持最大的严谨,而不受流行去世或政治正确性的影响。

LeCun 的评论简直让人大跌眼镜。

如果你能忍受一个这样的老板,就加入 xAI:

  • 声称你正在做的工作明年就会被解决(没有压力)

  • 声称你正在做的事情会杀死所有人,必须停止或暂停(6 个月的假期)

  • 声称想要「最大限度地严格追求真理」,但在自己的社交平台上散布疯狂的阴谋理论

LeCun 得出此言,正是因为上周马斯克公开表示,AGI 明年就会到来,而且他估计摧毁人类的可能性为 10%-20%。

而评论区的画风,都是在向 LeCun 开炮。有网友称,为什么最近说话这么毒?

还有人恶搞了一张,小扎给 LeCun 派任务的表情包,这样做是为了分散所有人的注意力。

还有人表示,「你发的这帖子就是想说为马斯克工作,还不如为 LeCun 工作」。

LeCun 称,「我不是任何人的老板,即便你加入 FAIR,也不会为我工作」。

接下来,在更长推文中,各路网友站队马斯克,与 LeCun 唇枪舌战。

Dave:或许你可以解释下你对马斯克有什么意见吗?

LeCun:我喜欢他的车、他的火箭、他的太阳能电池板和他的卫星网络。但我非常讨厌他的复仇政治、他的阴谋论和他的炒作。

Julien:我非常尊重你的工作,作为 15 年前说服我学习机器学习的为数不多的人之一,为什么你不创办自己的人工智能公司,试着做些贡献呢?留在 Meta,告诉别人他们错了,这有点奇怪,不是吗?

LeCun:我是科学家,不是商人或是做产品的人。

马斯克:那你在过去 5 年,做了哪些「科学」?

LeCun 最后 po 了一个链接,并称自己自 2022 年 1 月以来发表了 80 多篇技术论文,最后反问马斯克「你呢」?

马斯克对此表示,那没什么,你越来越弱了,再加把劲!

LeCun 突然感到一顿搞笑,「说的好像你是我老板一样」。

Karas 之父见状之后,你们需要来一场「笼斗」,一较高下。

仅 10 个月,马斯克 xAI 估值达 OpenAI 的 1/3

Information 曾爆料称,马斯克将建造世界最大的「超算工厂」,配备 10 万块 H100 以训练下一代 Grok 模型。

就在昨天,马斯克宣布 xAI 已经完成,惊人的 60 亿美元 B 轮融资。

据称,公司估值达到 240 亿美元。

B 轮融资的投资者包括 Andreessen Horowitz、红杉资本、Valor Equity Partners、Vy Capital 和 Fidelity Management&Research 等 8 位投资者。

史上最大的 B 轮融资

去年 12 月,xAI 曾进行了首轮融资,规模达 1.347 亿美元。

2023 年 7 月官宣成立,xAI 至今也不过 10 个月的时间,却受到了资本市场的极大青睐。

现在 xAI 的体量,已经达到了 OpenAI 的 1/3。2 月数据显示,OpenAI 的估值已达到 800 亿美元。

而这一轮融资,标志着 AI 军备竞赛的进一步升级。

近年来,领先的 AI 初创公司已经筹集了数十亿美元,纷纷投在了训练先进大模型所需的算力上。

目前,OpenAI 已从微软获得了 130 亿美元资金承诺,而 Anthropic 融资已经超过 60 亿美元。

xAI 能够吸引这么大的融资份额,与其背后团队的努力、研究成果,以及使命息息相关。

先来看看 xAI 团队研究成员的强大背景,他们纷纷来自谷歌、DeepMind、微软、Meta、OpenAI 等大公司的科学家。

另一方面,几乎半年的时间,xAI 取得了硕果累累的成果。

从 Grok-1 的发布,到 Grok-1.5、Grok-1.5V 迭代升级,还有 Grok-1 开源,PromptIDE 开源工具

去年 11 月,Grok-1 模型震撼亮相,目标就是瞄准 OpenAI 的 ChatGPT

新模型加持下的聊天机器人 Grok,可以同时进行多任务处理,并排运行多个会话,还可以在多对话之间随意切换。

在不同的基准测试中,Grok-1 在数学、编程、MMLU 中取得了领先 GPT-3.5 的优势。

值得一提的是,取得如此突破性成果,是 xAI 的 11 位研究人员狂训 2 个月换来的。

而就在今年 3 月,采用 MoE 架构的 Grok-1 全面开源,参数量高达 3140 亿,成为当时最大的开源模型。

Grok-1 也是通过磁力链 Apache 2.0 发布。

紧接着,没过半个月,马斯克再次推出了升级版的 Grok-1.5,最大特点是支持 128k 上下文,而且推理能力大幅提升。

从基准测试结果可以看出,Grok-1.5 各方面的性能得到全面提升,而且更接近世界领先的大模型。

也就在上个月,多模态版的 Grok-1.5V 诞生,号称可以连接物理和数字世界。

除了配备基本的文本能力,Grok-1.5V 还可以处理文档、屏幕截图、照片之类的视觉信息。

比如,看图写出 Python 代码。

在性能测试上,Grok-1.5V 与 GPT-4V 不相上下,甚至有些能力还超越了 GPT-4V。

除了以上所呈现的,自成立之初,马斯克对 xAI 的愿景是,找寻生命、宇宙,一切万物的答案。

而且,它是一个探求「最大真理」和「宇宙本质」的 AI 公司。

官博称,此次融资将用于把 xAI 的首批产品推向市场,以建设先进的基础设施,并加快未来技术的研发。

参考资料:

  • https://x.com/ylecun/status/1795032310590378405

  • https://x.com/ylecun/status/1795219718837616775

  • https://x.ai/blog/series-b

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

Source link

© 版权声明

相关文章

暂无评论

暂无评论...
☺一键登录开启个人书签等功能!