GPT-4两句话复刻DeepMind最快排序算法?马库斯:过于讽刺 / 头条资讯

8月前 阅读 / 39 来源 / 原创 文 / 越读党订阅

新智元报道编辑:润【新智元导读】网友用GPT-4复现了AlphaDev的排序算法优化,让DeepMind的新论文看起来没有那么耀眼了。据称,这个算法可以创造出比人类编写的算法快3倍的排序算法。消息刚出的时候,很多网友都认为这是机器学习领域...


新智元报道

编辑:润

【新智元导读】网友用GPT-4复现了AlphaDev的排序算法优化,让DeepMind的新论文看起来没有那么耀眼了。

据称,这个算法可以创造出比人类编写的算法快3倍的排序算法。

消息刚出的时候,很多网友都认为这是机器学习领域的重大突破。

但经过一段时间的发酵之后,部分网友对AlphaDev取得的成就的评价似乎出现了分歧。

先是一位推特网友表示,用GPT-4也成功地发现了和AlphaDev发现的几乎一样的算法。


然后不少网友也在讨论,觉得AlphaDev取得的实际成果和他们自己吹的「历史性突破」差距过大。

网友的这些讨论甚至把马库斯也引来围观看热闹了。


此外,马院士也回复了用GPT-4发现算法的网友,「推特老板到此一游」



GPT-4也能「发现」同样的算法

现在我们来看看这位用GPT-4发现和AlphaDev几乎一样算法的网友到底是怎么做到的。

他把自己的Prompt和GPT-4的回复都Po了出来。

顺便问了一句,我这东西能发Nature吗?


网友的提示词有两个部分,第一个部分让GPT-4针对这段排序算法进行优化,标注出哪段指令可以删除,再一步一步解释原因,然后回头再验证一遍。





然后他又给了第二部分提示词,让GPT-4根据上面的提示词继续做,让Temperature=0(保持结果的一致性)。




最后GPT-4还小小地总结了一下。

认为删除「mov S P」,再把删除后代码的P用S替换一下就行。

AlphaDev发现的算法

如下图示例,原始sort3实现,有min(A, B, C),使用AlphaDev Swap Move,AlphaDev发现,你只需要min(A, B)。


对比网友用GPT-4的优化内容,只能说是一模一样!

不知道是GPT-4过于强大,还是说AlphaDev确实也就那样?

AlphaDev被吹得有些过头了?

马库斯也在推特上转载了一段YC社区网友对于AlphaDev发现的算法这个事比较刻薄评价。


YC社区的用户orlp指出,他们能够在某个libc++算法上取得70%的改进主要是因为这个库在过去10年中没有得到积极开发。

此外,DeepMind的改进能起作用其实是因为库本身在无分支排序网络的高效实现方面存在一些问题。


其他用户指出,这种观点「过于极端」了,算法能够自动生成新的排序算法已经是很了不起的一件事了。

orlp回复说,虽然该算法确实能够自动生成良好的代码,但它远未达到革命性或改进现有技术水平的程度。



网友主要的观点认为算法并没有找到全新的排序方法,而只是对代码进行了优化。

但是,其实已经存在「超级优化器」的程序能够以不同的原理实现类似的效果。


论文地址:https://courses.cs.washington.edu/courses/cse501/15sp/papers/massalin.pdf

而且在GitHub上也有项目已经完成了更加快速的排列网络的自动搜索,效果似乎比AlphaDev的算法还要好。

项目地址:https://github.com/bertdobbelaere/SorterHunter

不少国内网友还是选择相信AlphaDev,搞不好是因为GPT-4抄得快,不一定是原创。


不过确实有些读者认为,这类改进确实意义不算特别大。



参考资料:

https://twitter.com/DimitrisPapail/status/1666843952824168465

https://twitter.com/GaryMarcus/status/1666985156375203840


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关阅读
#杂志封面

《中国市场》杂志_中国市场2023年15期杂志封面

《中国市场》杂志_中国市场2023年15期杂志封面

#头条资讯

松下电器员工发"918勿忘国耻"被警告? 公司回应

此页面是否是列表页或首页?未找到合适正文内容。...

#头条资讯

禁令已达四川!挖矿去中国化已成定局,比特币何去何从?

继内蒙古、青海等地之后,因水资源丰富而聚集众多加密货币矿场的四川省也开启清退加密货币挖矿项目。尽管此前各界一度认为更清洁的水力发电模式能让四川“幸免”于此。 第一财经记者最新获得的一份题为“四川省发改委、四...

#杂志目录

《健康必读·下旬刊》杂志2020年08期最新目录订阅

目录论著丨不同类型及分期儿童哮喘气道功能及气道炎症指标的分析【摘 要】:目的:分析儿童咳嗽变异性哮喘(CVA)及典型支气管哮喘(以下简称哮喘)的不同分期中气道功能、气道炎症指标,探讨其对哮喘管理的临床意义。方法:...

#头条资讯

“漫游”停办仍收费?移动客服:用户不取消便会默认扣费

对于很多00后的手机用户来说,“长途漫游费”是个极为陌生的名词,因为早在2017年这项收费就已经被取消了。然而,北京青年报记者近期接到消费者投诉,称亲人的手机一直被收取名为“亲情省”的漫游套餐费。对于已经被取消的...

#杂志目录

《北方音乐》杂志2020年22期最新目录订阅

目录音乐史丨17世纪初“持续低音”的衍变与实现【摘要】持续低音(Basso continuo)是16世纪末、17世纪初在意大利开始使用的音乐术语,指在音乐作品中由乐器演奏贯穿始终的低音线,有的会标以数字和临时变化音来说明演奏时即...