首页 > 教育 > 问答 > 教育知识 > 自动化超池什么意思,蜘蛛池是干什么的

自动化超池什么意思,蜘蛛池是干什么的

来源:整理 时间:2022-04-11 13:44:48 编辑:教育知识 手机版

自2014年以来,Le开始将目光转向了自动化机器学习(AutoML)。我们认为一定存在一种自动化这一过程的方法。它们可用于机器学习流程中任何组件的自动化。在分支的层面上看,很难解释发生了什么。我们只关注能提供最大效益的组件的自动化。我便开始思考我想做些什么,但那时的想法不清晰。

如何理解自动化机器学习?

过去十年,谷歌在人工智能领域的重重突破,有很大一部分和 Quoc Le 有关。这位出生在越南的谷歌研究员像是一个人工智能的信徒,坚信机器学习能够解决一切让人烦恼的问题,即使存在失败的可能性,他也乐在其中。AutoML 则是他最新的研究方向,也是被认为将改变整个深度学习发展进程的技术。正如此,我们希望从和 Le 的采访中探寻围绕在 AutoML 的真相和未来。

在这场一个小时的采访里,笔者印象最深刻的是下面的两句话:1. 我们做到了自动化机器学习,之后就只是规模化的问题。2. 我预计未来两年内,至少在计算机视觉领域内,最好的网络会是 AutoML 生成的,而不是人工设计的。作为谷歌大脑的创始成员和 AutoML 的缔造者之一,Quoc Le 算得上是人工智能研究领域的原住民了。

2011 年在斯坦福大学读博时,Le 和他的老师吴恩达以及谷歌大脑的研究人员一起,基于千万张 YouTube 图像开发了一个能够识别猫的无监督学习系统;2014 年,他将深度学习技术应用在自然语言理解任务上,提出了能将文本转换为向量表征、基于循环神经网络的 Seq2Seq 学习模型,将机器翻译的前沿水平又向前推进了一步。

这为谷歌之后在自然语言机器翻译方面的突破奠定了基础。自 2014 年以来,Le 开始将目光转向了自动化机器学习(AutoML)。构建机器学习模型的过程需要反复的人工调整:研究者会在初始的模型上尝试不同的架构和超参数,在数据集上评估模型的表现,再回头进行修改;这个过程会反复进行,直到达到最优。Le 认为可以把它想成是一个试错问题,继而通过机器学习解决:「可以看看强化学习以及机器学习下围棋的方式,基本上就是试错。

」2016 年,Le 与一位谷歌研究者合作发表了一篇开创性的论文《Neural Architecture Search with Reinforcement Learning》。其核心思想类似于搭建积木:机器从一个定义空间中选取自己所需的组件来构建神经网络,然后使用一种试错技术,也就是—强化学习—来提升其准确度。

这种方法得到了令人惊喜的结果,机器所生成的模型的表现可媲美人工调节的最佳模型。Le 的研究成果催生了 Google Cloud AutoML,能让机器学习知识有限的开发者也能训练出高质量的模型。不出所料,AutoML 迅速成为了今年最热门的研究主题之一,科技巨头与创业公司纷纷跟随谷歌的脚步,投入这项新技术。

文章TAG:超池池是蜘蛛自动化干什么自动化超池什么意思蜘蛛池是干什么的

最近更新