Google Cloud 在今年年初发布了 AutoML 视觉，之后又发布了 AutoML 翻译和语言机器之心近日视频采访了 Quoc Le 博士。这位谦逊的 36 岁越南裔人工智能专家谈到了他的灵感来源、AutoML 背后的技术和前方的道路及其在机器学习领域内扮演的重要新角色。这位站在许多变革性技术背后的人有怎样的见解呢？请看后文。
为了简洁和明晰，采访内容进行过适当编辑。在即将于 11 月 9 日 于加利福尼亚州圣何塞举办的 AI Frontiers 会议上，Quoc Le 将发表主题为「使用机器学习自动化机器学习」的演讲，特别将关注神经架构搜索和自动数据增强 AutoAugment。灵感您在何时开始想要设计一种新的神经架构搜索方法？是什么启发了你？那是在大概 2014 年的样子，这个过程随时间逐渐发生的。
我是一位机器学习工程师。当你一直以来都在做神经网络方面的工作时，你会意识到很多工作都需要人工调整，也就是人们说的「超参数」——神经网络的层数、学习率、网络中所使用的层的类型。AI 研究者往往会根据某些原则开始调整，然后这些原则会随时间变得不那么有效，他们再尝试不同的策略。我关注了 ImageNet 竞赛中的某些进展，也见证了谷歌的 Inception 网络的发展。
我便开始思考我想做些什么，但那时的想法还不清晰。我喜欢卷积网络，但我不喜欢一个关于卷积网络的事实：卷积网络中的权重并不彼此共享。所以我就想，也许我应该开发一种全新的机制，能真正学会如何在神经网络中共享权重。随着我的工作推进，我对此的直观理解也越来越多，我开始发现：研究者们所做的事情是将一些已有的构建模块组合到一起，然后尝试它们的效果。
他们看到准确度有一定提升。然后就说：「很好，也许我刚引入了一个好想法。试试看保留我刚刚引入的好东西，但用某些新东西替换旧有的部分会怎样呢？」他们就这样继续这一过程，这个领域的专家可能会尝试数百种架构。在 2016 年左右，我当时在思考如果这个过程需要如此之多的试错，那我们就应该使用机器学习来自动化，因为机器学习本身也是基于试错的。
可以看看强化学习以及机器学习下围棋的方式，基本上就是试错。我研究了做成这件事将需要多少真正的计算资源。我的想法是，如果是一个人类，那可能会需要一百个网络来试错，因为人类已经有大量直觉知识和大量训练了。如果你使用算法来做这件事，那你的速度可能会慢上一两个数量级。我认为实际上慢一两个数量级也不算太差，而且我们已经有充足的计算资源来做这件事了。
所以我决定与一位培训生（Barret Zoph，现在已是谷歌大脑的一位研究者）一起启动这个项目。我之前没想到这会如此地成功。我当时认为我们能做到的最佳结果可能是人类水平的 80%。但这位培训生非常优秀，他实际上做到了与人类媲美的水平。许多人告诉我：「你花费了如此之多资源，就只为达到了人类水平？」但我从这个实验中看到的是现在我们可以做到自动化机器学习。
