在 ImageNet 中，目标和图像的尺寸各有不同。有时候巨大醒目的目标出现在图像正中，有时候图像中的目标非常小，比如一个小零件。所以你会有不同大小的过滤器。通过组合不同的分支，能得到更好的结果。我们会继续研究这个问题。AutoML 的挑战和未来 您认为 AutoML 研究目前所面临的最大难题是什么？我认为未来两年中最大的难题将是如何让搜索更高效，因为我认为很多人都不想使用一百个 GPU 来解决某个小数据集的问题。
所以寻找能在降低成本的同时又不影响质量的方法会成为一个非常重大的问题。第二个大难题是如何降低设计搜索空间所需的人力工作。因为现在的搜索空间中具有某些先验的知识，所以即使我们宣称我们用 AutoML 做一切工作，特定的先验知识元素仍会进入搜索空间。我认为这还不够理想，我也想研究这个问题。但我可以告诉你，AutoML beta 版的质量已经很好了，谷歌云的人也很满意。
我不能说产品的细节，但我认为质量已经很好。而且接受情况也很棒。参阅机器之心文章：https://www.jiqizhixin.com/articles/2018-02-06-23在 AutoML 的鲁棒性提升方面是否还有机会？一般而言，当我们做 AutoML 时，我们会有另外一个验证数据集。这样我们就可以不断在那个数据集上进行验证来评估质量。
鲁棒性实际上已经是 AutoML 的目标函数的一部分。现在在添加约束方面，事实证明 AutoML 有能力做到，比如制作对对抗噪声更鲁棒的模型，或将其它外部约束条件添加进 AutoML 中。这是一种非常棒的能力，因为很多时候当你有新的约束条件时，人类很难找到将其植入到模型中的方法。但是 AutoML 可以使用一个奖励函数作为准确度和鲁棒性之间的权衡。
然后进化，最后会找到一个在准确度和稳健性之间有良好权衡的模型。说个案例。我们之前有位研究者在研究如何设计出更好的网络来防御对抗样本。我们在 CIFAR-10 上进行了小规模的实验。他找到了一个对对抗攻击非常稳健的网络，由于之前最佳。这个结果非常好，能做到这一点的原因是人类很难直观地想出一种防御攻击的方法。
但 AutoML 不在乎，它只是尝试了一些网络，然后其中一个网络不知怎的本身就具有防御攻击的机制。有办法有效地比较目前市面上的这些各不相同的 AutoML 解决方案吗？可以做到。只要你有一个任务，你就应该单独创建一个数据集。你将其输入 AutoML，然后它会得出某些预测模型，然后你在你的测试集上评估这些预测模型——这个测试集应该被看作是你的基准集。
在基准集上的准确度是衡量模型表现的好标准。我不能过多地评论我们的方法与市面上其它方法的比较情况，但我认为人们都可以自己去看去比较。您认为 AutoML 能够生成下一代颠覆性网络架构吗，类似 Inception 或 ResNet？我认为它已经做到了。我们近期使用了架构搜索来寻找可用于移动手机的更好的网络。
