Distilling

Distilling精品文章

• 

  文章总结：Distilling the Knowledge in a Neural Network(

  ...knowledge)压缩到一个单独的模型(single model)，将此过程称为distilling(蒸馏)。 1 Introduction 对于目标检测或语音识别等任务，模型训练所花费的大部分时间及计算资源是可以接受的，但当模型部署到生产环境中，对模型所需资源的要...

  happen 2019-06-26 18:30 评论0 收藏0
• 

  谷歌用3亿张图做了个深度学习实验，结论：数据还是越大越好

  ...据集。它目前还是Google内部用品，这两篇论文提到过它：Distilling the Knowledge in a Neural NetworkGeoffrey Hinton, Oriol Vinyals, Jeff Deanhttps://arxiv.org/abs/1503.02531Xception: Deep Learning with Depthwise Separable Co...

  twohappy 2019-04-25 18:15 评论0 收藏0
• 

  Hinton提出泛化更优的「软决策树」：可解释DNN具体决策

  ...棋盘的边缘，另一种是玩家将棋子放在棋盘中央。论文：Distilling a Neural Network Into a Soft Decision Tree论文地址：https://arxiv.org/abs/1711.09784摘要：深度神经网络已经在分类任务上证明了其有效性；当输入数据是高维度，输入与输出之...

  SillyMonkey 2019-04-25 18:22 评论0 收藏0
• 

  NVIDIA开源DG-Net：用GAN生成行人图像，淘宝式换衣，辅助行人重识别

  ...e, Z. Li, H. Zhao, G. Yin, X. Wang, and H. Li. Fd-gan: Pose-guided feature distilling gan for robust person re-identification. In NIPS, 2018. 作者简介 本文的第一作者郑哲东是悉尼科技大学计算机科学学院的博士生，预计2021年 6 月毕业。该论文是其在英...

  Hanks10100 2019-07-31 11:30 评论0 收藏0
• 

  [ResNet系] 008 ShuffleNet

  ...他方法来优化卷积算法的实现以达到加速的目的。蒸馏（distilling）将大模型中的知识迁移到小模型中，使小模型更易于训练。与上述方法相比，本文主要聚焦于设计更好的模型来提高性能，而不是加速或迁移已有的模型。 3. Appr...

  CNZPH 2019-06-26 18:17 评论0 收藏0
• 

  Jeff Dean「Hot Chips 2017」演讲：AI对计算机系统设计的影响

  ...缘设备中！」Geoffrey Hinton 和 Jeff Dean 等人曾发表过论文 Distilling the Knowledge in a Neural Network。在该篇论文中，他们详细探讨了将知识压缩到一个集成的单一模型中，因此能使用不同的压缩方法将复杂模型部署到低计算能力的设备中...

  explorer_ddf 2019-04-25 18:16 评论0 收藏0
• 

  128篇论文，21大领域，深度学习最值得看的资源全在这了

  ...n大神研究 ★★★★Hinton, Geoffrey, Oriol Vinyals, and Jeff Dean. Distilling the knowledge in a neural network. arXiv preprint arXiv:1503.02531 (2015).http://arxiv.org/pdf/1503.02531[56] 强化学习策略 ★★★Rusu, An...

  tracymac7 2019-04-25 18:18 评论0 收藏0