设为首页 - 加入收藏   
您的当前位置:首页 > 热点 > 谷歌大脑最新研究:AutoML方式自动学习Dropout模式 正文

谷歌大脑最新研究:AutoML方式自动学习Dropout模式

来源:说长论短网 编辑:热点 时间:2026-11-14

本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。

深度神经网络往往存在过拟合大脑的问题,需要Dropout、权重衰减这样的正则化方法的最新加持。

而最近的研究表明,如果对Dropout“剪掉”的研究神经元的结构进行利用,就能实现比随机替换更好的效果:A。

问题是,实际应用中,针对不同的问题,利用结构的方ut法需要人工设计,对Dropout的模式进行调整,泛oM化能力不足。

那么,是否能设计一种针对CNN、TrL方ansformer这样的深度神经网络,自动学习Drop式自out模式的方法?

现在,谷歌大神Quoc V. Le的团动学队,就提出了一种名为AutoDropout的方法。

&习Dnbsp;

 

 

 

 ro;

https://arxiv.org/abs/2101po.01761

 

s , kb

Copyright © 2026 Powered by 谷歌大脑最新研究:AutoML方式自动学习Dropout模式,说长论短网  

sitemap

Top