读书阁 > 玄幻魔法 > 重生之AI教父 > 162. 网络的重参数化

162. 网络的重参数化(2 / 3)

计。

对于人类来说,根据一张图片去判断其中距离的远近,实在太过容易,可这对人工智能视觉算法来说,不是一件容易的事情。

以现在的技术条件,需要进行非常复杂的标注,去分析样例图片中各个部位和像素的距离远近。

因为图片毕竟是2D平面的,而自动驾驶是一个需要掌握好空间距离的任务。

通过大量不同角度的平面图片,来重构一个三维的空间,甚至鸟瞰视角的三维空间是必要的。

不过现在这还只是空中楼阁,马斯克再次联系孟繁岐的来意非常简单,就是希望这个作为骨干的神经网络可以再快一点,或者计算量再小一点。

否则以目前的情况看,特斯拉很难负担得起这个运算量。

实际上,马斯克没有对这件事情抱有特别大的希望。在他看来,孟繁岐上次给出的方案已经好到非常离谱了。

在这个大家才刚开始复现DreamNet,还没把残差的原理和一些变种搞明白的时间点,孟繁岐已经针对各种不同平台的其他运算设备,做了相当多的实验。

从而通过优化算子结构,调整特定计算过程的方式,将这个核心的骨干网络参数量减少了接近十倍。

运算快了这么多,性能却没什么变化,这已经非常不得了了。

马斯克有这一问,也是私下里的随口一提。

但他名头太大,以往自己做的事情又太疯狂,导致孟繁岐听着他那颇为低沉,有磁性的声音之时,当了真。

还真以为这是个非常严肃认真的需求。

“自动驾驶的热度确实也快起来了,我专门针对这方面做点优化工作,也不算亏。”

孟繁岐一边利用着重生优势开始抄底一些车企的股票,一边开始着手实现一个巧妙的加速并且节省内存的方式。

这个新的优化办法叫做网络结构的重参数化。

这半年来,视觉方法性能的突飞猛进来自于孟繁岐提出的残差方法,也就是将y=F(x)变为y=F(x)+x。

这里的写法比较简便,将一系列复杂的操作,抽象归纳为F(),在实际运算过程中,这个F()还是比较复杂的,往往需要算上好一会。

但在计算的时候,就有一个问题了,原本y=F(x)运算开始的时候,就不再需要继续存储x这个变量了,因为它已经在参与F(x)的运算。

在运算过程当中,它会变成其他的中间变量,然后最

最新小说: 年代文里的老实人罢工了 我上辈子一定是做了孽 我轮回了上千次 我的逆伐系统 诡秘都市 摊牌了我就是隐形富豪 大国重器:一个戏子也和我比? 默与神 前妻讹上我 鉴宝之神级修复系统