重生之AI教父

CloseAI

首页 >> 重生之AI教父 >> 重生之AI教父最新章节(目录)
大家在看洛公子 小妻太水嫩:陆教授花式宠 我在风花雪月里等你 艳娇龙欲 倚天神雕 极品家丁 首辅养成手册 女公务员的日记 我真是大明星 与你相遇的瞬间 
重生之AI教父 CloseAI - 重生之AI教父全文阅读 - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 好看的都市言情小说

第14章 万事俱备

上一章书 页下一章阅读记录

“妈,今年我就不回去了,顺利的话明年年初回去看望你们。”

“我不是在外面瞎玩,休学也不是退学,您二位别紧张哈,我知道我在做什么。”

“也不用给我打钱,我也不是在创业,只是这段时间需要集中精力解决一些问题。就今年底,您放心,就今年底。如果不成功,您说什么我都听您的。”

“好,好嘞,记得叫老爸多出去运动,你们注意身体哈!”

“回,回去。过年的时候一定回去。”

挂了电话,孟繁岐靠在墙上,长长地叹了一口气。

这些事情实在跟父母解释不清楚,若不是因为担心付院长会出手相助,他原本是不打算去办休学的。

现在父母了解到如今的情况,肯定是忧心忡忡。最近几次通话,不管自己怎么说,父母总是没法放下心来。

孟繁岐只能靠着年底的期限安抚他们一下,承诺只要今年不能取得杰出的成果,就什么都听他们的。

看着房间里幸灾乐祸在调参的唐璜,孟繁岐没好气道,“笑什么笑。”

唐璜瞬间做出一个严肃认真的表情,但不论怎么看都带着三分阴阳怪气的感觉,让人很是不爽。

------------------------

这天的迟些时候,孟繁岐收到了阿里克斯的回复,看了眼时间点,阿里克斯应该是一起床就回复了邮件,可以说是相当勤奋了。

这个时间点已近临近今年赛事快要开始的时刻,不过阿里克斯本人其实没有计划继续组队参与本次的赛事。

只是哥虽然不在江湖,江湖却到处都是哥的传说。

13年的微软研究院队伍,新加坡国立大学队伍,和贾扬清领衔的decaf,Uc伯克利等队伍,都深受阿里克斯去年思想的影响。

根据阿里克斯介绍的办法,孟繁岐很快调试完成,顺利将批归一化,Adam优化器等操作从自己实验的环境迁移到cuda-convnet框架上,做了一些调整和适配。

没过过久,便已经在cIFAR-10上运行了起来。

接下来便是本次参赛的最核心竞争力,残差网络在这个框架上的实现。

“今年的ImAGENEt挑战赛其实没有什么太多的新想法,大家基本上都是以复现阿里克斯的算法为主。”

孟繁岐当然不准备和其他队伍一样,基于阿里克斯的框架去重新实现阿里克斯去年的参赛算法,早期的许多算法在参数量和计算量上都有很大的冗余。

“谷歌的GoogleNet和牛津的VGGNet原本要明年才能研究出来,不过我今年参赛之后,这两个AI历史上的重要网络恐怕就要胎死腹中了吧?”

别说是现在了,截止到14年末,多余的设计仍旧大量存在与谷歌和牛津大学的算法当中。

直到15年,那个男人以残差网络ResNet夺冠ImageNet-2015,铸就了深度学习时代的AI模型的神格。

残差思想是孟繁岐此时此刻的最佳选择,一方面它会成为深度学习时代的里程碑,因为它的核心思想,就是如何把深度网络做得更加‘深’。

另一方面,它的实现和结构简洁,抛弃了大量人类看来很有道理和价值,但实际上其实用处不大的设计。

将简洁好用的结构反复重复,这也大大地降低了孟繁岐所需要的开发工程量。

AlexNet是八层的结构,各自有一些独立的设计,在此时,8层已经是革命性的深度网络了。

更深的网络特别难以训练,因此原本直到14年,谷歌和牛津才分别把这个深度推进到22层和19层。

而ResNet的思想,彻底从根本上解决了网络变深就没法顺利训练的问题。它让50,100,150,甚至1000层网络的训练成为可能。

“从去年的8,到今年的100+层,甚至1000层也可以训练。在2013年的视角来看,这一剂猛药应该够劲了。”

不仅是深度上取得了开创性的突破,ResNet的性能也同样惊人。它是第一个top-5错误率低于人类能力的结构,单模型达到了4.6%左右。

如果综合几个不同方式训练的ResNet,平均他们的输出再去预测的话,其top-5错误率甚至低至3.7%。

“其实在ImAGENEt上做得太准了反而是一件怪事。”考虑到后世的研究中,该数据集中的标签其实有不小的比例是错误的,越贴近百分之百的准确率反而越有一些荒诞的感觉。

ResNet的Res指residual,正经点说是残差,说得明白一些是一种短路或者是跳跃链接。

再说的浅显一点,假设原本的操作为f(x),ResNet就是把计算过程从f(x)改为f(x)+x。

这也是孟繁岐最早与付院长讨论的内容之一。

这种不带任何参数的支路链接,直接把操作前的内容加到操作后的内容上,是深度网络突然能够在上千层的深度下收敛的秘密所在。

在此之后的几乎所有AI文章,都很难绕得开这个思路。恺明本人单就这一篇文章,就在六七年的时间内收获了十五六万的文章引用。

不得不说这是一个天文数字。要知道即便是Nature cell Science三大世界级顶刊常客,着名华国美国双料科学院士抽出一个来,至今为止所有文章的总引用数量加在一起五万多都算是多的了。

当然了,单以论文被引用的次数来评价文章的水平和作者的水平是有失偏颇的。

很多基本学科曲高和寡,看得人少写得人也少。引用自然就上不去。

但就AI这个实用性实验性比较强的学科来说,内部去对比的话,引用的多少含金量还是相当之高的。

大家只会用代码投票,有价值的东西会一直迭代下去。有利于自己模型在任务上性能提升的技术,则会被一直引用下去。

学术界一直有这样的说法,搞理论的和搞实验的两边相互看不起。这倒也不是无中生有。

恺明凭借几篇代表作奠定自己历史地位后,就总有个别人喜欢说什么“ResNet的思想早就有人提过了”,“几十年前的东西不算什么新东西”,“这篇文章也就是流量大罢了,和流量明星是一样的”。

酸味都要溢出屏幕了。

孟繁岐不是没读过一些理论类的文章,但他个人觉得新时代的AI,p话谁都会说,代码写出来才是本事。你说几十年前就有的东西,怎么不写一个ResNet突破人类水准呢?

ResNet的核心代码难写吗?不难的。

基于阿里克斯的框架,只需几个小时的时间,他就可以基本复现出ResNet论文中的所有结构。

弱小和无知不是生存的障碍,傲慢才是。

上一章目 录下一章存书签
站内强推大奉打更人 穿越大周 从集结号开始 都市极乐后后宫 末世重生之带娃修行 御天武帝 诡秘之主 绝世兵王 桃源绝世医神 谁与争锋 龙族 诸天万古道 盗墓之我是胡八一的表弟 大帝姬 犯罪心理 现代咸鱼生存指南 从斗破开始的万界冒险 带着帝皇铠甲闯斗罗 综漫中的春物 末世重生之乖宠 
经典收藏天官赐福 艳海风波 重生之官路商途 极品老板娘 重生八五,离婚海钓养娃赚翻了 娱乐圈第一渣男,大幂幂扶墙跑路 美漫世界的魔法师 镇国少帅 全民兽化:我开局成了霸王龙 四合院:小猎户进城 穿越大周 从兽医到神医 开局在出租屋里捡到一个亿 谁都别惹我 很纯很暧昧 重生74:我在东北当队长 权力巅峰:扶摇直上九万里 想当神医被告,果断转行做兽医 重振中医 刚修成紫霄神雷,就遇到百鬼夜行 
最近更新仙医圣手 神医:分手后被美女总裁疯狂追求 御兽:开局传承一个球 命里二十泛桃花 无双医王 神级选择之开局获得SSS天赋 都市至尊狂龙 领主:会点合成没问题把? 多子多福,儿子教我 榜一大哥的自我修养:先刷一个亿 异能新帅 男人四十春暖花开 神临觉醒:我成为异世五条悟 重生后,我继承了世界五百强 泡个总裁当老婆 手下百万红脖子?那朕也想争一争 拜托,我真不是渣男啊 最强榜一大哥,全网主播的神 六子的一生 江湖之暗夜逃脱唐飞战神 
重生之AI教父 CloseAI - 重生之AI教父txt下载 - 重生之AI教父最新章节 - 重生之AI教父全文阅读 - 好看的都市言情小说