Tech Neo技巧沙龙 | 11月25号,九州云/ZStack与您一路商量云时代收集界线治理实践
本文作者Andrej Karpathy,现任特斯拉人工智能负责人,曾任OpenAI研究专家。在斯坦福大年夜学读博时师大年夜李飞飞,重要研究偏向是卷积神经收集构造、天然说话处理及它们在计算机视觉上的应用。 Karpathy认为,我们已经进入了软件2.0时代。
经常看到人们精力经收集称为“机械进修对象箱中的另一个对象”,我不太认同,这是一种只见树木不见丛林的短浅懂得。神经收集不只是另一个分类器,照样编写软件根本改变的开端——率融号绫乔进入了软件2.0时代。
我们熟悉的软件1.0的“经典客栈”是用Python、C++等说话编写的计算机显式指令。经由过程编写每一行代码,法度榜样员在法度榜样空间中辨认机能好的特定点。
语音合成:之前曾有有各类各样的缝合机制,但今天最先辈的模型是大年夜型的卷积收集,可以产生原始音频旌旗灯号输出(如WaveNet)。

与1.0不合,软件2.0是用神经收集的权重编写的。因为涉及很多权重,直接在权重中编码很艰苦,是以法度榜样员不介入代码编写工作。
事实证实,实际世比赛的大年夜部分问题都有如许的特点,即收集数据比显式编程轻易得多。将来大年夜部分法度榜样员无需保护复杂的软件库、编写复杂的法度榜样,或者分析它们的运行时光。他们只负责收集、清理、操作、打标签、分析和可视化为神经收集供给信息的数据即可。

不过,软件2.0不会代替1.0。实际上,还须要大年夜量1.0基本构造进行练习和推理,以“编译”2.0代码。然则,它将接收软件1.0的大年夜部分工作内容。让我们经由过程一些正在进行的改变,懂得1.0和2.0间的变更。
视觉辨认:以前做视觉辨认相干义务时,用到的是特点工程加一点点SVM之类的机械进修办法。特斯拉开端开辟更强大年夜的在ConvNet架构中的图像分析法度榜样由来已久,比来开端在架构长进行搜刮。
原因很多。让我们来看看软件2.0(请主动联想卷积收集)和软件1.0(请联想临盆级的C++代码库)的好处。总体来说,2.0版的软件具有以下优势:
语音辨认:曾涉及大年夜量的预处理、高斯混淆模型和隐马尔可夫模型,但今天几乎全部由神经收集构成。
机械翻译:之前平日采取基于短语的统计技巧,但神经收集正敏捷占据主导地位。我最爱好的一个架构是在多说话情况下进行的,在弱监督(或完全不受监督)的前提下,一个模许可以大年夜任何源竽暌癸言转换到任何目标说话。
恒定的运行时光:典范的神经收集前向传播的每一次迭代每秒可以或许履行的浮点运算的平均次数(FLOPS)都雷同。你的代码经由过程扩大的C++代码库履行不合的路径的可变性为0。当然,你也可以用动态计算图,但履行流畅常仍然受到极大年夜的限制。
推荐阅读
Tech Neo技巧沙龙 | 11月25号,九州云/ZStack与您一路商量云时代收集界线治理实践 4、促进家当调和成长:培养和挟持物联网骨干企业,引导和促进中小企业成长,引导和促进中小企业成长,培养>>>详细阅读
本文标题:软件2.0时代来了!特斯拉AI负责人说:神经网络正在改变编程
地址:http://www.17bianji.com/lsqh/38877.html
1/2 1

网友点评
精彩导读
科技快报
品牌展示