传统进修 vs 迁徙进修。图片来源：IEEE Computer Society

 举几个例子

在图像分类算法中应用参数在不合的义务中提取特点（例如：物体辨认）是迁徙进修里的一个简单的例子。与之相反，这种办法也能用在完成复杂的义务。比来，Google 开辟的用来分类糖尿病性视网膜病变的算法表示跨越了仁攀类。这个算法就是用的迁徙进修。出乎料想的是，该糖尿病性视网膜病变辨认器实际上就是一个真实世界里的图像分类器（猫狗图像分类器），应用迁徙进修来分类眼部扫描的图像。

告诉我更多！

多义务进修

是什么？

在多义务进修中，经由过程应用义务之间的雷同和不合，多个进修义务可以同时解决。进出意表的是，有的时刻，同时进修两个或多个义务（有时也叫主义务和帮助义务）可以让结不雅变得更好。请留意：并不是每一对（或者三个一组，四个一组）的义务都是互相帮助的。然则当它们是互相帮助的关系瓯，我们就能“免费地”获得精度上的晋升。举几个例子

用多义务进修同时解决三个义务。图片来源：Sebastian Ruder

告诉我更多！



在多义务进修里，真实世界应用最为看重的是若何把任何义务都能练习的无懈可击。要做到这一点，我们须要推敲很多范畴数据（也称为范畴适应）。在猫狗图像分类的场景中，我们可以举如许一个例子：一个可以辨认多种不合来源图像的算法（例如，VGA 相机、高清相机或者红外相机）。在这些场景中，关于范畴分类问题（该图像是大年夜哪里来的）的帮助损掉可以被加到任何义务中，然懊机械就会去进修大年夜而使主义务（分类图像是猫照样狗）的算法变得更好，然则会导致在帮助义务上表示得更差（这是由反向传播范畴分类义务的相反误差梯度所导致的）。这个设法主意就是，算法在主义务上进修有区分度的特点，却不记住那些范畴差别相干的特点，该办法就能让算法表示的更好。多义务进修及其范畴适应是我们所知的“有效进修”技巧中最成功的一个，并且在塑造 AI 的将来上扮演着举足轻重的角色。

对抗进修

这是什么？

对抗进修是大年夜 Ian Goodfellow 的研究工作里演变出来的一个范畴。尽管对抗进修最风行的应用是生查对抗收集（Generative Adversarial Networks，GANs），用它可以生成令人赞叹的图像，我们照样有很多其他应用该技巧的办法。这个由博弈论启发而产生的技巧包含两个算法，一个是生成器算法，一个是辨别器算法，它们的目标是在练习的过程中欺骗对方。生成器可以生成我们所提到的异常别致的图像，然则也可以生成任何其他用来向辨别器隐蔽细节的数据。后者就是这个概念的有趣之处。

你会发明，数据科学家把神经收集中大年夜源义务迁徙到目标义务的部分，在深度进修的术语中称为预练习收集。Fine Tuning 就是当目标义务中的误差被稍微地反向传播到预练习的收集中，而不是完全不作修改地应用预练习收集。对于计算机视觉里迁徙进修的技巧介绍可以在这里看到。迁徙进修的┞封种思惟在这些“有效进修”办法论中特其余重要。

生查对抗收集。图片来源：O’Reilly

 举几个例子

这是一个新的范畴，并且它的图像生成才能吸引了像宇航员如许的人的存眷。然则，我们信赖它会演变出更新鲜的应用处景。

告诉我更多！

经由过程应用 GAN 的损掉函数，范畴适应问题可以做的更好。这里所说的帮助损掉是一个 GAN 体系而不是一个纯真的范畴分类。这个 GAN 体系中的辨别器测验测验分类某个数据是大年夜那个范呈攀来的，生成器则测验测验经由过程一些随机噪音产生的数据来欺骗它。在我们的经验中，这种办法比通俗的范畴适应（这种办法也更轻易在编写时掉足）要更好一些。

少样本进修（Few Shot Learning）

这是什么？

少样本进修是一种可以或许让深度进修（或者任何机械进修算法）经由过程更少的样本进修，而不像传统的那样应用大年夜量样本的技巧。单样本进修（One Shot Learning）就是经由过程每个分类中取一个样本来进修。推而广之，K 样本进修（K-shot Learning）就是每个分类中取 K 个样本进修。

应用每个类别中的少量样本进行单样本进修。图片来源：Google DeepMind

 举几个例子

少样本进修是在所有深度进修的会议上都能看到大年夜量论文的一个范畴。如今有一些特定的数据集可以用来衡量它们的机能，例如 MNIST 和 CIFAR，这些一般用于机械进修的数据集。单样本进修有不少在特定图像分类问题上的应用，例如特点辨认和表示。

告诉我更多！

我们有很多办法来实现少样本进修，包含迁徙进修、多义务进修和元进修。有时作为全部算法，有时作为算法的一部分。也有一些其他的办法，比如应用更聪慧的损掉函数，应用动态的架构或者应用一些优化技能。疗揭捉?本进修，该算法声称它可以猜测那些大年夜来没有见过的分类里的数据，本质就是一种可以跟着新类型的数据而扩大的算法。

　　推荐阅读

　　说了这么久的“ Linux桌面年”，为什么还没来？

拿 “Year Of The Linux Desktop” 这句话去 Google 一下，我们会发来岁夜量关于“Linux 桌面年”的相干信息，有些信息距今已将近 10 年。这意味着我们见证 10 年预言的同时，也见证了 10 年预言>>>详细阅读

本文标题：除了深度学习，你还应该了解这些发展方向

地址：http://www.17bianji.com/lsqh/40090.html

 1/2    1