科技成长很快，数据在指数级增长，情况也在指数级改变，是以很多时刻教科书会跟不上时代的成长。有时，即就是写教科书的人，也不见得都明白结论背后的“所以然”，是以有些结论就会落后于时代。针对这个问题，第四范式开创人、首席履行官戴文渊近日就在第四范式内部分享上，向大年夜家介绍了机械进修教材中的七个经典问题。本文根据演讲实录整顿，略有删减。
特点选择不克不及跨越一千个
正样本和负样本均采样到1:1
第五个叫做均衡采样，绝大年夜多半挡裉科书都邑讲到。它是指如不雅我们练习一个模型，正样本和负样本很不平均，比如在正样本和负样本1：100的情况下，就须要对正、负样本做均衡采样，把它变成1：1的比例，如许擦?鲱好的。但其拭魅这个结论不必定对，因为统计进修里最根本的一条道理就是练习场景和测试场景的分布要一样，所以这个结论只在一个场景下成立，那就是应用模型的场景中正、负样本是1:1，那这个结论就是对的。
精确的做法是，应用处景是1：100，那练习集合最好也是1：100。均衡采样不必定都是对的，多半情况下不采样反而才是精确的。因为大年夜多时刻，我们直接把练习集合和测试集合做随机拆分，或者按照时光拆分，二者的分布就是一致的，那个时刻不采样是最好的。当然有时刻，我们也会发明做负样本采样会有更好的效不雅，比如范式在为某股份制银行卡中间做交易反讹诈时，就做了负样本采样，那是因为当我们把所有样本都放进去后，发明计算资本不敷，所以只能做采样。正样本与负样本大年夜概是1：1000或者1：10000，如不雅对正样本做采样，损掉信息量会比较大年夜，所以我们选择对负样本采样，比如做1：1000的采样，再把负样本以1000的加权加归去。在资本受限时这么做，会尽可能降低信息量的损掉。但如不雅仅仅是为了把它做均衡而做负样本采样，平日是纰谬的。和前面几个问题不合，负样本采样并不是因情况改变而结论变更，事实上就不该该做负样本采样。
交叉验证是最好的测试办法
下一?问题叫做交叉验证，是指假设要将一份数据拆分成练习集和测试集，这个时刻怎么评估出它的误差?交叉验证是把集合拆成五份，取四份做练习集、一份做测试集，并且每次选择不合的那一份做测试级，最后测出五个结不雅再做平均，这被认为是最好的测试办法。
交叉验证确切是一个还不错的验证的办法，但在实际应用处景下，它往往不是最合适的一种方法。因为平日来说，我们用机械进修做的工作是猜测，绝大年夜多半情况下我们是用如今或者以前的数据做一个模型来猜测将来。而拿以前的练习猜测将来的最好测试办法不是交叉验证，因为交叉验证是按照交易或者按人拆分的。最合适的是办法其实是按照时光拆分，比如评估的时刻拔取一个时光点，用在这个时光点之前的数据做练习，猜测在这个时光点之后的，这是最接近真实应用处景的评估结不雅。
交叉验证可能只实用于和时光属性不相干的场景，比如人脸辨认，但我们面对更多的应用处景，无论长短险、营销或者反讹诈，都是在用以前的数据练习后猜测将来，最合适如许场景的评估办法不是交叉验证，而是按照时光去拆分。
过拟合必定不好
最后一个叫过拟合，这也是一个评论辩论特别多的话题。以前，平日我们会说如不雅模型做的太复杂了就会过拟合，如PPT右边所示，而最好的方法应当是图中中心的状况——拟合的方才好，图中左边的模型underfitting，没有练习完全。但如今来看，大年夜多半的实际场景都是在拿页堪猜测将来，过拟合不必定是不好的，照样要看具体场景。如不雅这个场景是以前见过的情况比较多，新的情况比较少的时刻，过拟合反倒是好的。
打个比方，如不雅期末测验题就是日常平凡的功课，那我们把日常平凡的功课都背一遍就是最好的方法，而这就是过拟合。如不雅期末测验不考日常平凡功课，满是新题，那么这个时刻就不克不及只背日常平凡的功课，还要充分懂得这门课的常识，控制若何推懂得题的技能。所以过拟合短长与否，完全取决于场景。如不雅应用处景依附逝世记硬背就能搞定，那过拟合反倒是好的。实际上在我们的设计琅绫擎，很多时刻我们会偏向于往过拟合靠一点，可能做新题会差一点，然则对于逝世记硬背的送分题会做的异常好。在拿页堪猜测将来的应用处景下，有的时刻过拟合不必定不好，要根据实际情况来看。
今天与大年夜家分享了教科书中的几个经典问题。其实袈溱实际工业应用中，我们不会完全按照教科书中的方法去实践。我们也会设计很深的模型、很深的决定计划树、很多的特点、会过拟合一点，我们更强调按时光拆分，不强调均衡采样。面对教科书中的结论，我们须要学会的是根据实际场景做出响应灵活断定。
【编辑推荐】
- 分布式机械进修平台大年夜比拼：Spark、PMLS、TensorFlow、MXNet
- 你需懂得的机械进修算法、若何开辟机械进修模型？
- 若何开端应用Java机械进修
- 调试神经收集让人抓狂？这有16条锦囊妙计送给你
- 应用TENSORFLOW练习轮回神经收集说话模型
推荐阅读
《CIO修炼之道》第 3 讲各位同伙大年夜家好，我是海天塑机集团信息中间的IT总监张明文，延续上一讲的话题，今天给大年夜家分享的是：企业信息化的四重境界。在十几二十年前，企业信息化的>>>详细阅读
本文标题：机器学习教材中的7大经典问题
地址：http://www.17bianji.com/lsqh/37004.html
1/2 1
网友点评
精彩导读
科技快报
品牌展示