导语
机械进修中的模型参数和模型超参数在感化、来源等方面都有所不合,而模型超参数常被称为模型参数,如许,很轻易对初学者造成混淆。本文给出了模型参数和模型超参数的定义,并进行了比较,指出了二者本质上的差别:模型参数是模型内部的设备变量,可以用数据估计模型参数的值;模型超参数是模型外部的设备,必须手动设置参数的值。
我们在做研究的时刻,会碰着很多术语。有时,在不合的研究范畴还会出现同样名称的术语。比如,统计学、经计揭捉?中经常应用的“模型参数”和“模型超参数”,在机械进修中也同样存在。
机械进修范畴中的“模型参数”“模型超参数”在感化、来源等方面都有所不合,初学者如不雅对二者没有明白的熟悉,进修起交往往会比较吃力,尤其是那些来自统计学和经计揭捉?范畴的初学者们。
为了让大年夜家在应用机械进修时,对“参数模型”和“超参数模型”有一个清楚的界定,在这篇文┞仿中,我们将具体评论辩论这两个术语。
起首,我们来看一下“参数”是什么?
参数作为模型大年夜汗青练习数据中学到的一部分,是机械进修算法的关键。
统计学中的“参数”:
在统计学中,你可以假设一个变量的分布,比如高斯分布。高斯分布的两个参数分别是平均值(μ)和标准差(sigma)。这在机械进修中是有效的,个中这些参数可以用数据估计得参预用作猜测模型的一部分。
编程中的“参数”:
编程中可以将参数传递给函数。在这种情况下,参数是一个函数参数,可以有一个值范围。在机械进修中,您正在应用的具体模型就是函数,须要参数才能对新数据进行猜测。
根据经典的机械进修文献,可以将模型看作假设,而参数是根据特定的数据集对假设进行的具体调剂。
“参数”和“模型”有什么关系?
模型是否具有固定或可变数量的参数,决定了模型是“参数”模型或“非参”模型。
什么是模型参数?
具体来讲,模型参数有以下特点:
- 进行模型猜测时须要模型参数。
- 模型参数值可以定义模型功能。
- 模型参数用数据估计或数据进修获得。
- 模型参数一般不由实践者手动设置。
- 模型参数平日作为进修模型的一部分保存。
简单来说,模型参数就是模型内部的设备变量,可以用数据估计它的值。
模型参数的一些例子包含:
- 人造神经收集中的权重。
- 支撑向量机中的支撑向量。
- 线性回归或逻辑回归中的系数。
什么是模型超参数?
具体特点有:
- 模型超参数常应用于估计模型参数的过程中。
- 模型超参数平日由实践者直接指定。
- 模型超参数平日可以应用启发式办法来设置。
- 模型超参数平日根据给定的猜测建模问题而调剂。
如何获得它的最优值:对于给定的问题,我们无法知道模型超参数的最优值。但我们可以应用经验轨则来探寻其最优值,或复制用于其他问题的值,也可以经由过程反复实验的办法。
模型超参数的一些例子包含:
- 练习神经收集的进修速度。
- 支撑向量机的C和sigma超参数。
- k邻域中的k。
“模型参数”和“模型超参数”
二者的接洽:
当针对特定问题调剂机械进修算法时,例如在应用网格搜刮或随机搜刮时,你将调剂模型或敕令的超参数,以发明一个可以使模型猜测最闇练的模型参数。很多模型中重要的参数无法直接大年夜数据中估计获得。例如,在K近邻分类模型中…这种类型的模型参数被称为调剂参数,因为没有可用的分析公式来为其计算一个合适的值。
– 第64-65页,应用猜测建模,2013
区分:
模型超参数是模型外部的设备,其值不克不及大年夜数据估计获得。
模型超参数平日被称为模型参数,这种叫法很轻易让人产生误会。解决这个问题的一个很好的经验轨则如下:如不雅你必须手动指定一个“模型参数”,那么它可能就是一个模型超参数。
平日应用优化算法估计模型参数,优化算法是对参数的可能值进行的一种有效搜刮。
总结
读完这篇文┞仿可以懂得模型参数和模型超参数的明白定义和差别。
总而言之,模型参数是大年夜数据中主动估计的,而模型超参数是手动设置的,并用于估计模型参数的过程。
【编辑推荐】
- 数据科学和机械进修的对象和说话最新动态
- 机械进修在金融范畴的四大年夜优势和五大年夜应用
- 人工智能之机械进修算法体系汇总
- 图解机械进修:神经收集和TensorFlow的文本分类
- 关于机械进修的融合与反思
推荐阅读
大年夜区块链的价值被发明,到区块链竽暌功用实际落地之前,区块链一向是个概念性的器械。固然各大年夜媒体报刊将区块链炒得沸沸扬扬的,世界上诸多国度也对区块链给出了响应的看重,然则除了一些专业人士,很少有人>>>详细阅读
本文标题:机器学习填坑:你知道模型参数和超参数之间的区别吗?
地址:http://www.17bianji.com/lsqh/36601.html
1/2 1