过拟合和欠拟合
admin
2023-08-02 18:26:07
0次
在机器学习寻找假设的过程中可能会出现过拟合和欠拟合的现象，那什么是过拟合和欠拟合呢？
我们客观上认为，给定一个假设空间H，一个假设a∈H，如果存在其他的假设α∈H，使得在训练样例上a的错误率比α的小，但在整个实例分布上α的错误率比a的小，那么就说假设a过度拟合训练数据。
一般而言，我们认为参数过多是造成过拟合的原因。其实，这只是过拟合的一种表现。有的时候参数过少也会造成过拟合，但这种情况出现极其少！举个例子，假设你在做分类任务，你的训练样例上只有两个（1、outlook=Rain，Wind=Weak、Temperature=Cool，Humidity=Normal，PalyTennis=Yes;2、outlook=Rain，Wind=Weak，Temperature=Cool，Humidity=Strong,PalyTennis=Yes;）,我们依此做一个分类器。在两个训练样例的情形下，直接可以用特征Humidity进行分类，且很好的分类训练样例。但是稍微学过的机器学习的人都会觉得这样的分类器经不起推敲，这是因为参数太少了，出现了“黑天鹅”和“白天鹅”的现象。
至于欠拟合则是因为所选参数太少无法刻画出训练样例的基本关系，或者是所选的参数不太好，不能反映问题所需。
（上述只是定性的介绍了欠拟合和过拟合，关于欠拟合和过拟合定量的介绍以及它们的解决办法将在以后介绍！）
相关内容
热门资讯
葬礼感人一幕！婴儿抱着哈梅内伊...
7月4日至9日，伊朗为已故最高领袖哈梅内伊及其4位亲属（女儿、女婿、儿媳和外孙女）举行葬礼。9日，他...
凤凰直击俄军解救任务：无人机开...
乌克兰武装部队7月10日已向康城（康司坦丁诺夫卡）彼邻的德鲁日基夫卡市部署了约数十个单位的兵力，其中...
张玉卓任中国工程院党组书记、院...
7月11日，中国工程院官网更新了该院领导信息。中国工程院第九届院领导班子组成如下：张玉卓同志任党...
美国设定时间要求伊朗承诺停止袭...
【环球网报道 记者 姜蔼玲】据美国Axios新闻网当地时间10日报道，美国要求伊朗公开承认霍尔木兹海...
新华鲜报丨创历史新高 上半年3...
出入境人数创历史新高、外国人入境游持续火爆、出入境政务服务更便利贴心……7月10日，国家移民管理局通...
山东迎战“巴威”，多地水库提前...
今年第9号台风“巴威”正朝山东奔来。根据央视新闻报道，“巴威”今天（7月11日）零时再度增强为强台风...
哈梅内伊葬礼结束，灵柩移入陵墓
据凤凰卫视报道，伊朗已故最高领袖哈梅内伊的安葬仪式已经结束，他的灵柩被移入陵墓。哈梅内伊网站公布了相...
广西抗洪军人在救援途中，偶遇自...
7月9日上午在广西贵港市港北区执行城市清淤任务的陆军第75集团军某旅官兵突然接到新的救援任务有数百名...
美媒：万斯等人仍与伊朗间接对话...
据凤凰卫视报道，美国总统特朗普7月10日宣布，美国与伊朗的停火已经结束，但双方将继续谈判。知情人士透...
空调显示E5故障代码的维修方法
空调3匹机，开机制冷运行后出现E5故障代码，断电后重新开机，打到制冷运行约3分钟后，又出现E5故障代...