资讯专栏INFORMATION COLUMN

ID3 算法介绍

ormsf / 2776人阅读

摘要:首先我先来介绍一下算法。算法是澳洲计算机科学家发明的,全称是。算法的作用是通过一个数据集来生成一棵决策树。算法的主要应用领域有,机器学习,,自然语言处理。算法的执行流程第一步是递归地构建决策树,计算信息增益最大或者熵最小的特征作为最优特征。

如果我的朋友说介绍个女生给我认识,那么我会问我朋友女生的条件,然后再决定认不认识。
他说他只知道关于女生的这些信息:

《王者荣耀》玩的好不好。

喜不喜欢宠物。

长得漂不漂亮。

脾气好不好。

长头发还是短头发。

是否要求南方有车有房。

喜不喜欢吃辣条。

会不会做饭。

但是我的朋友很势利,他说我每问一个关于女生的问题就必须给他100块。
那我应该怎么问最少的问题,花最少的钱,就能决定认不认识呢?
像这种问题可以用ID3来做判断。

首先我先来介绍一下ID3算法。
ID3 算法是澳洲计算机科学家Ross Quinlan发明的,全称是Iterative Dichotomiser 3。
ID3 算法的作用是通过一个数据集来生成一棵决策树。
ID3 算法的主要应用领域有:1,机器学习,2,自然语言处理。

ID3 算法的执行流程:
第一步是递归地构建决策树,计算信息增益最大(或者熵最小)的特征作为最优特征。
递归的出口是:1,所有标签都一样。 2,当所有特征都遍历过,那么选择出现最多的标签。

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/43198.html

相关文章

  • javascript实现朴素贝叶斯分类与决策树ID3分类

    摘要:根据这个训练集,运用朴素贝叶斯分类和决策树分类则可以得到一个数据模型,然后通过输入一条测试数据来判断是否回去打网球。一朴素贝叶斯分类大学概率论的贝叶斯定理实现了通过计算概率求出假设推理的结论。 今年毕业时的毕设是有关大数据及机器学习的题目。因为那个时间已经步入前端的行业自然选择使用JavaScript来实现其中具体的算法。虽然JavaScript不是做大数据处理的最佳语言,相比还没有优...

    ernest.wang 评论0 收藏0
  • 决策树之ID3算法

    摘要:前言决策树算法,是指一类通过对数据集中特征的选择,构造一个树,实现对数据的分类的算法。算法首先,让我们以例子来看看算法的实现过程。假设我们现在要做一次决策判断一个人会买什么类型的保险。个人理解信息熵就是描述给出的这组数据的分类有多不确定。 前言 决策树算法,是指一类通过对数据集中特征的选择,构造一个树,实现对数据的分类的算法。 这棵树的每一个节点都是选中的其中一种特征,而该节点的边则是...

    malakashi 评论0 收藏0
  • 分类算法之决策树(理论篇)

    摘要:后剪枝先创建完整的决策树,然后再尝试消除多余的节点,也就是采用减枝的方法。 起步 决策树(decision tree)是一个树结构,可以是二叉树或非二叉树,也可以把他看作是 if-else 规则的集合,也可以认为是在特征空间上的条件概率分布。 决策树的结构 以一个简单的用于是否买电脑预测的决策树为例子: showImg(https://segmentfault.com/img/remo...

    jzzlee 评论0 收藏0

发表评论

0条评论

ormsf

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<