JavaEE
鸿蒙应用开发
HTML&JS+前端
Python+大数据开发
人工智能开发
电商视觉设计
软件测试
新媒体+短视频
产品经理
集成电路应用开发
C/C++
狂野架构师
IP短视频
独立同分布IID(independent and identically distributed)
更新时间:2021年05月13日16时41分 来源:传智教育 浏览次数:
1.独立同分布(i.i.d.)
在概率统计理论中，如果变量序列或者其他随机变量有相同的概率分布，并且互相独立，那么这些随机变量是独立同分布。
在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。
2.简单解释 — 独立、同分布、独立同分布
(1)独立：每次抽样之间没有关系，不会相互影响
举例：给一个骰子，每次抛骰子抛到几就是几，这是独立;如果我要抛骰子两次之和大于8，那么第一次和第二次抛就不独立，因为第二次抛的结果和第一次相关。
(2)同分布：每次抽样，样本服从同一个分布
举例：给一个骰子，每次抛骰子得到任意点数的概率都是六分之一，这个就是同分布
(3)独立同分布：i.i.d.，每次抽样之间独立而且同分布
3.机器学习领域的重要假设
IID独立同分布即假设训练数据和测试数据是满足相同分布的，它是通过训练数据获得的模型能够在测试集获得好的效果的一个基本保障。
4.目前发展
机器学习并不总要求独立同分布，在不少问题中要求样本数据采样自同一个分布是因为希望用训练数据集得到的模型可以合理的用于测试数据集，使用独立同分布假设能够解释得通。
目前一些机器学习内容已经不再囿于独立同分布假设下，一些问题会假设样本没有同分布。
猜你喜欢：
最新资讯
0
分享到：
江苏传智播客教育科技股份有限公司 版权所有Copyright 2006-2024 All Rights Reserved 苏ICP备16007882号营业执照增值电信业务经营许可证出版物经营许可证
苏公网安备 32132202001156号