每一讲,我基本都会采用两种方式讲解:一种方式是从分析事件或现象背后的信息论原理出发,讲解信息论的概念;另一种是从信息论的原理出发,分析我们今天的做事方法。
这三个模块学完以后,我希望你获得三种能力。
模块一信息产生:在面对大量信息时,排除噪音,提取利用有效信息,科学做决策的能力;
模块二信息传播:向外界传递信息时,平衡分配有限资源,增加沟通带宽,放大影响力的能力;
模块三信息应用:看懂信息应用的逻辑和通信发展的趋势,提前抓住新机遇的能力。
一个人的思维方式和做事方法常常决定了一个人能够走多远,而在历史的任何时期,都有最适合时代的方法论.
一、导论
01 | 影响世界的三比特信息
- 信息时代的最大特征是不确定性
- 而信息论就是这半个世纪以来,人类对抗不确定性,最重要和有效的方法论。
知识点:
- 信息很重要,甚至比钱更重要,它能四两拨千斤。而信息作用的大小和信息量有关。
- 公众都知道的信息,其实是没有信息量的。这是今天我希望你记住的第二个知识点。
- 对一个未知系统(黑盒子)所作出的估计和真实情况的偏离,就是信息的损失,偏离越多损失越大。
此外,我们还提到了信息论的一个原则,不要把鸡蛋放在一个篮子中,这样可以避免因为信息缺失,而导致灾难性结果。
02 | 揭开世界之谜的三篇诺贝尔奖
03 | 大数据思维的科学基础
二、信息产生
04 | 信息度量:世界上有稳赚不赔的生意吗?
信息的 “砝码”:比特
比特
的定义:如果一个黑盒子中有A和B两种可能性,它们出现的概率相同,那么要搞清楚到底是A还是B,所需要的信息量就是一比特。如果我们对这个黑盒子有一点知识,知道A的概率比B大,那么解密它们所需要的信息就不到一比特。- 如果是做选择题四选一:2 bit
4 = 2 ** 2
- 如果是32个世界杯球队猜谁夺冠:5 bit
32 = 2 ** 5
- 如果是做选择题四选一:2 bit
信息源和信息熵: 我们把这样充满不确定性的黑盒子就叫做“信息源”,它里面的不确定性叫做“信息熵”,而“信息”就是用来消除这些不确定性的(信息熵),所以搞清楚黑盒子里是怎么一回事,需要的“信息量”就等于黑盒子里的“信息熵”。
- 我们知道,熵其实是一个热力学的概念,表示一个系统的无序状态,或者说随机性。比如把冰水倒进一杯开水中,它们会彼此融合,杯子里的“熵”,也就是混乱程度会增加;在信息系统中也是如此,信息熵则表示一个系统内部的不确定性。
定性看信息量: 一个系统中的状态数量,也就是可能性,越多,不确定性就越大;在状态数量保持不变时,如果各个状态的可能性相同,不确定性就很大;相反,如果个别状态容易发生,大部分状态都不可能发生,不确定性就小。
- 第一句话例子:买彩票2个号里选一个中奖,不确定性就小;买彩票10000个号里选一个中奖,不确定性就大
- 第二句话例子:买彩票10000个号每个号中奖概率都一样,不确定性就大;其中一个号中奖率99.99%,其余号中奖概率加起来百分之0.01%,不确定性就小。
信息熵公式: 香农把这个原理呢,用公式表示出来了,从此信息不仅可以度量了,信息熵也可以计算了。信息熵的公式:

你知道了信息有单位,还可以通过公式计算,那又有什么用呢?
- 赌球庄家稳赚不赔
- 结构化投资证券
- 心灵鸡汤大家为什么不愿意读,并非说的不对,而是没有信息量
知识点:
- 永远不要听那些正确率总是50%的专家的建议,因为那相当于什么都没说,没有提供能够减少“信息熵”的“信息量”。
- 多了解信息论和基本的数学常识,可以在生活中省下不少冤枉钱。希望你知道,很多交易和产品都是利用了信息的可度量性,知道了这点,就可以看清很多复杂交易背后的原理。