高新苏州网站建设,做怎个样网做站个网站,网站死链排查,网络推广方案写作七步法我们知道信息是一个抽象的概念#xff0c;它既不是物质也不是能量。那么我们要如何对一个抽象的概念进行一个定量的研究呢#xff1f;
信息量
1、信息的度量
通信的本质是传递信息#xff0c;为了定量表征信息的度量#xff0c;引入信息量的概念。消息中所含信息量与其不…我们知道信息是一个抽象的概念它既不是物质也不是能量。那么我们要如何对一个抽象的概念进行一个定量的研究呢
信息量
1、信息的度量
通信的本质是传递信息为了定量表征信息的度量引入信息量的概念。消息中所含信息量与其不可预测性不确定性有关因此可以概率来描述。消息所表达的事件越不可能发生其信息量越大。
假设P(x)来表示消息发生的概率I来表示消息中出现的信息量则I的定义如下 且满足3个基本性质 对于若干个相互独立事件构成的消息所含信息量等于各个独立事件信息量之和如下 2、信息量的定义
为了满足上述要求定义如下公式为消息所含的信息量 以2为底单位为比特bit以e为底单位为奈特nat1nat1.44bit以10为底单位为哈特hat以M为底单位为M进制单位。 常采用以2为底的对数即以bit作为信息量的单位。 【推广】对于等概M进制符号每个码元包含bit的信息量。 离散信息的信息熵
1、定义
对于离散的信源假设其含有M个可能的取值且概率如下 于是每个符号的所含信息量的平均值总信息量除以符号数即平均信息量为 通常称H为信息熵代表平均信息量。
【注意】当每个符号概率相等均为1/M时信息熵的值最大。 2、关于误差
对于某一离散信源假设其有0,1,2,3共4个符号组成它们出现的概率分别为3/81/41/41/8且每个符号的出现都是独立的。对于某条消息20101302010003……102102010出现23次1出现14次2出现13次3出现7次共57个字符其信息量为 基于实际概率 I总23log8/314log413log47log8108b 算数平均信息量 I108/571.89b/符号 将上面两式子结合 I23/57·log8/314/57·log413/57·log47/57·log81.89b/符号 基于理论概率 I3/8·log8/31/4·log41/4·log41/8·log81.906b/符号 可以看出两种方法其结果有误差而这种误差就是由实际概率和理论概率所造成的。并且此误差会随着消息序列中的符号数增加而减小。 通信系统主要性能指标 我们希望通信系统能快速有效性、准确可靠性的传递信息但通常会牺牲有效性来换取可靠性。
1、有效性
码元传输速率
定义为每秒传输码元的个数即波特率又称传码率、符号率单位为波特Baud简写为B。 信息传输速率
定义为每秒传输的bit数信息量单位为bit/s简记为b/s或bps。通常又将其称之为传信率、比特率。 当二进制时M2此时传码率与传信率数值上相等但单位不同。 频带利用率
定义为单位带宽内的传输速率。
通过频带利用率将信道带宽B与传输速度产生联系。 2、可靠性
