信息论基础教程PDF格式文档图书下载
第1章 绪论 1
1.1 信息的概念 1
1.2 信息论的研究对象、目的和内容 2
习题1 5
第2章 信息的度量 6
2.1 自信息和互信息 6
2.1.1 自信息 6
2.1.2 互信息 8
2.2 平均自信息 8
2.2.1 平均自信息的概念 8
2.2.2 熵函数的性质 9
2.2.3 联合熵与条件熵 13
2.3 平均互信息 15
2.3.1 平均互信息的概念 15
2.3.2 平均互信息的性质 17
2.3.3 数据处理定理 20
习题2 21
第3章 信源及信源熵 25
3.1 信源的分类及其数学模型 25
3.2 离散单符号信源 26
3.3 离散多符号信源 27
3.3.1 离散平稳无记忆信源 27
3.3.2 离散平稳有记忆信源 28
3.3.3 马尔可夫信源 31
3.3.4 信源的相关性和剩余度 34
3.4 连续信源 37
3.4.1 连续信源的微分熵 37
3.4.2 连续信源的最大熵 40
3.4.3 连续信源的熵功率 41
习题3 42
第4章 信道及信道容量 46
4.1 信道的分类 46
4.2 离散单符号信道及其信道容量 47
4.2.1 离散单符号信道的数学模型 47
4.2.2 信道容量的概念 49
4.2.3 几种特殊信道的信道容量 50
4.2.4 离散对称信道的信道容量 52
4.2.5 一般离散信道的信道容量 55
4.2.6 信道容量定理 58
4.2.7 信道容量的迭代算法 62
4.3 离散多符号信道及其信道容量 64
4.4 组合信道及其信道容量 67
4.4.1 独立并联信道 67
4.4.2 级联信道 68
4.5 连续信道及其信道容量 69
4.5.1 连续随机变量的互信息 69
4.5.2 高斯加性信道的信道容量 70
4.5.3 多维高斯加性信道的信道容量 71
4.6 波形信道及其信道容量 72
习题4 72
第5章 无失真信源编码 77
5.1 信源编码的相关概念 77
5.1.1 编码器 77
5.1.2 码的分类 79
5.2 定长码及定长信源编码定理 81
5.3 变长码及变长信源编码定理 84
5.3.1 Kraft不等式和McMillan不等式 85
5.3.2 唯一可译码的判别准则 86
5.3.3 紧致码平均码长界限定理 87
5.3.4 无失真变长信源编码定理(香农第一定理) 89
5.4 变长码的编码方法 92
5.4.1 香农编码 92
5.4.2 香农-费诺-埃利斯编码 94
5.4.3 二元霍夫曼码 94
5.4.4 r元霍夫曼码 97
5.4.5 费诺码 98
5.5 实用的无失真信源编码方法 99
5.5.1 游程编码 99
5.5.2 算术编码 102
5.5.3 LZW编码 104
习题5 107
第6章 有噪信道编码 111
6.1 信道编码的相关概念 111
6.1.1 错误概率和译码规则 112
6.1.2 错误概率与编码方法 117
6.2 有噪信道编码定理 123
6.3 纠错编码 125
6.3.1 纠错码分类 126
6.3.2 纠错码的基本概念 127
6.3.3 线性分组码 129
6.3.4 卷积码 143
习题6 146
第7章 限失真信源编码 151
7.1 失真测度 152
7.1.1 失真函数 152
7.1.2 平均失真 154
7.2 信息率失真函数 155
7.2.1 D失真许可信道 155
7.2.2 信息率失真函数的定义 155
7.2.3 信息率失真函数R(D)的性质 156
7.3 限失真信源编码定理 161
7.4 信息率失真函数的计算 161
7.4.1 应用参量表示式计算R(D) 161
7.4.2 率失真函数的迭代算法 167
7.5 常用的限失真信源编码方法 170
7.5.1 量化编码 170
7.5.2 子带编码 171
7.5.3 预测编码 172
7.5.4 变换编码 173
习题7 174
附录A 数学预备知识 176
A.1 概率论与随机过程 176
A.1.1 概率论的基本概念 176
A.1.2 随机变量及其分布 178
A.1.3 多维随机变量及其分布 179
A.1.4 随机变量的数字特征 181
A.1.5 随机过程 181
A.2 凸函数及Jensen不等式 185
A.3 信道容量定理引理 187
A.4 渐进等分割性和ε典型序列 188
附录B 上机作业 191
B.1 信道容量的迭代算法 191
B.2 唯一可译码判决准则 192
B.3 Shannon编码 192
B.4 Huffman编码 193
B.5 Fano编码 193
B.6 LZW编码 194
B.7 BSC模拟器 194
B.8 Hamming(7,4)编译码器 194
B.9 通信系统仿真 195
附录C 习题解答 197
C.1 第1章 习题解答 197
C.2 第2章 习题解答 197
C.3 第3章 习题解答 211
C.4 第4章 习题解答 224
C.5 第5章 习题解答 237
C.6 第6章 习题解答 247
C.7 第7章 习题解答 255
参考文献 260
- 《信息论基础教程》李亦农,李梅编著 2005
- 《信息管理英语教程》李季方等编著 2004
- 《旅游信息管理教程》胡涛,王青山,董林峰编著;辛建荣,陈扬乐,毕华主编 2012
- 《信息论基础教程》焦瑞莉,李红莲,冷俊敏编著 2008
- 《信息论基础教程》李亦农,李梅编著 2005
- 《企业信息化教程》杭永宝主编;邓凯,吉飞,朱宝生等编 2003
- 《信息技术与信息化基础教程》谭浩强主编;张基温编著 1998
- 《信息论基础教程》李梅,李亦农编著 2008
- 《全国信息学奥林匹克联赛培训教程 普及本》信息学奥林匹克科学委员会主编;吴文虎,王建德编著 2004
- 《信息论与编码基础教程》张丽英,王世祥等编著 2010
- 《信息论基础教程》李梅,李亦农,王玉皞编著 2015
- 《信息论基础教程》李亦农,李梅编著 2005
- 《信息论基础教程》李梅,李亦农编著 2008
- 《信息论基础教程》李亦农,李梅编著 2005
- 《信息论基础教程习题解答与实验指导》李梅,李亦农编著 2005
- 《信息论基础教程习题解答与实验指导 第2版》李梅,李亦农编著 2011
- 《VoIP IP语音技术》(美)(U.布拉克)Uyless Black著;温斌,李亦农等译 2000
- 《犯罪情报分析与应用》李亦农著 2010
- 《信息产业部3G移动通信培训指定教材 3G业务及相关技术》北京邮电大学无线新技术研究所主编;李亦农,唐晓晟,田辉,张治编著 2007
- 《现代线描表现技法》毛亦农,李伟编著 2011
- 《THE GOVERNMENT/PRESS CONNECTION PRESS OFFICERS AND THEIR OFFICES》STEPHEN HESS 1984
- 《PRESS》POLITICS & PUBLIC OPINION IN BIHAR 1912-1947 2010
- 《Press law》Robin Callender Smith. 1978
- 《SUING THE PRESS》RODNEY A.SMOLLA 1986
- 《THE PRESS AND AMERICA》 2222
- 《FREEDOM OF THE PRESS》ERIC BARENDT 2009
- 《FREEDOM OF THE PRESS》ROB EDELMAN 2006
- 《FREEDOM OF THE PRESS》DAVID L.GEBERT 2005
- 《Racism and the press》Teun A.van Dijk 2016
- 《Im spiegel per presse 1》Albert Schmitz 1983