信息论与编码基础 内容简介
《信息论与编码基础/高等院校通信与信息专业规划教材》以Shannon信息理论为依据,分基础篇、信道编码篇、信源编码篇、网络篇共12章讲述了信息与编码理论的基本概念、基本原理和在通信及信息工程等领域的应用。内容包括:信息的定义及度量、信源及其信息量、信道及其容量、分组码、卷积码、TCM与Turbo码、离散信源无失真编码、限失真信源编码理论、信源编码实践、网络信息论初步和信息安全中的密码技术等。 《信息论与编码基础/高等院校通信与信息专业规划教材》可作为通信、计算机、信息工程等专业的教材或参考书,也可供信息领域科技工作者、工程技术人员参考。
信息论与编码基础 目录
出版说明 前言
第1篇 基础篇 第1章 概论 1.1 信息论的形成和发展 1.2 通信系统模型 1.3 Shannon信息论的框架与本书的编排 1.3.1 Shannon信息论的框架结构 1.3.2 本书的编排 第2章 信息的度量 2.1 离散变量的自信息量 2.1.1 消息、信息与概率空间 2.1.2 离散变量的自信息量 2.1.3 信息量单位 2.2 离散变量集的平均信息量 2.2.1 信息熵 2.2.2 熵函数性质 2.3 互信息量 2.3.1 联合自信息量与条件自信息量 2.3.2 互信息量的概念 2.3.3 事件互信息的性质 2.3.4 离散集的平均互信息量 2.4 信息不增性原理 2.4.1 平均条件互信息量 2.4.2 信息处理定理 2.5 连续随机变量的信息度量 2.5.1 连续随机变量的微分熵 2.5.2 微分熵性质 2.5.3 连续随机变量的互信息量 2.5.4 连续随机变量的*大熵 2.6 小结 2.7 习题 第3章 信源及其信息■ 3.1 信源分类 3.2 信源概率模型与熵函数 3.3 Markov信源 3.3.1 Markov过程与状态转移图 3.3.2 遍历Markov信源及稳定分布 3.3.3 遍历Markov信源的熵 3.4 扩展信源的概念 3.4.1 无记忆扩展信源 3.4.2 Markov扩展信源 3.5 小结 3.6 习题 第4章 信道及其容量 4.1 信道模型与信道分类 4.1.1 信道模型 4.1.2 信道分类 4.2 离散无记忆信道 4.2.1 转移概率矩阵与信道线图 4.2.2 信道的输出熵与互信息 4.2.3 DMC信道的容量 4.2.4 对称DMC 4.2.5 组合信道 4.3 离散无记忆扩展信道 4.3.1 Ⅳ次扩展信道的转移概率矩阵 4.3.2 Ⅳ次扩展信道的容量 4.4 连续信道的容量 4.4.1 时间离散连续信道 4.4.2 时间连续的连续信道 4.5 小结 4.6 习题
第2篇 信道编码篇 第5章 分组码 5.1 编码定理与纠错码的基本概念 5.1.1 编码定理与差错控制方式 5.1.2 码字的纠错能力 5.1.3 译码准则 5.2 线性分组码 5.2.1 一致监督方程和一致监督矩阵 5.2.2 线性分组码的编码与译码 5.3 循环码 5.3.1 循环过程的数学表达式 5.3.2 循环码的生成多项式 5.3.3 系统码形式的循环码 5.3.4 循环码的译码 5.4 BCH码和RS码 5.4.1 BCH码 5.4.2 RS码 5.5 小结 5.6 习题 第6章 卷积码 6.1 基本概念 6.1.1 引言 6.1.2 约束度与约束长度 6.1.3 系统卷积码与卷积码的多项式描述 6.2 卷积码编码过程的图形描述 6.2.1 树状图 6.2.2 网格图 6.2.3 状态图 6.3 Viterbi译码简介 6.3.1 VB译码的度量 6.3.2 VB译码原理 6.4 卷积码的删余 6.5 小结 6.6 习题 第7章 TCM与Turbo码 7.1 引言 7.2 TCM技术 7.2.1 TCM思想的由来 7.2.2 TCM系统模型 7.2.3 TCM设计中的关键技术 7.3 Turbo码 7.3.1 引言 7.3.2 Turbo码编码器 7.3.3 Turbo码的译码 7.3.4 Turbo码在移动通信系统中的应用 7.4 小结 7.5 习题
第3篇 信源编码篇 第8章 离散信源无失真编码 8.1 数据可压缩编码原理 8.1.1 引言 8.1.2 单义可译码 8.1.3 Shannon-Fano编码与无失真编码定理 8.2 基于信源统计特性的编码方法 8.2.1 Huffman编码 8.2.2 算术码 8.3 基于数据串特性的编码 8.3.1 字典编码与LZ码 8.3.2 LZ编码算法 8.3.3 LZ码的译码过程 8.3.4 LZ码的压缩性能 8.4 小结 8.5 习题 第9章 限失真信源编码理论 9.1 失真的度量 9.1.1 失真函数 9.1.2 多维矢量的失真函数与平均失真 9.1.3 量化失真度量 9.2 信息率,失真函数的定义与性质 9.2.1 基本概念与定义 9.2.2 R(D)函数的性质 9.3 R(D)函数的计算 9.3.1 条件极值的Lagrangian乘子法 9.3.2 二元信源的R(D)函数 9.4 连续信源的R(D)函数及Shannon低界 9.4.1 连续信源的R(D)函数 9.4.2 差值误差测量的R(D)函数与Shannon低界 9.5 小结 9.6 习题 第10章 信源编码实践 10.1 限失真信源编码技术基础 10.1.1 引言 10.1.2 时域波形编码 10.1.3 频域波形编码 10.1.4 基于模型的信源编码 10.1.5 人类感知特性的应用 10.2 视频编码实践 10.2.1 引言 10.2.2 JPEG标准 10.2.3 H.2 61与H.2 63建议 10.2.4 MPEG编码标准 10.3 音频编码实践 10.3.1 引言 10.3.2 语音数字编码标准 10.3.3 高保真立体声音频编码标准 10.4 小结 10.5 习题
第4篇 网络篇 第11章 网络信息论初步 11.1 引言 11.1.1 网络信息论的发展概况 11.1.2 网络信息论研究的问题与信道模型 11.2 相关信源编码 11.2.1 Slepian-Wolf定理 11.2.2 应用校正子的相关信源编码(DTSCUS) 11.3 相关信源协同编码 11.4 多址接入信道(MAC) 11.4.1 离散多址接入信道 11.4.2 多址接入Gaussian噪声信道 11.4.3 相关信源的多址接入信道 11.5 广播信道 11.5.1 离散无记忆广播信道(DMBC) 11.5.2 退化广播信道 11.6 小结 11.7 习题 第12章 信息安全中的密码技术 12.1 信息安全与密码学 12.2 Shannon的保密系统理论 12.2.1 密码学的基本概念 12.2.2 理想保密性(perfectsecrecy) 12.2.3 乘积加密系统 12.3 信息加密技术 12.3.1 对称密码体制 12.3.2 公钥(非对称)密码体制 12.4 信息认证技术 12.4.1 信息认证算法 12.4.2 数字签名 12.5 网络通信的信息安全技术 12.5.1 密码管理和分配 12.5.2 Internet的信息安全 12.6 小结 12.7 习题
参考文献
|