本书是作者在近十年科学研究和研究生教学实践的基础上，经过深入分析论证、充分归纳综合编著而成，全面、系统地介绍了多用户信息论。本书内容包括绪论、单用户信息论中的几个专题、多端信源编码、多接入信道、广播信道、干扰信道和认知信道、中继信道与合作信道及反馈信道与双向信道。
本书的主要阅读对象是信息与通信工程专业的研究生和从事通信前沿理论研究的科研工作者，特别是对于从事研发新一代无线网络的研究人员具有参考价值。

　这本《多用户信息论》由仇佩亮、张朝阳、杨胜天、余官定编著，本书适当简化了一些烦琐的论证，重在阐述多用户信息论揭示的多用户信道中信息传输所服从的理论界限和本质规律，以及不同信道之间的关联性，很多只给出证明思路，使得读者易于理解。同时，本书面向通信理论和工程研究人员，因此更注重介绍达到理论界限的编码方法、相关定理的本质内涵及其应用中所必须遵循的基本原则。

前言
第1章 绪论
1.1 多用户信息论引言
1.2 本书中常用的一些记号与本书结构
1.2.1 一些常用记号
1.2.2 本书的结构和内容介绍
参考文献
第2章 单用户信息论中的几个专题
2.1 单用户离散信道的容量
2.1.1 离散无记忆信道的容量与编码定理
2.1.2 具有独立、同分布状态信息的信道容量
2.1.3 有记忆信道的信道容量
2.2 加性高斯噪声信道
2.2.1 加性白高斯噪声信道
2.2.2 加性有色高斯噪声信道
2.2.3 衰落信道的容量
2.3 脏纸信道与脏带信道
2.3.1 脏纸信道容量
2.3.2 广义脏纸信道容量
2.3.3 脏带信道容量
2.4 MIMO信道
2.4.1 MIMO信道模型
2.4.2 确定性MIMO信道的容量
2.4.3 衰落MIMO信道的容量
2.4.4 MIMO信道分集增益和复用增益的折中关系
2.5 单端信源的率失真理论
2.5.1 离散、无记忆信源
2.5.2 平方误差失真度量下平稳高斯信源
2.5.3 具有边信息的率失真问题
2.5.4 间接率失真问题
2.6 单用户信道编码与信源编码之间的对偶性
2.6.1 信道编码与信源编码之间的公式对偶
2.6.2 信道编码与信源编码之间的功能对偶
2.6.3 信道编码与信源编码之间的工作对偶
参考文献
第3章 多端信源编码
3.1 Slepian-Wolf编码定理
3.2 Wyner-Ziv编码问题
3.3 Berger-Chang编码问题
3.4 Berger-Tung编码问题
3.5 CEO问题
3.5.1 一般离散、无记忆相关信源的CEO问题
3.5.2 二次高斯CEO问题
3.6 多描述编码
3.6.1 具有2个信道和3个接收机的多描述编码
3.6.2 可达性定理3.6.1的证明
3.6.3 信息描述的逐次细化
参考文献
第4章 多接入信道
4.1 离散无记忆多接入信道的容量区
4.1.1 具有公共消息的二发射机多接入信道
4.1.2 具有独立消息的离散无记忆多接入信道容量区
4.1.3 任意相关信源在多接入信道上传输
4.2 离散无记忆多接入信道可达码率区的拟阵多面体结构与码率分裂多接入技术
4.2.1 拟阵多面体与反拟阵多面体
4.2.2 离散无记忆MAC可达码率区的拟阵多面体结构
4.2.3 离散无记忆MAC的码率分裂多接入技术
4.3 高斯无记忆多接入信道
4.3.1 具有公共消息的二发射机高斯多接入信道
4.3.2 具有独立消息的高斯无记忆多接入信道
4.3.3 高斯多接入信道上码率分裂算法
4.4 多接入衰落高斯信道的通量容量区与最佳资源分配
4.4.1 多接入衰落高斯信道模型与通量容量区
4.4.2 通量容量区边界的Lagrangian特征
4.4.3 最佳功率控制与码率分配
4.4.4 容量区C(P)的边界面
4.5 多接入衰落高斯信道的中断容量区与最佳传输策略
4.5.1 多接入衰落高斯信道的时延-受限(0-中断)容量区与最佳传输策略
4.5.2 多接入衰落高斯信道的共同中断容量区与最佳传输策略
4.5.3 多接入衰落高斯信道的各自中断容量区问题
4.6 MIMO多接入高斯信道
4.6.1 常数MIMO多接入信道
4.6.2 衰落MIMO多接入信道容量区
参考文献
第5章 广播信道
5.1 一般离散无记忆广播信道容量区的内界和外界
5.1.1 广播信道的定义与分类
5.1.2 广播信道容量区的内界
5.1.3 广播信道容量区的外界
5.1.4 工作于BC(Ⅱ)方式的一般广播信道的容量区
5.2 几个已知容量区的特殊广播信道
5.2.1 退化的离散无记忆广播信道
5.2.2 Less Noisy广播信道和More Capable广播信道
5.2.3 确定性和半确定性广播信道
5.2.4 发送功率受限的AWGN广播信道的容量区
5.3 抽头信道与具有机密消息的广播信道
5.3.1 离散无记忆抽头信道
5.3.2 高斯抽头信道
5.3.3 具有机密消息的广播信道
5.4 高斯广播信道容量区特征与功率优化分配
5.4.1 高斯广播信道容量区的特征
5.4.2 高斯广播信道功率最优分配
5.5 平行高斯广播信道与衰落广播信道
5.5.1 平行高斯广播信道
5.5.2 衰落高斯广播信道
5.6 高斯广播信道与高斯多接入信道之间的对偶
5.6.1 高斯多接入信道与高斯广播信道回顾
5.6.2 常数信道增益AWGN多接入信道与广播信道之间的对偶
5.6.3 衰落多接入信道与广播信道之间的对偶
5.6.4 MAC与BC对偶的凸优化解释与最优译码次序
5.7 高斯MIMO广播信道
5.7.1 高斯MIMO广播信道与脏纸编码可达码率区
5.7.2 高斯MIMO广播信道与高斯MIMO多接入信道之间的对偶
5.7.3 高斯MIMO广播信道的“和码率”容量
5.7.4 高斯MIMO广播信道的容量区
参考文献
第6章 干扰信道与认知信道
6.1 干扰信道容量区的内界和外界
6.1.1 干扰信道的模型
6.1.2 一般干扰信道容量区的外界
6.1.3 一般干扰信道容量区的内界(可达码率区)
6.1.4 几种退化干扰信道的容量区
6.2 高斯干扰信道
6.2.1 一般高斯干扰信道的可达码率区
6.2.2 高斯强干扰信道的容量区
6.2.3 高斯退化干扰信道
6.2.4 高斯单边干扰信道
6.2.5 一般高斯干扰信道的容量区外界
6.3 Z信道
6.3.1 Z信道的可达码率区
6.3.2 几种退化的Z信道
6.3.3 高斯Z信道
6.4 认知信道的可达码率区
6.4.1 非因果认知信道的可达码率区
6.4.2 非因果高斯认知信道的可达码率区
6.4.3 因果高斯认知信道的可达码率区
参考文献
第7章 中继信道与合作信道
7.1 离散无记忆中继信道容量的上、下界
7.1.1 中继信道容量的割集上界
7.1.2 中继信道容量的下界
7.2 几个已知容量的中继信道模型
7.2.1 反向退化中继信道的容量
7.2.2 退化中继信道的容量
7.2.3 半确定中继信道的容量
7.2.4 具有正交分量的中继信道的容量
7.2.5 带无噪反馈的中继信道的容量
7.3 AWGN中继信道
7.3.1 AWGN中继信道容量的割集上界
7.3.2 AWGN中继信道容量的译码转发下界与估计转发下界
7.3.3 AWGN中继信道上传输每比特所需的最小能量
7.4 频分和时分加性高斯噪声中继信道
7.4.1 FD-AWGN中继信道的容量和容量界
7.4.2 FD-AGN中继信道的容量和容量界
7.4.3 TD-AGN中继信道的容量界
7.5 AWGN线性中继信道
7.5.1 一般AWGN线性中继信道
7.5.2 B类FD-AWGN线性中继信道
7.6 MIMO中继信道
7.6.1 高斯MIMO中继信道模型
7.6.2 全双工高斯MIMO中继信道容量的上界
7.6.3 全双工高斯MIMO中继信道容量的下界
7.7 多中继节点信道
7.7.1 多中继节点信道模型
7.7.2 多中继节点信道DF方式的可达码率
7.7.3 多中继节点信道CF方式的可达码率
7.7.4 高斯多中继信道
7.8 多用户中继信道
7.8.1 多接入中继信道
7.8.2 广播中继信道
7.9 合作多用户信道
7.9.1 合作多接入信道
7.9.2 合作广播信道
参考文献
第8章 反馈信道与双向信道
8.1 单用户信道反馈容量的一般结论
8.1.1 离散无记忆信道反馈容量与Schalkwijk-Kailath编码
8.1.2 一般高斯信道反馈容量界
8.1.3 反馈增加高斯信道容量的充分必要条件
8.1.4 有向信息速率与反馈容量的关系
8.2 带反馈的多接入信道
8.2.1 带理想反馈的离散无记忆多接入信道
8.2.2 带理想反馈的高斯多接入信道
8.2.3 多接入信道的反馈容量界
8.3 带反馈的广播信道
8.4 带反馈的干扰信道
8.4.1 离散无记忆干扰信道的反馈容量界
8.4.2 无记忆高斯干扰信道的反馈容量
8.5 带反馈的矢量多接入信道和矢量广播信道
8.5.1 带反馈的矢量高斯多接入信道
8.5.2 带反馈的矢量高斯广播信道
8.6 双向信道
8.6.1 双向信道容量区的Shannon内界和外界
8.6.2 一种可以超出Shannon内界的编码方式
8.6.3 比Shannon界限更紧的内界和外界
8.6.4 高斯双向信道
参考文献
附录A 典型列理论
附录B 网络中信息传输码率的割集上界
附录C 凸集、凸函数和凸优化
附录D 辅助随机变量的基数界

第1章　绪论
1.1　多用户信息论引言［1～9］ 
以Shannon在1948年发表的伟大著作《通信的数学理论》［1］ 为标志的Shannon信息论被认为是20世纪信息科学最重要的科学理论。Shannon信息论主要研究数据压缩（信源编码）和数据可靠传输的极限性能和实现方法。Shannon在他1948年的经典著作中关注的是只具有一个发信机（编码器）和一个接收机（译码器）的单用户数据压缩和可靠传输问题，也就是所谓单用户信息论。单用户通信系统模型示于图1.1.1。
Shannon在他的经典著作［1］ 中提出并证明了单用户信息论中两条最基本定理，即信源无损压缩编码定理与信道编码定理。
信源无损压缩编码定理　离散无记忆信源X，p（x）的熵H（X）是无损压缩该信源所能达到的最小码率。
信道编码定理　离散无记忆信道X，p（y｜x），Y的容量C＝maxI（X；Y）是数p（ x） 据在该信道上可靠传输的最大码率。
这两条定理给出信源压缩编码和信道编码的极限性能。同时Shannon还证明了所谓的信源、信道分离编码定理。
分离编码定理　信道容量为C，信源的熵速率为H，若C≥H，则总存在一个编码系统使得信源可在该信道上以任意小差错概率传输；若C＜H，则不能以任意小差错概率传输。
按照分离编码定理，信源、信道联合最佳编码并不能提高通信系统的极限性能。因此，通信工程师在设计通信系统时可以把信源编码和信道编码分开考虑，而不致影响整体性能。当然这里的分离编码定理是针对单用户离散无记忆信道和离散无记忆信源而言的。
Shannon的开创性工作为信息论的建立提供了基本概念、基本框架、基本方法和基本结果。此后Shannon以及其他学者对于这两条基本定理给出了更严格的证明，有些学者用其他不同的方法同样证明了这些基本定理；更有许多学者进一步把定理结果推广到一些更复杂、更实际的信源和信道；同时发展了有损压缩编码理论，也即率失真理论。第一篇关于率失真理论的论文是Shannon在1959年发表的《保真度准则下的离散信源编码定理》［10］ 。
信源有损压缩编码定理　对于离散无记忆信源X，p（x）和失真度量d（x，＾x），率失真函数R（D）＝minI（X；X＾）表示在失真不大于D的条件下压p（＾x｜x）：E（d（x，＾x））≤D缩该信源所能达到的最小码率。
早期的单用户信息论并没有找到很多的应用场合，许多通信工程师认为信息论过于抽象，他们还不理解信息论的意义。但是随着电子科学技术和计算机技术的发展，尤其是集成电路CMOS技术的进展，低价、高性能计算和信号处理成为可能，从而引发了各种纠错编码、调制技术和各种媒体（文本、语音、图像和视频）压缩技术的研究，使得信源压缩编码码率和信道传输码率逐渐接近Shannon指出的极限最佳码率。从20世纪60年代开始，Shannon理论对于通信工程的指导意义开始凸显。同时无线技术的发展使研究者关注衰落信道通信。由于在发送端或接收端能获得有关信道状态的知识，可以极大改善通信效果，于是引发了对边信息（sideinformation）的兴趣。事实上Shannon在1958年就发表了《发送机具有边信息的信道》论文［11］ 。具有边信息的信道、信源编码虽然从形式上看是属于单用户信息论模型，但是它是向多用户信息论的过渡，许多学者也把它归于多用户信息论研究范畴。
20世纪六七十年代出现的因特网、蜂窝移动网络以及ALOHA系统激发了人们对于通信网络的兴趣。因此研究在多用户工作条件下的通信极限问题引起了信息论专家的关注。这方面的研究是以前单用户信息论的自然推广，称为多用户信息论。多用户信息论与单用户情况一样，主要研究两类问题，即多端相关信源的压缩编码和多用户信息在网络信道上可靠、有效传输的信道编码；特别是研究它们的极限性能，即多端信源编码的率失真区和多用户信道的容量区。第一篇关于多用户信息论的文章是1961年Shannon在一次关于统计和概率的国际会议上发表的，名为《双向通信信道》［12］ 。此后在70年代和80年代初、中期，随着网络通信的兴起，多用户信息论研究出现了一个高潮，取得了许多研究成果。但是，当时多用户信息论研究成果对于通信网技术发展的指导作用并没有达到预期的效果。这一方面是由于多用户信息论所基于的模型过于简化，并不实用；另一方面也是由于多用户信息论的理论难度远远超出单用户情况，对于许多看上去非常简单的，仅包含几个用户的网络都不能够获得它的可计算的容量区或率失真区，因而也不知道它们的最佳性能极限和最佳通信方式。80年代中到90年代初多用户信息论研究出现了一个短时期的低潮。
90年代以后，无线移动通信和无线网络有了长足的进步，各种无线通信网络层出不穷。人们不但对于宽带、码率提出越来越高的要求，同时对于通信资源（频带、功率、空间）的消耗也提出越来越苛刻的限制。这一时期无线通信技术获得突飞猛进。在编码领域出现许多新的纠错编码，如Turbo码、LDPC码和喷泉码（fountaincode）等，这些码的性能已经非常接近Shannon极限；对于衰落信道有了更深入的研究，各种分集、合并技术，各种自适应均衡技术，扩谱、多用户检测技术，多载波技术，软件无线电技术等物理层和链路层优化技术获得了极大发展和应用。特别要指出的是，基于多天线的多输入多输出（multipleinputmultipleoutput，MIMO）技术显著提高了信道的容量和抗衰落性能。可以说在端到端之间的无线通信技术已经发展到了极致，所达到的性能已与Shannon单用户信息论所指出的极限相差无几，要进一步提高无线网络的性能，不能指望单用户信息论的理论指导。因此，无线网络的需求与无线技术的发展重新激发了研究者对于多用户信息论的研究热情。
现实的无线网络，特别是在近20年所发展起来的Ad?Hoc自组织网络、大规模无线传感器网络、无线Mesh网络等都是极为复杂的多跳网络。它们包含多个源、多个目的节点，传输多种消息，包含多种传输方式，可能是单向传输、双向传输、多播、广播、机密传输等；这些信源不仅具有冗余，而且是时变的，并可能在空间、时间上相关；无线网络传输信道不仅要承受各种衰落，而且受到相互干扰、传输时延和节点损坏的影响。在多跳网络中，节点也不是仅仅执行转发功能，许多情况下节点要进行复杂的信号处理，有些还要作出判断或计算。在无线网络中除了可靠传输外，信息安全是非常重要的，在开放环境中只有在一定的机密性要求下的可靠传输才有意义。制约所有这些困难问题解决的瓶颈是无线网络资源的限制，这些资源包括频谱资源、能量资源、计算资源，甚至包括空间和时间的资源。
近几年来广为无线网络专家和工程师研究的通信中的合作（cooperation）、竞争（competition）和认知（cognition）技术，即所谓的无线新3C技术，就是致力于网络资源的更有效使用。探索这些技术的目的在于使每个节点共享相邻节点的频谱、能量和计算资源，从而优化整个网络总资源的利用。