空间信息论是研究信息获取一般规律的理论体系。本书系统地论述空间信息论的基本理论,内容包括:香农信息论基础;空间信息论的基本框架;单目标探测的距离信息和散射信息;多目标探测的距离信息和散射信息;传感器阵列的方向信息和散射信息;相控阵雷达的距离-方向信息和散射信息;目标检测的信息理论;雷达通信一体化的信息论建模及优化。本书的核心内容是探测信息的概念和雷达定理,还论述了空间信息论和雷达信号处理及通信理论的关系,对实际雷达系统设计有重要参考价值。本书概念清晰,结构严谨,内容属于国际前沿基础研究领域,可作为高等学校信息工程、计算机与控制工程专业本科生、研究生课程教材,也可供雷达、通信、声学、光学和计算机等相关领域的教学、科研及工程技术人员参考。
【徐大专】南京航空航天大学教授/博导,通信与信息系统和网络空间安全学科学术带头人,通信工程研究所所长。江苏省优秀研究生导师,教育部首批骨干教师基金获得者,入选江苏省青蓝工程和"六大人才高峰”计划。研究领域包括探测信息理论、宽带无线通信和通信信号处理。在国内外刊物发表学术论文200余篇,出版学术专著4部,授权国家发明专利15项。获省部级科技进步二等奖 1 项、三等奖 3 项。【张小飞】南京航空航天大学教授/博导,通信工程研究所常务副所长、电磁频谱空间动态认知系统重点实验室常务副主任,入选爱思唯尔“中国高被引学者”、全球前2%顶尖科学家。为中国通信学会青年工作委员会委员、中国电子学会教育工作委员会青年组委员、江苏省科技评估专家。为20多家国际会议TPC成员,担任10多家刊物的编委;任国际刊物客座主编;受邀做会议主题报告10多次、主持国际会议一次。
第1章 绪论………………………………………………………………………… 1
1.1 感知信息论的研究背景 ………………………………………………… 1
1.2 感知信息论的研究问题 ………………………………………………… 1
1.3 信息论在雷达感知领域的前期研究工作 ……………………………… 3
1.3.1 距离互信息……………………………………………………… 3
1.3.2 以互信息和相对熵为测度的雷达波形设计…………………… 4
1.3.3 信息论在雷达信号处理领域的应用…………………………… 5
1.4 感知信息论的原创性贡献 ……………………………………………… 5
1.4.1 感知信息论的原创性概念……………………………………… 5
1.4.2 感知信息论的原创方法………………………………………… 6
1.4.3 感知信息论证明的主要定理…………………………………… 7
1.4.4 感知信息论的应用价值………………………………………… 8
第2 章 香农信息论基础 ………………………………………………………… 10
2.1 矩阵代数基础…………………………………………………………… 10
2.1.1 特征与特征矢量 ……………………………………………… 10
2.1.2 矩阵的奇异值分解 …………………………………………… 10
2.1.3 Hermitian 矩阵 ………………………………………………… 11
2.1.4 Kronecker 积 …………………………………………………… 11
2.1.5 矩阵求逆 ……………………………………………………… 12
2.2 离散信源的熵…………………………………………………………… 13
2.3 条件熵与联合熵………………………………………………………… 13
2.3.1 条件熵 ………………………………………………………… 13
2.3.2 联合熵 ………………………………………………………… 14
2.3.3 各类熵的关系 ………………………………………………… 14
2.4 互信息…………………………………………………………………… 16
2.4.1 互信息的定义 ………………………………………………… 16
Ⅻ
2.4.2 互信息的性质 ………………………………………………… 17
2.4.3 条件互信息 …………………………………………………… 18
2.4.4 信息散度 ……………………………………………………… 18
2.4.5 平均互信息 …………………………………………………… 19
2.4.6 多变量的互信息 ……………………………………………… 21
2.4.7 平均条件互信息 ……………………………………………… 23
2.5 连续随机变量…………………………………………………………… 24
2.5.1 连续信源的熵与平均互信息 ………………………………… 24
2.5.2 几种特殊分布信源的熵 ……………………………………… 28
2.5.3 限平均功率最大熵定理 ……………………………………… 31
2.5.4 熵功率 ………………………………………………………… 33
2.6 信道及其容量…………………………………………………………… 33
2.6.1 信道模型 ……………………………………………………… 33
2.6.2 信道分类 ……………………………………………………… 34
2.6.3 连续信道分类 ………………………………………………… 35
2.6.4 加性噪声信道及其容量 ……………………………………… 36
2.6.5 加性高斯信道及其容量 ……………………………………… 37
2.6.6 多维无记忆加性高斯信道 …………………………………… 39
2.6.7 限频限功率高斯信道容量与香农信道容量公式 …………… 41
2.6.8 香农信道编码定理 …………………………………………… 44
2.6.9 MIMO 信道及其容量 ………………………………………… 46
第3 章 感知信息论的理论框架 ………………………………………………… 48
3.1 雷达信号处理基础……………………………………………………… 48
3.1.1 雷达感知系统的基本功能 …………………………………… 48
3.1.2 多天线脉冲雷达与常规波束形成 …………………………… 50
3.1.3 多普勒频移 …………………………………………………… 53
3.1.4 匹配滤波器 …………………………………………………… 57
3.1.5 模糊函数 ……………………………………………………… 62
3.1.6 雷达发射信号及主要参数 …………………………………… 65
3.1.7 雷达目标散射的统计模型 …………………………………… 68
3.1.8 雷达目标检测 ………………………………………………… 71
3.2 贝叶斯估计理论………………………………………………………… 72
3.2.1 贝叶斯公式的密度函数形式 ………………………………… 72
??
3.2.2 贝叶斯估计和误差 …………………………………………… 75
3.2.3 先验分布的确定 ……………………………………………… 76
3.2.4 似然原理 ……………………………………………………… 76
3.2.5 无信息先验 …………………………………………………… 76
3.3 感知信息的定量………………………………………………………… 79
3.3.1 雷达目标感知系统模型 ……………………………………… 79
3.3.2 感知信息的概念及其定量 …………………………………… 80
3.4 感知信息的意义………………………………………………………… 81
3.4.1 均方误差的泛滥 ……………………………………………… 82
3.4.2 微分熵的单位 ………………………………………………… 83
3.4.3 感知信息与熵误差 …………………………………………… 84
3.5 最优感知问题…………………………………………………………… 87
3.5.1 常用的检测和估计方法 ……………………………………… 87
3.5.2 经验信息与感知精度 ………………………………………… 88
3.5.3 感知定理概要 ………………………………………………… 88
第4 章 参数估计与空间信息 …………………………………………………… 90
4.1 雷达感知系统模型……………………………………………………… 90
4.2 雷达感知的等效通信系统模型………………………………………… 91
4.3 空间信息………………………………………………………………… 93
4.3.1 雷达感知信道模型 …………………………………………… 93
4.3.2 雷达感知信源模型 …………………………………………… 93
4.3.3 联合距离-散射信息的定义…………………………………… 94
4.4 恒模散射目标的时延估计……………………………………………… 96
4.4.1 测距信道模型 ………………………………………………… 96
4.4.2 时延的后验分布与最大后验估计 …………………………… 98
4.4.3 第一类测距分布 ……………………………………………… 100
4.4.4 距离信息的计算 ……………………………………………… 100
4.4.5 距离信息的上界 ……………………………………………… 101
4.5 抽样后验概率估计 …………………………………………………… 105
4.6 最小散度估计 ………………………………………………………… 106
4.7 复高斯散射目标的时延估计 ………………………………………… 108
4.7.1 时延估计的后验分布 ………………………………………… 108
4.7.2 时延估计的克拉美罗界 ……………………………………… 110
??
4.7.3 第二类测距分布 ……………………………………………… 112
4.7.4 距离信息的上界 ……………………………………………… 113
4.8 熵误差 ………………………………………………………………… 115
4.8.1 熵误差的定义 ………………………………………………… 116
4.8.2 距离信息-熵偏差关系定理 ………………………………… 118
4.8.3 经验熵误差 …………………………………………………… 119
4.9 熵误差的闭合表达式 ………………………………………………… 119
4.9.1 后验微分熵的一般表达式 …………………………………… 120
4.9.2 Hw、 Hs 和 κ 的近似计算 …………………………………… 122
4.9.3 距离信息与熵误差的闭合表达式 …………………………… 124
4.10 散射信息……………………………………………………………… 128
4.10.1 恒模散射目标的散射信息 ………………………………… 128
4.10.2 复高斯散射目标的散射信息 ……………………………… 131
第5 章 多目标参数估计与空间分辨率………………………………………… 133
5.1 多目标参数估计 ……………………………………………………… 133
5.1.1 多目标系统模型 ……………………………………………… 133
5.1.2 多目标空间信息的概念 ……………………………………… 134
5.2 多个复高斯散射目标的距离信息 …………………………………… 135
5.2.1 多目标测距信道模型 ………………………………………… 135
5.2.2 多目标距离信息的最大似然估计 …………………………… 137
5.2.3 最大后验概率估计和抽样后验概率估计 …………………… 138
5.2.4 两目标距离信息的后验分布 ………………………………… 140
5.2.5 多目标距离信息的数值计算 ………………………………… 141
5.2.6 两目标测距的 Fisher 信息与克拉美罗界 …………………… 142
5.3 多个恒模散射目标的距离信息 ……………………………………… 144
5.3.1 距离信息 ……………………………………………………… 144
5.3.2 距离信息的上界 ……………………………………………… 145
5.4 多目标散射信息的计算 ……………………………………………… 149
5.5 距离分辨率 …………………………………………………………… 152
5.5.1 两目标散射信息的闭合表达式 ……………………………… 152
5.5.2 距离分辨率方式 ……………………………………………… 154
5.5.3 多目标参数估计的显微方法 ………………………………… 156
??
第6 章 参数估计定理…………………………………………………………… 157
6.1 参数估计定理的直观解释 …………………………………………… 157
6.2 连续随机变量的渐近等分特性及典型集 …………………………… 158
6.2.1 渐近等分特性 ………………………………………………… 158
6.2.2 典型集 ………………………………………………………… 159
6.3 联合典型序列 ………………………………………………………… 160
6.4 参数估计定理的证明 ………………………………………………… 164
6.5 推广的 Fano 不等式 …………………………………………………… 168
6.6 参数估计定理的逆定理 ……………………………………………… 169
第7 章 天线阵列的方向信息和散射信息……………………………………… 171
7.1 阵列信号处理基础 …………………………………………………… 171
7.1.1 窄带信号 ……………………………………………………… 171
7.1.2 天线阵列统计模型 …………………………………………… 171
7.2 天线阵列的空间信息 ………………………………………………… 177
7.3 信源的方向信息 ……………………………………………………… 178
7.3.1 恒模信源的方向信息 ………………………………………… 178
7.3.2 复高斯信源的方向信息 ……………………………………… 183
7.3.3 方向估计的熵误差 …………………………………………… 186
7.3.4 方向估计熵误差的闭合表达式 ……………………………… 190
7.4 信源的散射信息 ……………………………………………………… 195
7.4.1 恒模信源的散射信息 ………………………………………… 195
7.4.2 复高斯信源的散射信息 ……………………………………… 195
7.5 多信源的空间信息 …………………………………………………… 197
7.5.1 方向信息 ……………………………………………………… 197
7.5.2 稀疏信源的散射信息 ………………………………………… 198
7.5.3 方向分辨率 …………………………………………………… 201
第8 章 相控阵雷达的空间信息理论…………………………………………… 206
8.1 相控阵雷达系统模型 ………………………………………………… 206
8.2 相控阵雷达的感知信道模型 ………………………………………… 210
8.2.1 感知信源的统计模型 ………………………………………… 210
8.2.2 感知信道的统计模型 ………………………………………… 211
??
8.2.3 位置信息的后验概率分布 …………………………………… 213
8.2.4 位置信息和熵误差 …………………………………………… 215
8.3 位置信息闭合表达式 ………………………………………………… 216
8.3.1 一般的位置信息闭合表达式 ………………………………… 216
8.3.2 后验微分熵近似表达式 ……………………………………… 218
8.4 位置信息上界和熵误差下界 ………………………………………… 223
8.4.1 位置信息和熵误差的闭合表达式 …………………………… 224
8.4.2 克拉美罗界与 Fisher 信息矩阵 ……………………………… 225
8.4.3 仿真结果 ……………………………………………………… 226
8.5 相控阵雷达的散射信息 ……………………………………………… 228
8.5.1 单个恒模散射目标的散射信息 ……………………………… 228
8.5.2 单个复高斯散射目标的散射信息 …………………………… 230
8.5.3 两个复高斯散射目标的散射信息 …………………………… 231
8.6 相控阵雷达的分辨率方程 …………………………………………… 232
第9 章 脉冲多普勒雷达的空间信息理论……………………………………… 235
9.1 脉冲多普勒雷达系统模型 …………………………………………… 235
9.2 脉冲多普勒雷达的多普勒散射信息 ………………………………… 236
9.3 距离-多普勒信息与熵误差…………………………………………… 240
9.3.1 距离-多普勒联合后验分布 ………………………………… 240
9.3.2 距离-多普勒相关函数 ……………………………………… 242
9.3.3 距离-多普勒信息的上界 …………………………………… 245
9.3.4 距离-多普勒信息的闭合表达式 …………………………… 246
9.3.5 距离-多普勒估计熵误差 …………………………………… 248
9.4 距离-多普勒分辨率…………………………………………………… 250
9.4.1 距离-多普勒分辨率的概念 ………………………………… 250
9.4.2 距离-多普勒分辨率表达式 ………………………………… 251
9.5 仿真结果 ……………………………………………………………… 251
9.5.1 多普勒散射信息 ……………………………………………… 251
9.5.2 距离-多普勒信息与熵误差 ………………………………… 254
9.5.3 距离-多普勒分辨率 ………………………………………… 256
第10 章 MIMO 雷达的空间信息理论 ………………………………………… 260
10.1 MIMO 雷达系统模型 ………………………………………………… 260
ⅩⅦ
10.2 MIMO 雷达的空间信息 ……………………………………………… 266
10.2.1 空间信息的定义 …………………………………………… 266
10.2.2 目标参数的统计模型 ……………………………………… 267
10.3 MIMO 雷达的距离-方向信息 ……………………………………… 268
10.3.1 距离-方向信息表达式……………………………………… 268
10.3.2 距离-方向信息的渐近上界………………………………… 271
10.4 MIMO 雷达距离-方向信息的近似表达式 ………………………… 277
10.5 MIMO 雷达的散射信息 ……………………………………………… 279
10.5.1 恒模散射 …………………………………………………… 279
10.5.2 复高斯散射 ………………………………………………… 281
10.6 MIMO 雷达的距离-方向分辨率 …………………………………… 282
第11 章 目标检测的空间信息理论 …………………………………………… 285
11.1 目标检测的评价指标………………………………………………… 285
11.2 目标检测系统模型…………………………………………………… 286
11.3 目标检测信息的定义………………………………………………… 287
11.4 目标检测信息的计算………………………………………………… 287
11.4.1 一般复高斯散射目标检测信息的计算 …………………… 287
11.4.2 单个复高斯散射目标检测信息的计算 …………………… 289
11.4.3 已知目标位置时复高斯散射目标检测信息的计算 ……… 290
11.4.4 恒模散射目标检测信息的计算 …………………………… 291
11.4.5 已知目标位置时恒模散射目标检测信息的计算 ………… 292
11.5 检测熵数……………………………………………………………… 293
11.6 检测信息准则下的虚警概率和检测概率…………………………… 293
11.6.1 单个复高斯散射目标的虚警概率和检测概率 …………… 293
11.6.2 已知复高斯散射目标位置时的虚警概率和检测概率 …… 297
11.6.3 恒模散射目标的虚警概率和检测概率 …………………… 298
11.6.4 已知恒模散射目标位置时的虚警概率和检测概率 ……… 302
11.7 目标检测的无偏性…………………………………………………… 302
11.8 NP 检测器的虚警概率和检测概率 ………………………………… 304
11.8.1 复高斯散射目标 NP 检测器的虚警概率和检测概率 …… 304
11.8.2 已知复高斯散射目标位置时NP 检测器的虚警概率
和检测概率 ………………………………………………… 305
11.8.3 恒模散射目标NP 检测器的虚警概率和检测概率 ………… 305
ⅩⅧ
11.8.4 已知恒模散射目标位置时NP 检测器的虚警概率和
检测概率 …………………………………………………… 306
11.9 MAP 检测器的虚警概率和检测概率 ……………………………… 307
11.9.1 复高斯散射目标 MAP 检测器的虚警概率和检测概率…… 307
11.9.2 已知复高斯散射目标位置时MAP 检测器的虚警概率
和检测概率 ………………………………………………… 308
11.9.3 恒模散射目标 MAP 检测器的虚警概率和检测概率……… 310
11.9.4 已知恒模散射目标位置时MAP 检测器的虚警概率
和检测概率 ………………………………………………… 311
11.10 NP 检测器和 MAP 检测器的检测信息 …………………………… 313
11.11 仿真结果 …………………………………………………………… 314
11.11.1 基于先验概率的性能比较 ………………………………… 314
11.11.2 检测信息与信噪比的关系 ………………………………… 315
11.11.3 目标位置已知和未知时的检测信息 ……………………… 315
11.11.4 两种检测器工作特性的比较 ……………………………… 316
第12 章 目标检测定理 ………………………………………………………… 319
12.1 目标检测定理的直观解释…………………………………………… 319
12.2 离散随机变量的渐近等分特性及典型集…………………………… 320
12.2.1 弱大数定律与渐近等分特性 ……………………………… 320
12.2.2 典型集 ……………………………………………………… 320
12.3 联合典型序列………………………………………………………… 322
12.4 目标检测定理的证明………………………………………………… 325
12.5 目标检测定理的逆定理……………………………………………… 328
第13 章 联合目标检测与参数估计 …………………………………………… 331
13.1 联合目标检测与参数估计概述……………………………………… 331
13.2 感知信息……………………………………………………………… 332
13.3 感知信息的计算……………………………………………………… 333
13.3.1 一般复高斯散射目标感知信息的计算 …………………… 333
13.3.2 单个复高斯散射目标感知信息的计算 …………………… 334
13.3.3 恒模散射目标感知信息的计算 …………………………… 334
13.4 感知熵误差和感知熵偏差…………………………………………… 334
13.5 抽样后验感知………………………………………………………… 335
ⅩⅨ
13.6 联合目标检测-参数估计定理 ……………………………………… 337
13.6.1 联合目标检测-参数估计定理的直观解释………………… 337
13.6.2 联合典型序列 ……………………………………………… 338
13.6.3 联合目标检测-参数估计定理的证明……………………… 342
13.7 级联目标检测-参数估计定理 ……………………………………… 347
第14 章 非合作目标检测的信息理论 ………………………………………… 352
14.1 非合作目标检测概述………………………………………………… 352
14.2 非合作目标检测系统模型…………………………………………… 353
14.3 检测信息……………………………………………………………… 353
14.4 检测信息的计算……………………………………………………… 354
14.5 虚警概率和检测概率………………………………………………… 355
14.6 非合作目标感知的 NP 检测器 ……………………………………… 356
14.7 非合作目标感知的 MAP 检测器 …………………………………… 358
14.8 数值仿真结果………………………………………………………… 360
14.8.1 虚警概率和检测概率与信噪比的关系 …………………… 360
14.8.2 检测信息与先验概率的关系 ……………………………… 360
14.8.3 检测信息与信噪比的关系 ………………………………… 361
14.8.4 接收机工作特性比较 ……………………………………… 361
第15 章 信息融合 ……………………………………………………………… 364
15.1 信息融合技术现状…………………………………………………… 364
15.2 系统模型……………………………………………………………… 365
15.3 数据融合……………………………………………………………… 366
15.4 概率融合……………………………………………………………… 368
15.5 参数融合……………………………………………………………… 369
15.6 判决融合……………………………………………………………… 370
15.7 仿真结果……………………………………………………………… 370
参考文献…………………………………………………………………………… 374