《神经网络与信号处理系统 有限精度设计理论》求取 ⇩

第1章绪论1

1.1无限精度与有限精度1

1.2有限精度设计理论研究的意义2

1.3有限精度设计理论研究的背景与动机3

1.3.1模拟系统3

1.3.2数字系统4

1.3.3神经网络系统5

1.4有限精度设计理论研究的状况与趋势6

1.5有限精度设计理论研究的主要内容7

1.6本书内容安排9

参考文献11

第2章信号处理系统有限精度设计理论基础14

2.1信号及其分类14

2.1.1信号与映射14

2.1.2连续信号与离散信号14

2.1.3确定性信号与随机信号15

2.1.4确定性能量有限信号15

2.2系统及其分类16

2.2.1连续系统与模拟系统16

2.2.2离散系统与数字系统18

2.2.3神经计算系统19

2.3有关灵敏度的概念和定理23

2.3.1Telegen定理23

2.3.2互易的和交相互易的网络25

2.3.3灵敏度26

2.4本章小结30

参考文献31

第3章神经网络基础32

3.1概述32

3.2神经元模型32

3.2.1神经元结构32

3.2.2神经元的运算33

3.2.3神经元的活动函数35

3.2.4神经元的内部反馈36

3.3神经网络的基本结构38

3.3.1网络功能层次结构38

3.3.2网络拓扑结构39

3.4神经网络的学习与功能神经网络43

3.4.1学习方法分类43

3.4.2误差后向传播网络45

3.4.3反馈联想网络48

3.4.4竞争网络52

3.4.5自适应共振网络56

3.4.6其它网络57

3.5神经网络计算的统一处理58

3.6一般多层前向网络与双并联前向网络58

3.6.1网络结构58

3.6.2工作原理61

3.6.3映射功能与误差曲面63

3.6.4学习64

3.6.5双并联前向网络的误差后向传播学习算法73

3.7本章小结85

参考文献86

第4章低灵敏度模拟滤波器设计理论88

4.1概述88

4.2模拟滤波器的实现结构88

4.2.1直接实现89

4.2.2串联实现89

4.2.3并联实现91

4.3零点、极点与参数灵敏度92

4.3.1系统的零点与极点93

4.3.2系统极点对系数的灵敏度93

4.3.3系统零点对系数的灵敏度95

4.3.4ωJ,QJ对参数的灵敏度96

4.4可调滤波网络的双二次模型98

4.4.1分析模型99

4.4.2构造模型100

4.5可调双二阶网络的灵敏度分析102

4.5.1一组新的四端口参数102

4.5.2传递函数104

4.5.3可调双二阶网络的灵敏度分析与最低灵敏度准则106

4.6并联与串联网络的灵敏度115

4.6.1并联网络的灵敏度115

4.6.2串联网络的灵敏度117

4.7可调最低灵敏度网络的设计与实现118

4.7.1低灵敏度二阶网络的设计118

4.7.2基于运算放大器的设计实例122

4.7.3基于可调跨导器件的设计125

4.8SPICE集成电路软件仿真128

4.9本章小结131

参考文献132

第5章数字信号处理系统有限精度设计理论133

5.1概述133

5.2信号的二进制表示及其误差136

5.2.1定点表示136

5.2.2浮点表示138

5.2.3舍入与截尾误差139

5.3模数转换器的量化效应143

5.3.1模数转换器的取样与量化143

5.3.2量化的统计表示144

5.3.3等效的输入量化误差147

5.4I/O表示的数字滤波器对系数的有限精度效应148

5.4.1极点、零点对系数变化的灵敏度149

5.4.2零、极点网格图152

5.5定点运算数字滤波器的有限精度效应157

5.5.1概述157

5.5.2IIR滤波器中的零输入极限环158

5.5.3舍入误差的统计分析162

5.5.4溢出误差的统计分析180

5.6浮点运算数字滤波器的有限精度效应186

5.7DFT计算中的有限精度效应190

5.7.1直接DFT计算过程中量化效应分析191

5.7.2定点FFT中的有限精度效应194

5.7.3浮点FFT中的有限精度效应202

5.7.4系数量化对FFT的影响205

5.8线性调频Z变换的有限精度效应207

5.9状态空间数字滤波器的低灵敏度设计211

5.9.1离散线性移不变系统的状态方程211

5.9.2状态方程系统的灵敏度212

5.9.3Lp范数灵敏度与均方误差214

5.9.4H（z）对系数矩阵的L2灵敏度217

5.9.5L2灵敏度的Gramian矩阵222

5.9.6L2/L1灵敏度的改进227

5.9.7L2灵敏度模型的化简230

5.10本章小结233

参考文献236

第6章无限与有限精度神经网络238

6.1概述238

6.1.1神经网络有限精度设计理论的研究动机238

6.1.2神经网络有限精度设计理论研究的发展状况与趋势239

6.2神经网络有限精度统计模型241

6.3无限精度神经网络模型243

6.4有限精度神经网络模型244

6.5权矢量的统计模型246

6.6输入矢量的统计模型247

6.7权误差与输入误差的统计模型247

6.8分析中的其它考虑248

6.9本章小结249

参考文献250

第7章分段线性神经网络的量化效应253

7.1概述253

7.2输入、权值的量化表示253

7.3隐层有限精度效应分析255

7.4一般层有限精度效应分析261

7.5输入编码的影响262

7.6双并联前向神经网络有限精度效应分析264

7.7信噪比分析265

7.8位数对各层的影响267

7.9本章小结269

参考文献269

第8章多层前向神经网络的灵敏度分析271

8.1概述271

8.2多层前向神经网络权灵敏度分析——一元函数线性近似271

8.2.1非线性活动函数的处理271

8.2.2符号与意义272

8.2.3输出对权扰动的统计灵敏度定义273

8.2.4权扰动造成的输出误差274

8.2.5对加性权扰动的灵敏度276

8.2.6对乘性权扰动的灵敏度278

8.2.7对输入扰动的灵敏度280

8.2.8对单层权扰动的灵敏度281

8.2.9讨论282

8.3多层前向神经网络权灵敏度分析——多元函数线性近似法283

8.3.1多元非线性函数线性化283

8.3.2网络对加性权扰动的灵敏度285

8.3.3网络对乘性权扰动的灵敏度288

8.4范数灵敏度290

8.4.1输出／输入导数矩阵290

8.4.2输出／输入导数矩阵的范数灵敏度291

8.4.3输出／权导数矩阵293

8.4.4输出对权导数矩阵的范数灵敏度293

8.5降低灵敏度的方法295

8.5.1降低权灵敏度295

8.5.2降低输入灵敏度296

8.6本章小结296

参考文献297

第9章连续活动函数神经网络的噪信比298

9.1概述298

9.2单神经元的输出噪信比298

9.2.1单神经元的输出误差299

9.2.2单神经元输出误差的方差与输出噪信比300

9.3多层前向神经网络的输出噪信比303

9.3.1概述303

9.3.2第一层神经元的输出误差方差304

9.3.3第一层神经元的输出噪信比306

9.3.4噪信比增益函数306

9.3.5其它层神经元的噪信比309

9.4双并联前向神经网络的噪信比分析311

9.5本章小结316

参考文献317

第10章前向神经网络的误差界分析318

10.1概述318

10.2若干假设318

10.3各层神经元总输入扰动的期望与方差界320

10.3.1神经元总输入扰动的期望界320

10.3.2神经元总输入扰动的方差界321

10.3.3输出状态的期望界322

10.4各层神经元输出的方差界323

10.5本章小结328

参考文献329

第11章有限精度神经网络学习算法330

11.1概述330

11.2归一化学习330

11.3后向误差信号与误饱和335

11.4导数修正法341

11.5误差修正法341

11.6纠错法345

11.7基于灵敏度和凸值的修枝算法346

11.8权值衰减法348

11.9权扰动法349

11.10其它方法350

11.11本章小结351

参考文献351

第12章多层前向网络映射能力与权值范围的关系及其仿真354

12.1多层前向网络的逼近性能354

12.1.1多层前向网络的逼近特性354

12.1.2多层前向网络逼近算法特点355

12.1.3三层前向网络逼近映射的描述性说明356

12.2权值范围与映射性能357

12.2.1大权值与小权值在网络中的不同作用357

12.2.2三层网络中两层权值的联系358

12.3权灵敏度分析360

12.3.1选择表示灵敏度的量361

12.3.2三层前向网络权灵敏度分析362

12.3.3数值积分365

12.3.4权值大小对隐层输出误差的影响367

12.4隐层-输出层误差分析368

12.5灵敏度分析与仿真369

12.6本章小结372

参考文献373

第13章有限精度神经网络的实现方法与仿真实验374

13.1概述374

13.2有限精度函数377

13.3输入有限精度表示及其影响378

13.4权值有限精度的影响382

13.5节点输出值与非线性函数的有限精度效应383

13.6权值修正量的有限精度影响384

13.7全量化实现386

13.8限制权值范围与变量增益386

13.9有限精度神经网络的DSP实现与应用简介388

13.10本章小结389

参考文献390

第14章总结与展望392

14.1回顾与一般性结论392

14.2未来研究的发展方向394