信息論與編碼b課程教學(xué)大綱

1、1《信息論與編碼信息論與編碼B》B》課程教學(xué)大綱課程教學(xué)大綱(10(10級(jí))編號(hào)：編號(hào)：40021212英文名稱：英文名稱：InfmationTheyCding適用專業(yè)：適用專業(yè)：電子信息工程責(zé)任教學(xué)單位責(zé)任教學(xué)單位：電子工程系電子信息工程教研室總學(xué)時(shí)：總學(xué)時(shí)：40學(xué)分：學(xué)分：2.5考核形式：考試考核形式：考試課程類別：專業(yè)基礎(chǔ)課課程類別：專業(yè)基礎(chǔ)課修讀方式：必修修讀方式：必修教學(xué)目的：教學(xué)目的：信息論是現(xiàn)代通信與信息工程的理論基礎(chǔ)。為

2、了適應(yīng)數(shù)字通信、信息處理和信息安全等方面的專業(yè)需要，該課程著重介紹信源的類型與特性、信源熵、信道容量、信息率失真函數(shù)等信息論的基本理論，還有信源編碼、信道編碼、信息保密編碼的基本概念、基本知識(shí)和主要方法。這些信息論與編碼的基本理論和方法不僅適用于通常意義的通訊領(lǐng)域，如電報(bào)、傳真、數(shù)字語(yǔ)音、數(shù)字圖像、網(wǎng)絡(luò)通信和多媒體通信等，也適用于信息安全、銀行電子匯兌、電子簽名，以及各行各業(yè)計(jì)算機(jī)信息處理和管理等專門領(lǐng)域的需要。通過(guò)該課程的學(xué)習(xí)，使學(xué)生

3、掌握香農(nóng)信息論的三個(gè)基本概念，與之相應(yīng)的三個(gè)編碼定理，以及信源編碼、信道編碼和信息保密編碼的基本理論和主要方法，培養(yǎng)學(xué)生能夠適應(yīng)數(shù)字通信、信息處理、信息安全、計(jì)算機(jī)信息管理等編碼工作的要求。主要教學(xué)內(nèi)容及要求主要教學(xué)內(nèi)容及要求：第一章第一章緒論緒論1、了解信息論的形成與發(fā)展。2、理解通信系統(tǒng)的模型。3、理解消息、信息、信號(hào)三個(gè)概念。第二章第二章信源與信息熵信源與信息熵1、熟練掌握自信息量、信源熵、聯(lián)合熵、條件熵、平均互信息量、互信息量的

4、概念及其計(jì)算方法。2、理解連續(xù)信源熵的基本概念及性質(zhì)。3、理解序列熵的計(jì)算及極限熵的概念。4、理解冗余度的概念及產(chǎn)生原因。第三章第三章信道與信道容量信道與信道容量1、掌握信道容量的定義，及對(duì)稱DMC、準(zhǔn)對(duì)稱DMC信道的信道容量C的計(jì)算。2、理解一般DMC信道的信道容量C的計(jì)算。2、了解多符號(hào)離散信道的概念。3、了解連續(xù)信道及其容量計(jì)算，掌握香農(nóng)公式。第四章第四章信息率失真函數(shù)信息率失真函數(shù)1、掌握平均失真和信息率失真函數(shù)的含義，及信息率

5、失真函數(shù)的性質(zhì)。22、了解離散信源和連續(xù)信源的信息率失真函數(shù)計(jì)算。第五章第五章信源編碼信源編碼1、掌握唯一可譯碼、即時(shí)碼的基本概念，理解定長(zhǎng)編碼定理和變長(zhǎng)編碼定理；2、掌握Shannon編碼、Fano編碼、Huffman編碼方法，熟練計(jì)算平均碼字長(zhǎng)度和編碼效率。3、了解游程編碼、算術(shù)編碼等。第六章第六章信道編碼信道編碼1、理解信道編碼的基本概念，了解檢、糾錯(cuò)能力的衡量。2、理解有擾信道編碼定理；3、掌握最優(yōu)譯碼與最大似然譯碼；4、掌握線

6、性分組碼的概念，熟練計(jì)算線性分組碼的生成矩陣、監(jiān)督矩陣和伴隨矩陣。5、掌握循環(huán)碼的概念，掌握循環(huán)碼的構(gòu)造方法。6、掌握卷積碼的基本概念和描述方法；了解維特比譯碼算法。本課程與其他課程的聯(lián)系與分工本課程與其他課程的聯(lián)系與分工：該課程的先修課程是《高等數(shù)學(xué)》、《概率論與隨機(jī)過(guò)程》、《線性代數(shù)》、《通信原理》等。本課程的學(xué)習(xí)應(yīng)在學(xué)生掌握以上課程知識(shí)的基礎(chǔ)上進(jìn)行。與此同時(shí)，本課程將為后續(xù)的《圖像處理》、《語(yǔ)音處理》等課程打下了必要的理論基礎(chǔ)。學(xué)