信息论基础 - 姚鹏晖¶
基本信息¶
- 课程号:
22011640
- 任课教师: 姚鹏晖
- 上课专业: 信计,计科
评价 1¶
评价者信息¶
Tag:保研;Rank 5%;2024 Spring修课
Score:92
关于老师¶
由姚鹏辉老师授课,本研共修课,研究生占比不低;与计算方法搭配在同一学期可以更深刻地感受到理论组的震撼。笔者认为完全搞懂这门课的内容难度不低。
前置知识¶
概率论
课程内容¶
全程黑板手写板书,无课程网站,无ppt;大部分内容来自于教科书,所以也不用特别记笔记。内容大致包括:
- 信息论原语(熵相关定义,渐进均分性等)
- 离散信源、离散信道
- 连续信源、连续信道
- 高斯信道
- 率失真理论
- 型方法
内容的抽象程度较高,本身不太好理解;加上姚老师节奏略有点快,笔者有点学的不明不白的。课程前几节课的内容可能实用一些,后续内容(尤其是各种大证明)貌似实用性不高。
作业、考试与得分¶
作业大约两周布置一次,一次4题左右,都是书后作业。对理解一些关键的定义、证明和技巧很有帮助。
考试内容较为简单,最难的部分(彩色信道、率失真、型方法)等都没有涉及,以基本概念和公式的运用为主。原话:「在座的99%以后都不是搞信息论的,所以考试以基本概念为主。」
工作量¶
作业:单次作业题量在 4 题左右,耗时 2 小时以内。
课下也不需要额外的时间;期末考察以概念为主,复习时间约 4 小时。
学习指南¶
没有课程网站,没有 ppt,上课全程黑板板书。不过板书内容基本就是书上公式和一些补充推导,不用刻意记。
《信息论基础》(Elements of Information Theory)这本书的翻译极烂无比,感觉像是10年前的机翻;很多公式都OCR错了,部分作业题题面的表达也令人忍俊不禁。建议对照英文版看。
如何贡献¶
请查看评价指南了解如何评价课程!