# Information Theory and Coding (v4.0 2013)

Lecture 1  : Introduction, Information Theory                                                                      PDF
(Self Information, Mutual, conditional, Entropy, Source coding Theorem)
Lecture 2  : Source Coding Techniques                                                                               PDF
(Huffman, Runlength, Lempel-Ziv, Arithmatic, Shannon Fano and JPEG)
Lecture 3  : Foundation of Error Correction Codes                                                            PDF
(BSC, AWGN, BER, Shannon and Nyquist Theorem)
Lecture 4  : Groups and Vector Space                                                                                  PDF
(Group, Field Theory, Vector space, Linear Algebra)

Lecture 4  : Linear Block Codes                                                                                           PDF
(Coding, Syndrome Decoding, Optimal, MDS, LDPC, Bounds and Performance)
——————————–MTE——————————————————————————————-
Lecture 5  : Cyclic Codes                                                                                                     PDF
(Designing, Coding and Decoding, Circuit Implementation, CRC, Polynomial, Golay Code )

Lecture 6  : Number Theory and Algebra                                                                          PDF
(Divisibility, GCD, Eucludean Algo, Totient Function, Fermate Little theorem, Creating extended field, Factoring x^n -1, Minimal Polynomial)
Lecture 7  : BCH Codes                                                                                                      PDF
(Designing for t-symbol correcting code for GF(q), Decoding)
Lecture 8  : Convolutional, Turbo and Trellis Codes                                                       PDF
(Convolutional code: Circuit, State diagram, Trellis Diagram, Encoding, Turbo: Concept, interleaver, TCM: Concept)

Homework/Assignments:

Homework 1: Test followed by Assignment

Homework 2: Design Problem