Cuốn sách này là dành cho các lý thuyết về các biện pháp thông tin ngẫu nhiên và ứng dụng của họ để mã hóa các định lý cho các nguồn thông tin và ồn ào chan Nels. Mục tiêu cuối cùng là một phát triển chung của toán học Shannon lý thuyết truyền thông, nhưng phần lớn không gian được dành cho các công cụ và phương pháp cần thiết để chứng minh định lý Shannon mã hóa. Những công cụ này tạo thành một khu vực chung lý thuyết và lý thuyết ergodic thông tin và bao gồm một số định lượng khái niệm về các thông tin trong các biến ngẫu nhiên, quy trình ngẫu nhiên, và hệ thống động lực.