các dạng kênh truyền

Mô hình: từ tập hợp các giá trị có thể nhận được ở đầu nhận Y={y₁, y₂, …, y_L} được phân thành M nhóm B_i tương ứng với các giá trị x_i ở đầu truyền và xác suất để truyền x_i với điều kiện đã nhận y_j là p(X= x_i /Y=y_j thuộc B_i)=1 ( với M < L ).

Đặc trưng của kênh truyền không mất tin là H(X/Y)=0. Có nghĩa là lượng tin chưa biết về X khi nhận Y là bằng 0 hay ta có thể hiểu khi nhận được Y thì ta hoàn toàn có thể biết về X.

Dung lượng: C=log₂M (Sinh viên tự chứng minh, xem như bài tập)

Kênh truyền xác định

Mô hình: từ tập hợp các giá trị có thể truyền ở đầu truyền được phân thành L nhóm B_j tương ứng với các giá trị có thể nhận được y_j ở đầu nhận và xác suất để nhận y_j với điều kiện đã truyền x_i là p(Y=y_j/X=x_i thuộc B_j)=1 (M>L).

Đặc trưng: của kênh truyền xác định là H(Y/X)=0. Có nghĩa là lượng tin chưa biết về Y khi truyền X bằng 0 hay khi truyền X thì ta biết sẽ nhận được Y.

Dung lượng: C=log₂L (Sinh viên tự chứng minh, xem như bài tập)

Kênh truyền không nhiễu

Mô hình: là sự kết hợp của kênh truyền xác định và kênh truyền không mất thông tin, truyền ký tự nào sẽ nhận được đúng ký tự đó.

Đặc trưng: H(X/Y)=H(Y/X)=0.

Dung lượng: C=log₂L=log₂M (Sinh viên tự chứng minh, xem như bài tập)

Ví dụ: ma trận truyền tin của kênh truyền không nhiễu với M=L=3

Kênh truyền không sử dụng được.

Mô hình: là kênh truyền mà khi truyền giá trị nào thì mất giá trị đó hoặc xác suất nhiễu thông tin trên kênh truyền lớn hơn xác suất nhận được.

Đặc trưng: H(X/Y)=H(Y/X)= max

Dung lượng: C=0 (Sinh viên tự chứng minh, xem như bài tập)

Ví dụ: kênh truyền có ma trận truyền tin như sau:

Kênh truyền đối xứng

Mô hình: là kênh truyền mà ma trận truyền tin có đặc điểm sau:

+ Mỗi dòng của ma trận A là một hoán vị của phân phối P={p’₁, p’₂, …, p’_L}

+ Mỗi cột của ma trận A là một hoán vị của Q={q’₁, q’₂, …, q’_M}

Ví dụ: cho kênh truyền đối xứng có ma trận truyền tin như sau:

Xây dựng công thức tính dung lượng kênh truyền đối xứng

Do H(Y/X) không phụ thuộc vào phân phối của X => Max của I(X/Y) được quy về mã của H(Y). Hay

Ta có thể tính dễ dàng:

Do đó:

Do H(Y)<= logL => ta cần chứng tỏ “=” xảy ra khi p₁=p₂=...=p_L=1/L

Xét trường hợp P(X=x_i)=1/M, với mọi i => chứng minh P(Y=y_j)=1/L với mọi j

Thật vậy :

Từ A ta nhận thấy:

= tổng các phần tử của A.Do

=>

=> H(Y) đạt max là logL khi P(Y=y_j)=1/L hoặc P(X=x_i)=1/M

Vậy: C= log L – H(p’1, p’2, …, p’L ) hay

Chú ý: trường hợp kênh 1 bit với nhiễu β

Ma trận truyền tin

Dung lượng

Định lý về dung lượng kênh truyền

Giả sử ma trạn A có dạng vuông và có ma trận nghịch đảo là A^-1

Ký hiệu A=||p_ij|| với i=1,2,...,M và j =1,2,...,M

A-¹=||q_ij|| với i=1,2,...,M và j =1,2,...,M

Đặt tham số

Nếu d_k>0 thì dung lượng kênh truyền có dạng:

Giá trị cực đại đạt khi tín hiệu vào X=X* thỏa phân phối P(X*=x_k)=2^-Cd_k

Hay C=max I(X/Y)=I(X*/Y)

Chú ý:

- Điều kiện d_k>0 cho phép hàm I(X/Y) là hàm lồi => Tồn tại Max tuyệt đối tại phân phối của X* với p(X*=x_k)=2^-C d_k =p_k ­(với mọi k).

- Nếu điều kiện ma trận vuông hoặc ma trận ngịch đảo không thỏa thì giá trị cực đại max sẽ nằm trên đường biên của miền xác định {p_k>0 và -Σp_k=1}

Bài tập

Cho một kênh truyền có ma trận truyền tin như sau:

Tính dung lượng kênh truyền.

Chứng minh các công thức tính dung lượng kênh truyền trên.