định lý cơ sở của kĩ thuật truyền tin

Định lý cơ sở của kỹ thuật truyền tin

Trong” New Basic of Information Theory (1954)” Feinstein đã đưa ra định lý sau:”rên một kênh truyền có nhiễu, người ta luôn có thể thực hiện một phương pháp truyền sao cho đạt được sai số nhỏ hơn sai số cho phép (nhỏ bất kỳ) cho trước đối với kênh truyền.”

Chúng ta sẽ không chứng minh định lý, thay vào đó, chúng ta sẽ tham khảo đến các minh họa giảm nhiễu trong các nội dung tiếp theo của bài học.

Mô tả trạng thái truyền tin có nhiễu

Giả sử, một thông báo được truyền đi trên một kênh truyền nhị phân rời rạc. Thông báo cần truyền được mã hóa thành dãy số nhị phân (0,1) và có độ dài được tính theo đơn vị bit. Giả sử 1 bit truyền trên kênh nhiễu với xác suất 1/4 (hay tính trung bình cứ truyền 4 bit thì có thể nhiễu 1 bit).

Ta có sơ đồ trạng thái truyền tin sau:

Minh họa kỹ thuật giảm nhiễu

Trong kỹ thuật truyền tin, người ta có thể làm giảm sai lầm khi nhận tin bằng cách truyền lặp lại 1 bit với số lẻ lần.

Ví dụ: truyền lặp lại 3 cho 1 bit cần truyền (xác suất nhiễu 1 bit bằng 1/4). Khi nhận 3 bit liền nhau ở cuối kếnh được xem như là 1 bit. Giá trị của bit này được hiểu là 0 (hay 1) nếu bit 0 (bit 1) có số lần xuất hiện nhiều hơn trong dãy 3 bit nhận được liền nhau (hay giải mã theo nguyên tắc đa số). Ta cần chứng minh với phương pháp truyền này thì xác suất truyền sai thật sự < 1/4 (xác suất nhiễu cho trước của kênh truyền).

Sơ đồ truyền tin:

Thật vậy:

Giả sử X_i xác định giá trị đúng hay sai của bit thứ i nhận được ở cuối kênh truyền với X_i =1 nếu bit thứ i nhận được là sai và X_i =0 nếu bit thứ i nhận được là đúng. Theo giả thiết ban đầu của kênh truyền thì phân phối xác suất của X_i có dạng Bernoulli b(1/4):

Gọi Y ={X₁ + X₂ + X₃ } là tổng số bit nhận sai sau 3 lần truyền lặp cho 1 bit. Trong trường hợp này Y tuân theo phân phối Nhị thức B(p,n), với p=1/4 (xác suất truyền sai một bit) và q =3/4 (xác suất truyền đúng 1 bit):

Y ~ B(i,n) hay {}

Trong đó:

Vậy truyền sai khi Y thuộc {2, 3} có xác xuất là:

Hay (đpcm).

Chi phí phải trả cho kỹ thuật giảm nhiễu

Theo cách thức lặp lại như trên, ta có thể giảm sai lầm bao nhiêu cũng được (lặp càng nhiều thì sai càng ít), nhưng thời gian truyền cũng tăng lên và chi phí truyền cũng sẽ tăng theo.

Hay ta có thể hiểu như sau:

Lặp càng nhiều lần 1 bit=>thời gian truyền càng nhiều=>chi phí càng tăng.