Teoriechevron_rightCantitatea de informație

Teorie: Cantitatea de informație

Sinteză despre sistemul de transmisie a informației, formulele lui Hartley, codificare și discretizare.

Nivel: Ușorschedule 30 min

router1. Sistemul general de transmisie a informației

Informația circulă de la o sursă către un destinatar prin intermediul unui mediu fizic numit canal de transmisie.

Sursa este descrisă printr-o variabilă care ia valori dintr-o mulțime finită de mesaje posibile.
Mesajele sunt transmise prin canalul de comunicație, unde pot apărea perturbații (zgomote) ce pot altera conținutul acestora.
Valoarea mesajului devine cunoscută destinatarului doar după recepționarea acestuia.

Cantitatea de informație conținută într-un mesaj emis de o sursă se calculează în funcție de numărul de mesaje posibile.

$I = \log_a n$

$V = N \cdot I$

Procesul de transformare a mesajelor în cuvinte (șiruri de semne) se numește codificare, iar operația inversă este decodificarea.

Alfabetul binar: Este format din două semne, reprezentate de obicei prin cifrele $0, 1$ .
Cuvântul binar: Reprezintă un șir finit de $m$ semne binare, unde $m$ este lungimea cuvântului.
Condiția de decodificare univocă: Pentru ca fiecare mesaj să aibă un cod distinct, lungimea codului trebuie să satisfacă inegalitatea:

$2^m \ge n \implies m \ge \log_2 n$

Pentru a evalua informația din mesaje continue (imagini, sunet), acestea trebuie discretizate în spațiu, timp sau valoare.

Imaginea monocromă și color Imaginea este descompusă în pixeli (microzone) cu ajutorul unui rastru de dimensiuni $m_x \times m_y$ .

$I = m_x \cdot m_y \cdot \log_2 n$

$\text{unde } n \text{ este numărul de niveluri de luminanță (cuante).}$

$I = 3 \cdot m_x \cdot m_y \cdot \log_2 n$

Imaginile în mișcare se discretizează în timp prin cadre pe secundă (frecvența $f$ ).

$V = T \cdot f \cdot I$

$\text{unde } I \text{ este informația dintr-un singur cadru.}$

Pe lângă bit, se utilizează octetul (byte), definit ca fiind format din 8 biți.

$1 \text{ Byte} = 8 \text{ bits}$

$1 \text{ KB} = 1024 \text{ Bytes} = 2^{10} \text{ Bytes}$

$1 \text{ MB} = 1024 \text{ KB} = 2^{20} \text{ Bytes}$

$1 \text{ GB} = 1024 \text{ MB} = 2^{30} \text{ Bytes}$

syncSe încarcă statusul...