Introducere în capacitatea canalului

De asemenea a devenit clar că era doar o singură cale de a crește capacitatea sistemului de comunicare. Putem să mărim numărul evenimentelor de semnalizare. De exemplu, pentru sistemul de comunicare prin coardă al Alicei și a lui Bob, ei au descoperit curând că variația tipurilor de ciupituri le permitea să trimită mesaje mai repede. De exemplu, ciupituri tari, medii versus ciupituri ușoare sau ciupituri de sunet înalt contra ciupituri de sunet jos prin strângerea diferită a corzii. Aceasta a fost o idee implementată de Thomas Edison, pe care a aplicat-o sistemului de cod Morse. Ea se baza pe ideea de a folosi baterii slabe și baterii puternice pentru producerea de semnale de putere diferită. De asemenea, a folosit 2 sensuri la fel cum au făcut Gauss și Weber alternând curentul direct cu cel de sens invers și două intensități. Așa că a avut plus 3 volți plus un volt, minus un volt și minus 3 volți. 4 valori diferite ale curentului care puteau fi schimbate. I-a permis lui Western Union să economisească bani prin creșterea semnificativă a numărului de mesaje pe care putea să le trimită compania, fără a construi alte linii. Acesta e cunoscut ca telegraful Quadruplex și a continuat să fie folosit până în secolul XX. Dar, pe măsură ce s-a extins numărul de evenimente de semnalizare diferite, am ajuns la altă problemă. De exemplu, de ce să nu trimitem o mie sau un milion de nivele diferite de voltaj pe puls? Așa cum vă puteți aștepta diferențele cu granulație fină creează dificultăți la punctul de recepție. Pentru sistemele electrice, analizarea acestor diferențe este întotdeauna limitată de zgomotul electric. Dacă am atașa o sondă la fiecare linie electrică, și ne-am apropia destul, vom găsi mereu curenți minusculi nedoriți. Acesta e un rezultat inevitabil al proceselor naturale cum ar fi scăderile bruște de temperatură sau furtunile geomagnetice și chiar efectele latente ale Big Bang-ului. Așa că diferențele dintre semnalizări trebuie să fie suficient de bune ca zgomotul să nu izbucnească din senin de la o semnalizare la alta. Acum putem să pășim înapoi și să începem să definim capacitatea unui sistem de comunicare folosind aceste două idei foarte simple. În primul rând, câte transferuri de simbol au loc pe secundă? Pe acestea le numim rată de simbol. Iar astăzi este cunoscută ca "baud", de la Emile Baudot. Și putem să o definim ca "n" unde sunt n transferuri de simbol pe secundă. În al doilea rând, câte diferențe pe simbol? La care putem să ne gândim ca la spațiul simbolului. Câte simboluri putem să selectăm în fiecare punct? Pe acesta îl numim "s". Cum am văzut și mai devreme, ne putem gândi la acești parametri ca la un arbore al deciziilor pentru că fiecărui simbol îi poate fi atribuită o decizie unde numărul de ramuri depinde de numărul de diferențe. Și după n simboluri avem un arbore cu puterea s la n frunze. Și precum fiecare cale prin acest arbore poate reprezenta un mesaj, putem să ne gândim la numărul de frunze ca la mărimea spațiului mesajului. Asta e ușor de văzut. Spațiul mesajului e pur și simplu lățimea bazei unuia dintre acești arbori. Și definește numărul total al posibilelor mesaje pe care le-ar putea trimite având o secvență de n simboluri. De exemplu, să spunem că Alice îi trimite lui Bob un mesaj ce conține două ciupituri. Ei folosesc o ciupitură tare și una ușoară ca sistem de comunicare. Asta înseamnă că ea are abilitatea de a defini unul din cele patru mesaje posibile către Bob. Dacă ar folosi un sistem alcătuit din ciupituri tari, medii și ușoare, atunci cu două ciupituri, ea ar avea posibilitatea să definească unul din 3 la puterea 2, adică 9 mesaje. Cu 3 ciupituri, ajungem la 27 de mesaje. Acum, dacă Alice și Bob schimbau notițe din clasă formate doar din 2 litere scrise pe o bucată de hârtie, atunci o singură notă ar fi conținut 26 la puterea a 2-a sau 676 mesaje posibile. E important să înțelegeți că nu ne mai interesează înțelesul aplicat acestor lanțuri de diferențe, doar câte mesaje diferite sunt posibile. Secvențele rezultate ar putea reprezenta numere, nume, sentimente, muzică, sau chiar și un alfabet al extratereștrilor pe care nu l-am putea înțelege niciodată. Când ne uităm la sistemul de comunicare, putem să ne gândim la capacitatea lui ca la cât de multe lucruri ați putea să spuneți și atunci am putea folosi spațiul mesajelor pentru a spune exact câte diferențe sunt posibile în orice situație. Această idee simplă și elegantă formează bazele definirii informației de mai târziu. Și acesta este pasul final care ne-a adus la teoria modernă a informației. Apare la sfârșitul secolului al XX-lea.