Annonceinfo

Shannons formel udgør fundamentet for digital kommunikation

VERDEN PÅ FORMLER: I 1948 udviklede amerikaneren Claude Shannon en række teorier, som skulle blive afgørende for vores digitale verden i dag med mobiltelefoni, satellittransmitteret tv og internetkommunikation.

Med Shannons formel kan man udregne den optimale datakompression i forhold til en given kommunikationskanal – altså hvordan man skal komprimere en meddelelse for at sikre, at man kan gendanne den i den anden ende.

Claude Shannon publicerede i 1948 artiklen 'A Mathematical Theory of Communication', som gjorde ham fortjent til betegnelsen 'informationsteoriens fader'.

Men allerede i 1937 havde den blot 21-årige studerende på Massachusetts Institute of Technology (MIT) frembragt teorier om bl.a. digitale kredsløb, som fik stor betydning for den senere udvikling af computeren, der på det tidspunkt var i sin absolutte vorden.

Under 2. verdenskrig var han dybt involveret i de allieredes kryptering af hemmelige meddelelser, ikke mindst arbejdet med at bryde fjendens koder.

Men det var teorierne fra 1948, som han frembragte som forsker ved telefonselskabet Bells laboratorier, der skabte Shannon en plads i verdenshistorien.

Information omdannes til 0’er og 1-taller

Shannons artikel giver opskriften på, hvordan man komprimerer et stykke information, der skal sendes fra A til B, så det kommer til at fylde mindst muligt, uden at meningen går tabt.

Det fortæller Christian Thommesen, just pensioneret lektor i matematik ved Aalborg Universitet.

»Konkret foregår det ved at omdanne informationen til en strøm af 0’er og 1-taller. Shannons formel er et afgørende element i den matematiske model for, hvordan man gør netop dét.«

»Med formlen kan man udregne den optimale datakompression i forhold til en given kommunikationskanal – det vil sige, hvordan man skal komprimere en meddelelse for at sikre, at man kan gendanne den i den anden ende.«

Tager højde for usikkerhed i datatransmission

Fakta

’Verden på formler’ er 20 korte artikler om en fysisk, matematisk eller kemisk formel, der har haft afgørende indflydelse på vores opfattelse af verden.

Hvem udviklede formlen? Hvad betyder formlen konkret? Under hvilke omstændigheder blev den til? Hvordan blev den modtaget i samtiden? Og hvad har den betydet for udviklingen af den verden, vi kender i dag?

Dette er 18. artikel i rækken, og denne gang gælder det Claude Shannons formel.

Man kan også sige det på den måde, at formlen beskriver entropien for datakompression, fortsætter Christian Thommesen. Som et afgørende led i sin informationsteori udviklede Shannon begrebet 'informationsentropi' som et mål for usikkerheden i en datatransmission og kombinerede dette med kendt sandsynlighedsteori.

Begrebet 'entropi' havde længe været centralt i termodynamikken, som er den gren af fysikken, der beskæftiger sig med varme. Her beskriver det den uorden, der uvilkårligt vil opstå i et lukket system.

»Når man har komprimeret sin meddelelse til 0’er og 1-taller og skal sende den fra A til B, kan der ske fejl undervejs, fordi kommunikationskanalen ikke fungerer optimalt.«

»Her er det afgørende at tage højde for fejlmuligheden i kommunikationskanalen – informationsentropien – og derudfra foretage en optimal komprimering af data, så man er helt sikker på, at meddelelsen ikke går tabt,« forklarer Christian Thommesen.

Shannon tænkte fuldstændig ud af boksen
Claude Shannon (1916-2001), amerikansk matematiker og ingeniør, fotograferet i telefonselskabet Bell i 1954. (Foto: Wikimedia Commons)

Shannons teorier vakte stor opsigt i samtiden. Indtil da havde man løst problemer med støj på en kommunikationskanal ved simpelthen at vente på, at kanalen af sig selv blev bedre.

Nu påviste Shannon, at man ved hjælp af kodning kan opretholde en høj kommunikationshastighed, selvom kanalen er dårlig.

Ifølge Christian Thommesen er det først i nyere tid, at man har kunnet konstruere kommunikationssystemer, som til fulde lever op til de optimale mål, Shannon definerede i sin artikel fra 1948. Men i dag får verden til gengæld det fulde udbytte af hans forskning.

»Hele den digitale verden med mobiltelefoni, satellittransmitteret tv, internetkommunikation mv. ville ikke være så velfungerende, som den faktisk er, hvis vi ikke havde haft Shannons kodningssystem, som tager højde for fejl i transmissionerne,« fastslår Christian Thommesen.

Artiklen er oprindelig bragt i Magisterbladet.

Shannon og støj

Hans bidrag kan næppe stå alene uden også at nævne støj og Nyquist.
Jeg mener det først var efter krigen, at man fik hold på det man kalder hvid støj i elektriske systemer.
Nemlig det forhold, at der er en helt fysisk temperaturbestemt mindste mængde støj som altid findes og ikke kan undgås på nogen måde.
Effekten af støjen er givet som kTB, hvor k er Botzmanns konstant, T er absolut temperatur og B er båndbredde i Hz.
Der er lige nogle kvante-effekter der begrænser effekten ifald man ville hive effekt ud af luften ved at øge båndbredden.
Denne støj har ved stuetemperatur effekten -174dBm i 1Hz, eller -114dBm i 1MHz, og det er altså målbart.
Som danskere kan vi være stolte af en Harald T. Friis, som dels fandt kaskadeformlen for støj fra forstærkere i en kæde, og dels antenneformlen for effekt overførsel mellem to antenner.

Shannon angiver den højest mulige kapacitet - ikke hvordan!

Shannons formel angive den højeste fejlfri kapacitet, som noget kommunikationssystem kan opnå i en kanal med tilfældig støj. Formlen gælder i øvrigt ikke kun for binære kanaler (0 og 1).
Man kan sige at Shannons grænse ligner lysets hastighed. Men medens lysets hastighed som en øvre grænse for hastighed, er en fysisk teori, der indtil nu har modstået alle alle forsøg på et modeksempel, så bygger Shannons grænse på ren matematisk sandsynlighedsregning - og kan som sådan bevises.

Om og hvordan man evt. kan opnå den fulde beregnede kapacitet, fortæller Shannon ikke.

Det er vel også forkert at tale om kompression, al den stund Shannon egentligt angiver, hvor meget redundans der mindst skal medsendes, for at budskabet kan forstås fejlfrit af modtageren.

Endeligt er det vigtigt at gøre sig klart, at den beregnede kapacitet helt forudsætter, at støjen kan opfattes som en sum af uendeligt mange uendelige små støjbidrag.

I langt de fleste tilfælde er de kommunikationskanaler, man arbejder med, udsat for støj, der har langt ringere statistiske egenskaber - korte udfald, støjpulser, signal-ekko og meget andet væmmeligt - som kan nedsætte den praktisk opnåelige kapacitet afgørende meget.

Rigtig megen forskning omkring 'mærkelig' støj er i de senest 10-15 år udført i høj grad pga. væksten af mobiltelefoner ol

Lars :)

Kommunikation

Og ikke nok med det, Shannon's formel ligger også til grund for en af de mest kendte kommunikationsmodeller, nemlig Shannon-Weaver modellen eller "kanyleteorien".

Not just a pretty face

Hedy Lamarr bør også huskes når vi snakker mobiltelefoner og digital kommunikation

Yups den Hedy Lamarr hende filmgodten

Hedy Lamarr: Not just a pretty face

http://img136.imageshack.us/img136/7092/callinghedylamarr51kc6.jpg

http://www.scientificamerican.com/article.cfm?id=hedy-lamarr-not-just-a-pr

For feinsmeckerne: Blazing Saddles ;)

Seneste fra Verden på formler

Grønlandske stemmer

Aviaja

»Det er vigtigt, at lokalbefolkningen uddanner sig, for bedre at være en del af udviklingen og bedre kunne tjene penge på viden i stedet for at tjene penge på tønder af olie«

Aviaja Lyberth Hauptmann, ph.d.-studerende på DTU.

Tema om fremtiden for grønlandsk forskning

Spørg Videnskaben

Abonner på vores nyhedsbrev

Når du tilmelder dig, deltager du i konkurrencen om lækre præmier.

Seneste blogindlæg