O I n f o r m a c i j i 2.0 : informacija u teoriji

Studeni 18, 2014

Entropija u termodinamici i informacija

Filed under: J. GLEICK,STARI POSTOVI — by Boris Bo @ 12:58 pm
Tags: , , ,

JAMES GLEICK: Information: A History, a Theory, a Flood (2011) / Entropy and Its Demons

Na koji način shvatiti entropiju, jedan od najneshvatljivijih pojmova moderne znanosti? Ako je pojam informacije u posljednjih šezdesetak godina predstavljao zagonetku per se koja je zadavala te i danas zadaje glavobolje znanstvenicima diljem svijeta, što tek kazati za entropiju koja ‘znanstvene glavobolje’ uzrokuje preko sto pedest godina? Povrh svega, i dalje se zagonetnim čini povlačenje crte jednakosti između pojmova entropije i količine informacija odnosno ‘neizvjesnosti’ koje je u svojoj poznatoj teoriji učinio Claude E. Shannon.

Međutim, ako fizičare pitate za entropiju, odgovorit će vam kako je s njom sve u najboljem redu. Uredno je definirana u sklopu termodinamike i statističke mehanike i njima, dakako, nikako nije jasno što nekome tu još nije jasno?! Za Shannonov i Von Neumannov ispad, koji su čuli od Myron Tribus, ne žele trošiti riječi, premda će termodinamičar Müller 2007. kazati kako ih smatra intelektualnim snobovima, ako je doista točno ono što je Myron Tribus o njima napisala u svom radu Information theory and thermodynamics iz 1964. U tom radu, Myron Tribus piše da su Von Neumann i Shannon za entropiju kazali kako predstavlja pojam koji nitko ne razumije i da je to dobar razlog da ga se poveže s informacijom, jer će se, prema Von Neumannovim riječima, “uvijek zadržati prednost u raspravama“. 🙂

Kao što je rečeno, prije informacijske teorije, u fizici se pojam entropije rabio u dva konteksta poprimajući dva više ili manje svodiva značenja. Jedan je predstavljala termodinamika: entropija se odnosila na energiju koja se nije mogla iskoristiti za (obavljanje) rad(a); J. Gleick u svojoj knjizi pritom naglašava – energija je bila prisutna, ali beskorisna! Na ovom stupnju razumijevanja entropija se, međutim, još ne čini toliko nerazumljivim pojmom.

R. Clausius, koji je pojam entropije uveo u fiziku, prvotno je želio samo mjeriti tu beskorisnu, u okolni prostor, raspršenu energiju. Iznenađenje i čuđenje je nastalo onog trenutka kad se shvatilo da se tu rapršenu energiju, osim za rad, nije više moguće koristiti u energetskim pretvorbama koje predviđa i tumači Prvi zakon termodinamike. Energija entropije ostaje u trajno beskorisnom obliku. R. Clausius  uveo je veličinu prirasta entropije (ΔS) i kazao kako se ona može izraziti kao omjer topline oslobođene u procesu koji obavlja rad i temperature razvijene u tom istom procesu, a zatim dodao rečenicu koju će mnogi kasnije smatrati jednom od najboljih formulacija Drugog zakona termodinamike: entropija svijeta/svemira neprestano raste.

Drugi zakon termodinamike, u svom uobičajenom obliku, zapravo glasi da toplina spontano prelazi s toplijega na hladnije tijelo, ističući pritom kako za taj proces nije potrebno utrošiti nikakav rad.  Ustupak prirode koji se manifestira ovim ničim izazvanim procesom, međutim, mi plaćamo u entropiji. Entropija je cijena koju moramo platiti kako bismo uživali u blagodatima Drugog zakona termodinamike.

U to vrijeme, a radi se već o drugoj polovici 19. stoljeća, fizičari nisu bili zadovoljni sa statusom, ne samo entropije, nego i same topline. Što je bila ta toplina? Fluid, elektromagnetsko zračenje? Nijedno od tog dvoga: toplina je bila posljedica kretanja molekula. Ništa nadnaravno, ništa što bi zahtjevalo uvođenje novog igrača u igru, nekakav svjetlosni eter, flogiston i sl. Ali to je značilo i da su se fizičari morali odvažiti na novi iskorak, put koji će ih odvesti u samo srce materije i energije, tragovima grčkog filozofa Demokrita, do samih molekula, a koji, čini se, do dan danas nisu napustili… [nastavit će se]

Listopad 10, 2014

Kako informacijom ‘uloviti’ stvarnost?

UMBERTO ECO: Kultura, informacija, komunikacija

U svojoj knjizi Kultura, informacija, komunikacija, prvi put objavljenoj davne 1968. poznati pisac i znanstvenik – a u prvom redu semiotičar – Umberto Eco na svoj je vlastiti (reprezentativan) način pokušao objasniti što smatra pod pojmom informacije. Zamislio je sljedeću ‘komunikacijsku situaciju’: ljudima koji stanuju u dolini ispod umjetnog jezera potrebna je pravodobna informacija kad razina njegove vode dosegne kritičnu granicu/točku (prije izlijevanja). U praktičnom smislu, za evidenciju kritične razine vode u jezeru u prvom redu potreban im je odgovarajući senzor; Eco je zamislio plovak. Kad voda dosegne kritičnu razinu, senzor u obliku plovka aktivira prijenosni uređaj koji ljudima u dolini pošalje električni signal. Ulogu prijemnika električnog signala preuzela je žarulja koju su ljudi postavili tako da svijetli kad je razina vode u jezeru kritična, a ne svijetli kad se nalazi ispod te razine. Na ovaj način, oni se informiraju je li razina vode u jezeru dosegla kritičnu točku ili ne. Isti signal koji bi palio žarulju mogao bi pokrenuti i neki drugi uređaj koji bi doveo do automatskog izbacivanja vode iz jezera itd. Međutim, što činiti u slučaju nestanka struje? Tada će žarulja neko vrijeme svijetliti a onda se ugasiti. Je li to znak da se voda u jezeru spustila ispod kritične razine? Ne; ‘nestanak struje’, u ovom slučaju, tipični je predstavnik onog fenomena u komunikacijskom modelu koji Claude Shannon označio šumom. Da bi utjecaj šuma smanjili na najmanju moguću mjeru, Eco predlaže da ‘udvostručimo cijenu komunikacije’, odnosno da učinimo složenijim naš kôd kojim šaljemo informaciju o tome je li (ili nije) voda u jezeru dosegnula kritičnu razinu. Umjesto jedne, za naš prijemnik signala uzet ćemo dvije žarulje, A i B. Kada je upaljena samo žarulja A to znači da je sve u redu, voda još nije dosegla kritičnu razinu; kada se ugasi žarulja A i upali žarulja B to znači da je voda dosegla kritičnu razinu.

Prekid struje ugasio bi obe [žarulje] a kôd koji smo usvojili ne predviđa mogućnost ‘dvije ugašene [žarulje]’. Na taj način mogli bismo da razlikujemo signal od onoga što nije signal.

Ako želimo povećati sigurnost informacijskog kanala, osim uporabe sve složenijeg kôda, moramo povećati i njegovu redundanciju. Možemo upotrijebiti četiri simbola umjesto dva (nema više smisla pričati o žaruljama); recimo, A, B, C i D koji, dakako, pružaju bogatiji repertoar mogućnosti u kreiranju kôda poruke. Neke kombinacije ovih simbola možemo iskoristiti, neke ne (A, B, CD, ABC itd.); neke kombinacije, kako kaže Eco:

…mogu ostati kao rezerva, kao mogućnosti bez značenja [ja naglasio] (koje se javljaju u slučaju šuma), spremne da ukažu na neke druge fenomene…

koje očigledno još ne prepoznajemo kao fenomene i važne da se priopće. (Sve to informacijsku teoriju uzdiže u poziciju jedne opće teorije čije područje važenja doseže čak i područje našeg shvaćanja prirode i svijeta u cjelini.)

Ovaj, relativno jednostavan, primjer šalje nam važnu poruku. Ljudi su ti koji od prirode zahtijevaju da im isporuči informaciju; i to ne bilo koju, nego samo onu iz točno određenog skupa mogućnosti koji su oni prethodno sami odredili. Tako je značenje informacije (koja se prenosi) paradoksalno sadržano i u podatku koji se ‘uzima’ iz prirode, ali i u znanju ljudi koji taj podatak (putem informacije) zaprimaju, dok je irelevantno – kako bi kazao Shannon – odnosno gubi se u njezinu prijenosu. Uređaji koji odašilju i primaju poruku ne moraju znati značenje ‘odaslane’ i ‘primljene’ informacije. U ovoj činjenici, koja je na vidjelo izišla sa Shannonovom teorijom, čini mi se, leži i nešto duboko o naravi ljudske spoznaje.

Ecov primjer s umjetnim jezerom možemo sada zamijeniti primjerom postavljanja zamki. Na koji način možemo pratiti hod neke životinje u šumi? Odgovor je: postavljanjem senzora na odgovarajuća mjesta oko i u šumi. Možemo postaviti senzor koji će nam dojavljivati je li životinja ušla u šumu ili je iz nje izišla. Isto tako, vrlo lako možemo zamisliti da nam pored signala koji nam dojavljuju trenutni položaj životinje u šumi (primjerice, signal da je njezina noga/šapa nagazila na jedan od senzora), kamera pričvršćena uz senzor ujedno šalje i sliku životinje u obliku dodatnih signala. Drugim riječima, ništa nas ne ometa da naš općeniti način percepcije stvarnosti predstavimo ovom slikom. Na neki način, podaci koje primamo od ‘vanjskog svijeta’ mogu se predstaviti kao zamke u koje hvatamo stvarnost koja nas okružuje. Mi smo ‘lovci stvarnosti’. Ona nam nikada ne dolazi sama, potrebno ju je na to prisiliti. Svi naši uređaji, osmišljeni eksperimenti, naše prostorvrijeme, imaju jedan jedini cilj: ‘ULOVITI’ STVARNOST! Ono što Shannonovu teoriju čini revolucionarnom jest upravo otkrivanje ove jednostavne činjenice. Bilo da je svijet stvaran ili je samo uobrazilja našega uma, konceptualizacija očitanja podataka iz prirode putem senzora za generiranje (dis)kontinuiranih signala vrlo dobro obavlja svoj posao.

Nikada, ali baš nikada, ne percipiramo stvarnost neposredno. Možda ne bismo tako mislili prije stotinjak godina, prije artikuliranja jedne od najzagonetnijih znanstvenih teorija ikada – kvantne teorije. Međutim, danas, kad znamo da se prema stvarnosti ne možemo odnositi jednako na makro- i mikro- skali, shvaćamo da nas samo naša stvaralačka moć konceptualizacije može dovesti do njezina poimanja koja se slažu s opažanjima. Ono što smo sada otkrili odnosi se na činjenicu da nas informacijska teorija može voditi po tom istom putu.

Ožujak 1, 2013

Novi medij za novu prirodu ljudskog mišljenja

JAMES GLEICK: The Information: A History, a Theory, a Flood (2011)

Every new medium transforms the nature of human thought. In the long run, history is the story of information becoming aware of itself.

theinformationKnjiga Jamesa Gleicka odjevena je u drugačije, znanstveno-popularno ruho, ali po informativnosti ne zaostaje za knjigom Marca Burgina. Riječ je o autoru koji iza sebe već posjeduje jednu mega znanstveno-popularnu uspješnicu – knjigu o kaosu odnosno teoriji kaosa. Ali i ovoga puta odlučio je priču o jednom intrigantnom fenomenu današnjice (informaciji) ispričati opušteno, daleko od svake strogosti kojoj uobičajeno robuju teorije o istom. Primjerice, spominjući Clauda Elwooda Shannona, tvorca ‘informacijske teorije’, ne bi propustio ukazati i na njegovu sklonost slušanju jazz glazbe, ili stidljivom flertovanju s mladom znanstvenicom iz Istraživačke skupine za mikrovalove Bell laboratorija (u čijem je časopisu na kraju i objavio svoj epohalni rad*). Ali, što ćete, takvo vam je ‘ruho’ znanstveno-popularnog pisanja!

Upravo, u prologu knjige Gleick puno prostora posvećuje ovom inženjeru telekomunikacija za kojeg piše da je za vrijeme rata radio na kriptografiji X Sistema (X System), odnosno održavanju „vruće“ telefonske linije između Churchilla i Roosvelta. ‘Otac’ ‘informacijske teorije’ ‘seciran’ je ne samo na psihološkom planu. Navodi se da je zajedno s Vanevarom Bushom radio na njegovom stroju Diferencijalnom analizatoru. Osim toga, Shannonova doktorska disertacija bavi se primjenom Booleove logike na elektroničke krugove što nije tako daleko od područja kojem će se Shannon uskoro potpuno posvetiti. 1943., piše Gleick, događa se povijesni susret Shannona i Alana Turinga. U neku ruku, saznajemo kako su se svi ti momci, ‘upetljani’ oko informacije tijekom, danas, dalekih 1940-ih, međusobno poznavali. U to doba, Shannon održava odnos i sa Norbertom Wienerom koji će uskoro predložiti naziv kibernetika za znanost o upravljanju i komunikaciji. Naposljetku, pojam informacije, rezimira Gleick u prologu, uvedena je u znanost kao što je to Isaac Newton učinio s pojmovima gibanja, sile i mase. Osim toga, Shannonova teorija izgradila je most između informacije i neodređenosti, informacije i entropije te informacije i kaosa.

Sam početak prologa Gleick započinje osvrtom na dva ključna događaja koja su se dogodila 1948. Jedan je bio izum tranzistora od strane, naravno, opet Bell laboratorija, koji će veličinu tadašnjih računala (koji su znali zauzimati čitave sobe) dramatično smanjiti na razumnu mjeru (a kojom se otprilike susrećemo i danas). Međutim, za isti izum Gleick će ustvrditi:

…[to je] bio samo drugi po redu važan znanstveni događaj te godine. Tranzistor je samo hardver.

Drugi se događaj, naravno, odnosio na objavu Shannonovog epohalnog rada.*

U uvodu svoje knjige, Gleick nastoji ići dalje od prikaza načina na koji su na informaciju gledali pioniri njezina proučavanja. Na jednom mjestu citira Wernera Loewensteina za kojeg fenomen informacije „podrazumijeva kozmički princip organizacije i reda te osiguranje načina njihovog mjerenja“. „Što leži u srcu svakog života … jest informacija, riječi, instrukcije…“ kaže pak ‘memolog’ Richard Dawkins.

Geni imaju svoju kulturnu analogiju – meme. Meme su replikatori i propagatori… ideja… i konspiracijskih teorija.

Ali ako se u igru mogu uvesti ‘meme’, mogu i neke druge ‘čestice’ nevažno kojeg oblika, recimo, infomi. Na ovaj način, primjerice, može razmišljati jedan, u znanstvenom smislu, ratoborni znanstvenik koji je odista spreman kročiti u neistraženo. A za njega, onda, teorija postaje bezgranično područje mogućega…

Za kraj prvog osvrta na Gleickovu knjigu, posebno se zanimljivom čini izjava fizičara Johna Archibalda Wheelera koji za informaciju tvrdi da „daje poticaj rastu svakom dijelu, svakom polju sile, čak i kontinumu prostorvremena.“, nakon koje zagonetno zaključuje: „Mi ćemo naučiti razumjeti i izraziti cijelu fiziku na jeziku informacije.“ Drugim riječima, pridodaje Gleick za sam kraj uvoda, „izum svakog novog medija transformira i prirodu ljudskog mišljenja“.

* U časopisu The Bell System Technical Journal objavljen je članak Claude Shannona „Matematička teorija komunikacije“ (A Mathematical Theory of Communication)

Napravi besplatnu web stranicu ili blog na WordPress.com.

%d bloggers like this: