Entroopia: määratlus, termodünaamika ja infoteooria

Entroopia: selge ülevaade termodünaamikast ja infoteooriast — definitsioon, matemaatika, praktilised näited ning tähendus eri teadusvaldkondades.

Objekti entroopia on töö tegemiseks mittekättesaadava energia hulk. Entroopia on ka süsteemi aatomite võimalike paigutuste arvu mõõt. Selles mõttes on entroopia määramatuse või juhuslikkuse mõõt. Mida suurem on objekti entroopia, seda ebakindlamad oleme selle objekti moodustavate aatomite olekute suhtes, sest on rohkem olekuid, mille vahel otsustada. Füüsikaseaduse kohaselt on vaja tööd, et muuta objekti või süsteemi entroopiat väiksemaks; ilma tööta ei saa entroopia kunagi väiksemaks muutuda — võiks öelda, et kõik läheb aeglaselt korrastamatusse (suurem entroopia).

Sõna entroopia pärineb soojuse ja energia uurimisest aastatel 1850–1900. Entroopia uurimisel tekkisid mõned väga kasulikud matemaatilised ideed tõenäosusarvutuste kohta. Neid ideid kasutatakse nüüd infoteoorias, keemias ja muudes uurimisvaldkondades.

Entroopia on lihtsalt selle kvantitatiivne mõõt, mida kirjeldab termodünaamika teine seadus: energia hajumine, kuni see on ühtlaselt jaotunud. Entroopia tähendus on erinevates valdkondades erinev. See võib tähendada:

• Termodünaamilist entroopiat — mõõdetakse SI-ühikus džaulides kelvini kohta (J·K⁻¹) ja seostub soojuse ja temperatuuri muutustega.
• Statistilist (mikrostaatilist) entroopiat — mõõt makrostaatiga sobivate mikrostaatide arvule; Boltzmanni valem S = k ln W selgitab seda seost.
• Infoteoreetilist entroopiat — mõõdab teadmise või eelteadmise puudumist juhusliku muutujaga; Shannoni entroopia H = −Σ p_i log p_i annab selle nimekirja informatsiooniühikutes (bitid, natsid).

Termodünaamika vaatenurk

Termodünaamilises tähenduses kirjeldab entroopia seda, kui palju energiat süsteemis on sellises vormis, et seda ei saa tööks kasutada antud temperatuuri korral. Termodünaamika teine seadus ütleb, et müstilise erandita suureneb või jääb konstantsena entroopia suletud (isoleeritud) süsteemis. Reversiivse protsessi korral on entroopia konstantne; reaalse, irreversiivse protsessi puhul tekib entroopia juurdekasv (entroopia tootmine).

Entroopia muutus väikeses temperatuurivahemikus ja pöörduva soojusühiku puhul on kirjeldatav valemiga dS = δQ_rev / T, kus δQ_rev on pöörduv soojuse ülekand.

Statistiline selgitus

Statistilises mehaanikas defineeritakse entroopia kui mikrostaatide arvu logaritmi. Boltzmanni valem:

S = k ln W,

kus k on Boltzmanni konstant (k ≈ 1.380649×10⁻²³ J·K⁻¹) ja W on makrostaatile vastavate mikrostaatide arv. See seos tõstab esile, miks süsteemid loomulikult liiguvad olekute juurde, millel on rohkem mikrostaatide kombinatsioone — need olekud on statistiliselt tõenäolisemad.

Infoteooria ja side

Infoteoorias mõõdab entroopia juhuslikkuse või teadmatusinformatsiooni hulka. Shannoni entroopia valem:

H = −Σ p_i log p_i,

kus p_i on tõenäosus, et muutuja võtab i-nda väärtuse. Kui kasutatakse logaritmi baasil 2, mõõdetakse H bitides. Selle matemaatilise kujutise ja Boltzmanni entroopia vahel on selge seos: mõlemad mõõdavad eri tähenduses ja sama põhimõtet — võimalike olekute arvu jaotus — ning nende läbimõeldud sidumine aitas luua info- ja statistilise füüsika teooriaid.

Näited igapäevaelust ja keemias

• Kui kuum kohvitass jaheneb, soojus kandub tassilt õhku — süsteemi entroopia kokkuvõttes suureneb.
• Kaks eri gaasi eraldatud vaheseinaga: vaheseina eemaldamisel gaasid segunevad ja süsteemi entroopia suureneb, segunemise protsess on pöördumatu ilma tööd tegemata.
• Faasiüleminekud: jää sulamine suurendab entroopiat, sest vedelas olekus on molekulidel rohkem mikrostaatilisi võimalusi kui kristallilises jääs.
• Keemilistes reaktsioonides mõjutab entroopia soovi toimuda: vaba entalpia G = H − T·S määrab, kas protsess on antud tingimustel spontaanne — suurem entroopia (S) soodustab spontaanseid protsesse kõrgel temperatuuril.

Mõõtmine, ühikud ja praktilised piirid

Entroopia ühik SI-s on J·K⁻¹. Infoteoreetilises kasutuses võib entroopia olla väljendatud bitides või natsides, sõltuvalt logaritmi alusest. Entroopia ei ole "asi", mida saaks otseselt näha — see on makromõõt, mis tuleneb mikroskoopilistest konfiguratsioonidest ja tõenäosustest.

Rakendused ja tähendus

• Termodünaamiline entroopia seob masinaeffektiivsust ja piirab soojusmasinate (näiteks Carnot) maksimaalset tõhusust: η_max = 1 − T_külm/T_soe.
• Infotehnoloogias seostub entroopia kodeerimise, tihendamise ja kommunikatsiooni piiridega — suurem Shannoni entroopia tähendab, et signaalis on rohkem informatsiooni ja vähem liigset korduvat mustrit.
• Bioloogias ja ökosüsteemides elusolendid säilitavad korra (madala entroopia) lokaalselt, kasutades selleks energiat ja suurendades ümbritseva keskkonna entroopiat.

Mõned levinud segadused

• Entroopia ei ole lihtsalt "seaduslik väsimus" ega ainult kaos — see on statistiline nähtus, mis sõltub konkreetsetest tingimustest ja tõenäosustest.
• Entroopia saab lokaalselt väheneda (näiteks jäätise külmutamine), kuid selleks tuleb teha tööd ja kogu süsteemi (süsteem + keskkond) entroopia kokkuvõte ei vähene ilma lisatööta.
• Makswelli deemon ja infoära kustutamine: nähtavad "enda peale vastuolu" lahenduvad, kui arvestada infotöötluse ja kustutamise entropiakulusid (Landaueri printsiip: ühe biti kustutamise minimaalne energiahäving on ≥ kT ln 2).

Kokkuvõte

Entroopia on keskne mõiste nii termodünaamikas, statistilises füüsikas kui ka infoteoorias. Ühest küljest mõõdab see energiat, mis pole antud tingimustel tööks kättesaadav; teisalt väljendab see võimalike mikrostaatide hulka ja teadmatusi süsteemi täpse oleku suhtes. Entroopia kasv on iseloomulik reaalse maailmale — see määrab piirid masinaefektiivsusele, kujundab keemilisi reaktsioone ja seob füüsikalise maailma informatsiooni eraldiseisvate kontseptsioonidega.

Küsimused ja vastused

K: Mis on objekti entroopia?

K: Milline on entroopia ja määramatuse/juhuslikkuse vaheline seos?

K: Kas objekti või süsteemi entroopiat saab ilma töö tegemata vähendada?

K: Kust pärineb sõna entroopia?

K: Mida entroopia kvantitatiivselt mõõdab?

K: Kuidas erineb entroopia tähendus erinevates valdkondades?

K: Milline on entroopia roll tõenäosusarvutustes?

Otsing