Termodinamik, Entropi ve İletişim Teorisi

Bu yazıda deyim yerindeyse, mühendislik eğitimi alan çok kişinin başını ağrıtmış olan bir kavramla, daha doğrusu bir fiziksel büyüklükle uğraşacağız. Fizik kitaplarında enerji ile ilgili çok ayrıntılı anlatımlar bulunmasına karşın Entropi kavramından şöyle üstünkörü söz edilir ve geçilir. Öğrenciler bu konuyu tam kavramadan sömestre biter, entropi de unutulur gider. Oysa doğal, teknik ve sosyal süreçlerin anlaşılmasında entropi kavramının önemi çok büyüktür. Gerçi okullarımızda, enerji veya termodinamik konuları işlenirken entropi bir yana “ısı” ve “sıcaklık” kavramlarının hangi fiziksel büyüklükleri anlattığı ve hangi durumlarda kullanılacağı bile doğru dürüst öğretilmez. Ya da öğretilir fakat, eğitim sisteminin ezberci yapısından dolayı, öğrenciler bunları öğrenmiş gibi yaparak sınıfı geçerler ve sonunda TV haber sunucuları “Bugün İstanbul’da 30 derecelik bir ısı vardı” gibisinden hava raporları sunarlar. Yüksek eğitimden geçmiş insanların tümüne yakınının bu kavramları hep ters kullanmaları, bana inşaat ustalarının banyo veya balkonlara konulan pis su giderlerinin inadına zeminin hep en yüksek yerine denk getirmelerini hatırlatıyor. Doğrusunu söylemek gerekirse ülkenin bilimsel ve teknolojik gelişimi için kurulan ve halkın vergisinden harcamalarını karşılayan TÜBİTAK’ın yazarları bile ısı ve sıcaklık kavramlarını kitaplarında [1] doğru kullanamadıklarına göre TV sunucularından ve inşaat ustalarından, işlerini yaparken, müşterilerine daha saygılı olmalarını beklemek haksızlık olur.

Tersinmez (irreversible) süreçler nedir? Isı enerjisini %100 verimle mekanik enerjiye dönüştürmek neden mümkün değildir? Yumurta yere düştüğünde kırılır ve dağılır. Bu süreç neden geri çevrilemez? Kırık yumurtayı parçalanmamış haline döndürmek neden olanaklı değildir? Masa üzerindeki kitap neden kendiliğinden havalanıp tavana yapışmaz? Mobile perpetuum (devir daim makinesi) yapmayı birçok bilim adamı denediği halde neden hiçbiri başarılı olamamıştır? Düzensizliğin ve karmaşanın olasılığı hep neden daha yüksektir? Entropinin bilgi iletim teorisi (enformasyon teorisi) ile ne ilişkisi vardır? Şirket genel müdürünün talimatları ve buyrukları en alt kademeye neden, olduğundan daha tutarsız ulaşır?

Entropinin tanımlanmasında termodinamik, istatistiksel fizik teorisi ve bilgi (enformasyon) teorisi olmak üzere en az üç yol vardır [2]. Şimdi bunları göreceğiz.

Termodinamik Yasalar ve Entropi

Termodinamiğin, sıfırıncı, birinci, ikinci ve üçüncü olmak üzere dört temel yasası vardır. Biz burada sadece birinci ve özellikle de ikinci yasa ile ilgileneceğiz.

Termodinamiğin I. ve II. Yasaları sadece kapalı sistemlerde geçerlidir. Kapalı sistemler dış çevre ile enerji, bilgi ve malzeme alış verişinde bulunmazlar. Evren de bir kapalı sistemdir.

I. yasa evrendeki toplam enerjinin sabit olduğunu ve enerjinin yok edilemeyeceğini söyler. Diğer bir tanımlama ile enerjinin korunumu yasası olarak da bilinir. Bu yasaya göre enerji değişik formlarda bulunabilir. Isı da bir enerji formudur. Radyasyon enerjisi, kimyasal enerji, mekanik enerji, elektrik enerjisi vb. diğer enerji formlarına örnek olarak sayılabilir.

Sayılan enerji çeşitleri yine I. yasaya göre birbirlerine dönüştürülebilir. Hiçbir kaynak kullanmadan enerji üretecek bir makine yoktur. (I. çeşit Perpetuum mobile). Yemi verilmeden araba çekecek sütçü beygiri ırkını yetiştirmek de bugüne kadar mümkün olmamıştır.

Birçok enerji formu kayıpsız olarak ısı enerjisine dönüşürken, ısı enerjisinin dışardan destek olmaksızın, örneğin mekanik enerjiye kayıpsız olarak dönüşümü mümkün değildir. Kayıpsız olarak enerji dönüşümü tersinir (reversible) süreç olarak adlandırılır. 19 yüzyılda Lord Kelvin, Carnot ve Clausius gibi bilim adamları termal enerjiyle (ısı enerjisiyle) çalışan makinelerde enerji alış verişinin matematiksel esaslarını ortaya koymak için yaptıkları çalışmalarda enerjinin değişik formları arasında bir hiyerarşi olduğunu ve enerji dönüşümleri arasında bazı dengesizlikler bulunduğunu ortaya koydular. İşte bu hiyerarşi ve dengesizlikler termodinamiğin II. Yasasının temelini oluşturmuştur.

II. yasaya göre tüm doğal ve teknik enerji dönüşüm süreçleri tersinmezdir ve bu süreçlerin yönü hep olasılığı yüksek olan duruma doğrudur. Enerji farklarının azaldığı ve ortadan kalktığı durum olası durumdur. Isı enerjisi hiçbir zaman tümüyle bir diğer enerji formuna, örneğin mekanik enerjiye, dönüşmez. Ancak bu saptamadan, dönüşüm süreci esnasında, enerjinin bir kısmının yok edildiği anlamı çıkarılmamalıdır. Çünkü I. yasaya göre enerji yok edilemez. Bunun anlamı; ısı enerjisinin bir kısmının iş üretme yeteneğinden yoksun kalmasıdır.

I. yasaya göre yerdeki taş masanın üstüne sıçrayabilir. Bu iş (W= m.g.h) için gerekli olan enerji taşın bünyesindeki iç enerjiden (U) sağlanır ve taş soğur. Böyle bir olayı pratikte gözlemlememiz mümkün değildir.

Oysa bu sürecin tersi yani taşın masadan aşağı düşmesi mümkündür. Taş masadan düşerken kazandığı kinetik enerji, onun yere çarptıktan sonra tekrar masanın boyu kadar yükseltebilir. Ancak düşen taş, düştükten sonra belki bir iki küçük sıçrama yapar ve hareketsiz kalır. Çünkü düşerken kazanılan enerjinin büyük kısmı ısıya dönüşür ve bu ısı dahili (iç) enerji olarak absorbe edilir. Yani taşın absorbe ettiği ısı tekrar kinetik enerjiye ve işe dönüşmez. Taşın sıcaklığı yükselir ve bu sıcaklık çevreye ısı olarak yayılır. Sonunda taşla çevresi arasında bir ısıl denge kurulur.

Tüm doğal süreçlerde bir enerji dönüşümü söz konusudur. Doğal süreçlerdeki yön, enerjinin dönüşüm yönü tarafından belirlenir. Potansiyel enerji, kinetik enerji, elektrik enerjisi gibi “daha kaliteli” olan enerji formları dönüşüm esnasında “düşük kaliteli” enerji formuna örneğin ısı enerjisine dönüşür.

Kapalı sistemlerde ısı enerjisi hiçbir zaman tümüyle diğer bir enerji formuna (örneğin mekanik enerjiye) dönüşmez. Isı enerjisi, sıcaklığı yüksek olan cisimlerden düşük olanlara doğru akar. Bu süreç tersinmezdir. Yani dışardan yardım olmadan ısı, düşük sıcaklıktaki cisimden yüksek sıcaklıktaki cisme ısı aktarmak mümkün olmaz. Dünya okyanuslarının bünyesindeki ısı enerjisini çekip bunu mekanik enerjiye dönüştürerek bir gemiyi yürütmek mümkün değildir. Böyle olsaydı sıfır masraflı ve çevre dostu gemiler ve uçaklar imal edilebilirdi. Gemiyi yürütmek bir yana, okyanuslardaki bu muazzam enerjiyi kullanıp bir yumurta pişirmek bile bugüne kadar kimseye nasip olmamıştır. Çünkü ısı enerjisinden yararlanmak için yararlanılan ısı kaynağı ile bu ısının işe dönüştürüleceği sistemin sıcaklıkları arasında bir fark olmalıdır.

İşte, kalitesi düşen enerji için kullanılan ölçüye “entropi” adı verilir. Örneğin içten yanmalı bir motorda ısı enerjisinin mekanik enerjiye dönüşümü esnasında bu ısı enerjisinin bir kısmı iş üretme yeteneği gösterememektedir. İş üretme yeteneğinde olmayan enerjinin evrende geri kazanımı mümkün olmayan biçimde artışı entropi ile ölçülür. Bu kavramı ilk kullanan Clausisus’tur.

DS = DQrev/T Tersinir (reversible) süreçlerde entropi değişimi

Bu ilişki, çevredeki entropi artışının verilen ısı enerjisiyle orantılı olduğunun ifadesidir.

Bu denklem aynı zamanda, iş üreten bir sisteme verilen ısı enerjisinin kayıpsız olarak mekanik enerjiye dönüştüğünü ve sistemin başlangıç durumu ile son durumu arasındaki entropinin değişmediğini yani sabit kaldığını anlatmaktadır. Ancak bugüne kadar bu özellikte bir enerji değişim süreci gözlenmemiştir. Kısacası, ısı enerjisinin diğer enerji formlarına dönüşümü %100 olamaz.

Termodinamik II. Yasaya göre tüm doğal (reel) enerji dönüşüm süreçlerinde entropi sürekli artar. Entropi kavramı sezgisel bir büyüklüktür, kendine özgü bir birimi yoktur ve sıcaklık, basınç, ağırlık vb fiziksel büyüklükler gibi ölçülmesi mümkün değildir. Ancak hesap yoluyla bulunur. Entropi artışı sonunda, sistemde ısıl eşitliğe ulaşılır. Bardak içindeki suya konulan buz parçası bir müddet sonra erir ve bardaktaki suyun sıcaklığı (veya oda sıcaklığı ile) bir dengeye kavuşur.

Kapalı bir sistemde ve tersinmez süreçlerde entropi daima artar. Entropi artışı ancak denge (ısıl denge)durumunda sabit kalır.

DS ³ DQ/T
DS ³ 0

Düzensizlik ve Entropi

Oyun kağıtları, genelde sırasına dizilmiş paket olarak satılır. Bir deste oyun kağıdı bir kez karıştırıldığında ilk düzeni bozulur. Bu destenin, tekrar tekrar karıştırılmak suretiyle ilk düzenine girmesi neredeyse olanaksızdır. Aynı şekilde poker oyununda 2,6 milyon 5’li kart düzeni vardır. Bunların içinde flush sayısı sadece 40 adettir. Buna karşılık “beş benzemez” tabir edilen işe yaramaz el gelme olasılığı ise bir milyonun üstündedir.

Bir avuç kuru fasulyeyi torbasından yere dökersek, ortaya hiçbir zaman bir orta çağ Bizans mozaik süslemesi çıkmaz. Taneler en gelişi güzel biçimde dağılır. En olası olan sonuç budur.

Benzer şekilde ortasından bir perde ile ikiye bölünmüş bir kap içinde bölmelerden birine normal su diğerine mavi boyalı su koyalım ve daha sonra aradaki perdeyi kaldıralım. İki taraftaki su, moleküllerin gelişi güzel hareketleriyle birbirine karışacaktır. Kıyamete kadar beklesek bu kap içindeki su kendiliğinden ve yeniden mavi ve saydam olarak ayrılmaz. Bardak içinde eriyen buz, kendiliğinden eski durumuna dönemez. Banyo küvetinin zıt taraflarından doldurulan sıcak ve soğuk su bir müddet sonra birbirine karışır ve ısıl dengeye ulaşır.

Örnekler çoğaltılabilir. Bu örneklerden, kendisi de kapalı bir sistem olan evrenin düzensizliği ve karmaşayı (kompleksite değil!) tercih ettiğini söyleyebilir miyiz? İşte istatistiksel fizik bu sorunun yanıtını araştırır ve istatistiksel fiziğe göre doğa gelişi güzelliği, ısıl eşitliği ve organizasyonun olmadığı, bileşenlerin birbirine karıştığı bir tekdüzeliği tercih eder. Yani sosyal boyutu dahil evrende herşey “yokuş aşağı” gider.

İstatistiksel fiziğin gelişimi entropiye yeni anlamlar kazandırmıştır. Buna göre entropi artık sadece enerjinin tüketimi esnasında, kalitesinin düşmesinin bir ölçüsü değildir. İstatistiksel fizikte entropi aynı zamanda sistemlerin düzenliliği (organize olmuşluğu) ile ilgili bir ölçü olmuştur. Buna göre doğal süreçler, termodinamik olarak meydana gelme olasılığı daha yüksek olan durum tercih ederler. Sadece ısı değil, aynı zamanda örneğin havayı oluşturan oksijen, karbon dioksit, azot gibi moleküller de mekan içinde ve homojen bir biçimde birbirine karışırlar. Herhangi bir bileşeninin, bir dış etki olmaksızın yani kendiliğinden bu mekanın belli bir bölümünde birikmesi olasılığı son derece zayıftır ya da yok denecek kadar azdır.

Sistem içindeki düzensizliğin (ve kaosun) artışı entropi artışıyla orantılıdır.

Ya da;  S = k lnW

Ludwig Boltzmann?ın mezar taşına kazıldığı söylenen denklem doğal ve teknik süreçlerde geçerli olan termodinamik düzensizlik denklemidir.

S : Entropi
k : Boltzman değişmezi
W : Termodinamik olasılık

Evrenin en temel yasalarından birinin anlamını çözdüğünü bildiğimiz Avusturyalı fizikçi Ludwig Boltzmann, ne yazık ki, farklı söylemi olan her insan gibi, yıllar boyu çağdaşı olan bilim adamlarının acımasız eleştirilerine karşı mücadele etmek zorunda kalmıştır. Uğradığı dışlanmışlık ve alaya almalar sonuçta bu bilim adamını depresyona sokup, intihara sürüklemiştir. Bugün Boltzmann ve Amerikalı fizikçi J. Willard Gibbs, klasik Newton mekaniğinin yüzyıllar süren egemenliğini ortadan kaldıran istatistiksel fiziğin kurucuları arasında gösterilmektedir. “Bu devrimin etkisiyle, fizik artık her zaman olması gereken şeylerin değil, büyük olasılıkla olması gereken şeylerin bilimidir.” [3]

Elimizdeki oyun kağıdı destesini sıkı bir şekilde karıştırdığımızda başlangıçtaki düzen bozulur. Karıştırma işleminden sonra aynı destede 52! (=8 .10 67) veya 8 rakamının yanına 67 adet sıfır koyduğumuzda elde edilecek sayı kadar olası kart kombinasyonu elde ederiz. Yani kart destesinin başlangıçtaki düzenini elde etmek için desteyi yukarda verilen sayı kadar karma işlemine tabi tutmak gerekebilecektir. Bu yüzden karma işlemini başlangıç durumuna (bizim düzenli olarak gördüğümüz duruma) döndürmek imkansızdır. Yani anılan bu süreç tersinmezdir.

Karışım sürecinin bize anlattıklarını şöyle özetleyebiliriz:

  • Düzenliliğin azalması
  • Düzensizliğin artması
  • Enformasyonun yitirilmesi (hangi kartın hangi sırada olduğunu bilmek)
  • Entropinin artması

Farklı gaz moleküllerinin mekan içinde birbirine karışması (difüzyon) ve başlangıçtaki organizasyonlarını yitirmeleri ile kartların karma işlemi sonunda gelişi güzel karışması birbiriyle benzeşir.

Entropinin istatistiksel kavramı için ele alınan örnekler birbirinin aynısıdır. Bir silindir içine sürtünmesiz çalışan bir pistonla hapsedilmiş ideal gaz (hidrojen veya helyum) ele alınır. Başlangıçta gaz molekülleri silindirin sol kısmında V hacmi içinde bulunmaktadır.

Silindirdeki gaza dışardan ısı verildiğinde gaz genleşir ve hacim büyür ve V0 değerini alır.

Öte yandan yukarı da anlatılan sürece gaz moleküllerinin konumlarıyla ilgili olasılık açısından bakarsak aşağıdaki sonucu elde ederiz:

W1 = genleşmeden sonra gaz moleküllerinin tümünün V hacmi içinde bulunma olasılığı

W2 = genleşmeden sonra gaz moleküllerinin hacmi içinde homojen dağılma olasılığı

N sayıdaki gaz molekülünün V0 hacminde homojen dağılma olasılığı ;

W2/W1 = (V0/ V)N bu denklemde her iki tarafın doğal logaritması alınır ve R ile çarpılırsa

R ln (W2/W1) = R ln (V0/ V)N
R ln (W2/W1) = N R ln (V0/ V) N ile kısaltılırsa
R/N ln (W2/W1) = R ln (V0/V) elde edilir.

Denklemin sağ tarafı DS’e eşittir.

R/N = k (Boltzmann değişmezi) olarak ifade edilir. Bu durumda
DS = k ln (W2/W1) veya S = k ln W

Boltzmann değişmezinin değeri k=1,3807.10-23J/K Ôdir.

Bu formül entropinin termodinamik ve istatistiksel tanımları arasındaki ilişkiyi göstermesi bakımından çok önemlidir.

Sistemdeki moleküllerin kendiliğinden belli bir yere toplanmasının, yani entropinin azalma olasılığının sıfıra çok yakın olması dolayısıyla masa üzerindeki kitabın kendiliğinden yükselerek tavana yapışması mümkün olmaz. Kitaptaki moleküllerin kendiliğinden belli bir yöne doğru akmaları ve sonunda kitabı hareket ettirmeleri olasılığı, tuşlarına rastgele basılan bir daktilodan Nazım Hikmet’ e ait bir şiirin dökülmesi olasılığı kadardır.

Yinelemekte yarar var. II. Yasa uyarınca evrende her şey yokuş aşağı bir gidiş içindedir. Entropinin artış eğilimi ancak kapalı sistemler için geçerlidir. Evren de kapalı bir sistem olduğuna göre entropisi sürekli artar. Dış dünya, ya da çevresi ile madde, enformasyon ve enerji alış verişinde bulunan açık sistemler, örneğin canlı organizmalar ve makinalar doğadaki entropinin genel artış eğilimine karşıt davranış içindeki adacıklardır. Bu özellikleri sayesinde bu varlıklar organizasyonlarını (düzenliliklerini) sürdürebilirler. Yani yaşarlar.

Olasılık, Düzenden Uzaklaşma ve Belirsizlik

Entropi, sistemin başlangıç ve son durumunun göreli olasılıklarının bir ölçüsüdür. Sistemin başlangıç durumu ( gazın kapta belli bir bölgede toplanmış olması) daha organize bir durumu temsil eder. Piston son konumuna geldikten sonra gaz molekülleri kabın tümüne gelişi güzel dağılır ve bu durumda bir karışıklık söz konusudur. Bu yüzden entropi, sistemin düzenlilikten ne kadar uzak olduğunun da ölçüsü olmuştur.

Bir sistemde entropinin artışıyla sistemdeki düzensizliğin artacağını (organizasyonun kaybolacağı) ve tüm doğal ve fiziksel süreçlerde tersinmezlik yüzünden düzensizlik ve karmaşanın olasılığının hep en yüksek olduğunu söyleyebiliriz.

Termodinamik II. Yasası enerjinin, ancak bir potansiyel farkı mevcut olduğunda, kullanıma elverişli olabileceğini söyler. Yani sıcak ve soğuk farkı gibi. Bu potansiyel farkı, enerjinin kullanımı esnasında azalır, tükenir ve ortaya enerji bakımından homojen bir durum çıkar. Sistem ısıl dengeye kavuşur. Kinetik enerjisi yüksek olan partiküller ve düşük olanlar birbirine eşit olarak karışır. Yani başlangıçtaki düzenlilik ve organize olmuşluk (veya potansiyel farkı) yerini düzensizliğe ve karmaşıklığa terk eder. Bu düzensizlik yukarda da gördüğümüz gibi entropi artışıyla birlikte gelir. Bu bakımdan entropi, enerjiye ulaşamama durumunun da bir ölçüsüdür. (Okyanuslardaki ısı enerjisinden yararlanamama örneğinde olduğu gibi)

Banyo küvetini ortadan bir duvarla ikiye ayırıp bir tarafına sıcak diğer tarafına soğuk doldurduğumuzda sistemde bir ısıl dengesizlik yaratmış oluruz. Ancak bu sistem daha organize olmuş bir sistemdir ve entropisi düşüktür. Düşük entropili yani organize olmuş sistemleri tanımlamak daha kolaydır. Küvetin yarısında sıcak su (hızlı hareket eden moleküller) diğer yarısında soğuk su (yavaş hareket eden moleküller) bulunmaktadır. Oysa ortadaki duvarı kaldırırsak kısa süre içinde suyun sıcaklığı dengeye kavuşur. Bunun nedeni olarak, ilk kez Maxwell tarafından gösterilen stokastik molekül hareketi gösterilir. Entropi yükselmiş, organize olmuşluk ortadan kalkmış ve sistemi tanımlamaya yarayan mikro durumların sayısı artmıştır. Karışım sonrasında, sistemde bir düzensizlik fakat aynı zamanda bir denge de vardır. Biraz çelişik gibi görünüyor. Entropisi artmış bu sistemi tanımlayabilmek için çok fazla miktarda enformasyona gereksinmemiz vardır. Belirlilik entropi arttıkça yerini belirsizliğe bırakır. İşte bu olgu daha ilerde açıklanacak olan enformasyon kavramıyla yakından ilgilidir.

Poker oyununa dönecek olursak iyi el olarak tanımlanan flush bir macro state olarak kabul edilirse, bunu belirleyen micro state sayısı 40 tır. Böyle bir kağıt düzeni ele geldiğinde oyuncunun heyecanlanması doğaldır. Oysa beş benzemez macro state’ni belirleyen micro state sayısı 1.000.000 ‘un üzerindedir. Böylesi bir el hiçbir poker oyuncusunu heyecanlandırmaz. Bir macro state oluşturan micro statelerin sayısı ne kadar çok ise (yüksek entropi) oluşma olasılığı o denli yüksektir.

Bardaktaki suya buz parçasını attığımızda sistemdeki enerji eşit olmayan bir biçimde dağılmıştır ve bu hal bir belirlilik ifadesidir. Çünkü su + buz sisteminin entropisi düşüktür. Oysa buz ve su birbirine karıştığında sistemde enerji eşit (homojen) biçimde yayılmış, potansiyel farkı ortadan kalkmış ve sisteme belirsizlik hakim olmuştur. İçinde buzun kaybolduğu suyu bir macro state olarak adlandırırsak bu hali anlatacak micro statelerin sayısı milyarlarca sıcak ve soğuk molekülün pozisyon ve impulslarını tanımlamakla eşdeğerdir. Daha doğrusu olanaksızdır. Entropisi yüksek sistemler hakkında ancak ortalama bir bilgi ile yetinmek zorunda kalışımızın nedeni budur.

Enformasyon ve Entropi

Enformasyon, belirsizliği azaltır ( C. Shannon).
Enformasyon bizi değiştirir (G. Bateson)

Termodinamiğin ikinci yasasının yorumundan ortaya çıkan evrenin kaçınılmaz ölümü, hayat felsefemizi, ahlak anlayışımızı ve dünyaya bakış açımızı çok derinden etkilemiştir. Bu bölümde entropinin iletişim teorisindeki işlevinden söz edeceğiz. Öncelikle, ileriki bölümlerde çok sık kullanacağımız enformasyon kavramının tanımı ile başlayalım.

Enformasyon; nesne, olay ve/ya kişilerle ilgili veri ve gerçeklerin işleme tabi tutulmuş bir formudur. Enformasyon, alıcı durumunda olan kişinin söz konusu sistem veya süreç hakkındaki bilgisini artırır ve içinde bulunduğu belirsizliği azaltır . Otobüs durağında yağmur altında bekleyenlerden birinin “yağmur yağıyor” şeklindeki iletisinin, aynı yağmurun altında bekleyen diğer insanlar için hiçbir enformasyon değeri yoktur.

Enformasyon bir eylem için kullanıma hazır duruma geldiğinde “bilgi” ye dönüşür. Günlük kullanımda yararlı veya işe yarar bilgi ile eşdeğer tuttuğumuz enformasyonun anlamı fizikçi, iletişim uzmanı ve matematikçiler için biraz daha farklıdır. Bu insanlar, enformasyonun ölçülme, iletilme ve depolanma boyutlarıyla uğraşırlar. Bu konulara daha sonra tekrar döneceğiz. Şimdi kısa bir örnekle enformasyonun özelliklerine tekrar dönelim.

Patronumdan maaşıma zam yapmasını istediğimde; onun satışların zaten düştüğü, ülkenin ekonomik durumunun hiç de iyi olmadığı (ben bu yaşıma kadar iyi olduğuna hiç tanık olmadım), önümüzdeki günlerin ne getireceğinin belli olmadığı biçiminde verdiği yanıtın, iletişim teorisine göre hiçbir enformasyon değeri yoktur. Çünkü patronum böyle uzatıp durduğu konuşmasıyla benim içinde bulunduğum belirsizliği ortadan kaldıramamıştır. Oysa iki seçenekli bir mesaj setinden (evet veya hayır) bir tanesini seçmesi halinde verilen mesajın, alıcı durumunda olan için bir bitlik bir enformasyon değeri olacaktı.

İletişim sürecinde, enformasyon mesajlar aracılığı ile iletilir. Mesajlar resim, sözcük, nota vb olabilir. Dr. Claude SHANNON’un 1948’de hazırladığı “The Mathematical Theory of Communication” adlı kitabında anlatılan iletişim teorisi, entropi ve enformasyon kavramları arasında kurulan niceliksel (quantitative) ilişkiye dayandırılmaktadır. İlk bakışta termodinamikte sık sık geçen entropi kavramının iletişim teorisi ile ne ilişkisi olabilir diye bir soru aklınıza gelebilir. Hemen peşinen bu ilişkinin sezgisel değil tümüyle matematiksel kanıtlara dayandığını ve özellikle bilgi işlem, otomasyon ve yapay zeka vb teknik uygulamalar için bugüne kadar çok büyük başarılara katkıda bulunduğunu söylemekte yarar var. Bu teori, tüm enformasyonun (mesajların anlamsal yönü hariç) açık/kapalı, evet/hayır veya I/0 gibi biçimlere dönüştürülebileceğini göstermektedir.

SHANNON’un teorisinde enformasyon belirsizlikle eşit tutulmaktadır. Biraz yanlış çağrışımlar yapsa da bu tespit doğrudur. Neden doğru olduğu ilerleyen sayfalarda açıklanacaktır. Dr. SHANNON’a göre enformasyon kaynağı istatistiksel özellikte mesaj (ileti) üreten bir kimse veya bir nesnedir. Bir konuşmacıyı ele alırsak, dinleyici (alıcı) için konuşma metnindeki her harf veya sözcük, verici tarafından, rastlantı sonucu veya gelişigüzel seçilmiştir. Oysa konuşmacı kullandığı her sözcüğü, bir yığından (kelime dağarcığı) seçmek ve konuşmacının daha önce yapmış seçimlerle (söyledikleriyle) ilişkili olmak durumundadır. (Markoff süreci veya zinciri)

Örneğin, kökeni öz Türkçe olan sözcüklerde ilk harf sessiz ise ikincisi sesli olmak durumundadır. Devlet büyüklerimizin Türkiye’de bir doğal afetten sonra felaket bölgesindeki yurttaşları ziyaret etmeleri ve onlara geçmiş olsun ve başsağlığı dileklerini götürmeleri alışılagelmiş bir olaydır. Afetzedelere “Devlet büyüktür. Felaketin açtığı yaralar sarılacaktır. Kimse aç ve açıkta kalmayacaktır” şeklinde hitap etmeleri enformasyon kaynağının istatistiksel özelliği (sembolleri veya sözcükleri serbestçe seçme) ile tam uyuşmamaktadır. Ancak yine de devlet büyüklerimizin afetzedelere ” Felaket, biz yöneticilerin basiretsizliğinden ve beceriksizliğinden bu boyutlara ulaştı. Sizden özür diliyoruz” biçiminde bir mesaj vermeleri çok uzak bir olasılıktır. Ancak hiçbir zaman “sıfır” değildir.

Enformasyonun Ölçülmesi

Enformasyon, alıcı için sürpriz, önceden tahmin edilemezlik veya haber (bilgi) değeri bazında ölçülür. Daha önce de belirtildiği gibi, enformasyon alıcının içinde bulunduğu belirsizliği ortadan kaldırır.

Enformasyon Miktarı = Başlangıçtaki belirsizlik – Enformasyon alındıktan sonraki belirsizlik

Bir soruya verilen yanıt, soruyu soranın içinde bulunduğu belirsizliği azaltıyorsa, bu yanıtın enformasyon içerdiğini söyleyebiliriz.

Gönderilen mesaj benim içinde bulunduğum belirsizliği ortadan kaldırmıyorsa hiçbir enformasyon değeri olamaz. Doktoruna ne zaman öleceğini soran bir hastaya “Tüm insanlar ölümlüdür” biçiminde verilen bir yanıt hastanın içinde bulunduğu belirsizliğe bir açıklık getirmiş olmaz. Ya da bir soruya evet veya hayır yanıtları eşit oranda veriliyorsa, sorunun temsil ettiği durum maksimum belirsizliği gösterir.

Enformasyonun ölçümünü anlaşılır kılmak için iletişim sürecinin özellikleri hakkında bazı bilgilere gereksinmemiz var. İletişim süreci konuyla ilgili kitaplarda hep blok diyagram olarak ve aynı biçimde gösterilir.

Enformasyon kaynağı, bir önceki bölümde de kısaca değinildiği gibi, istenilen mesajı olası mesaj kümesinden seçer. Seçilen mesaj yazılı ve sözlü kelimeler olabildiği gibi, resim, nota ve benzerleri de olabilir. Sözlü diyalogda enformasyon kaynağı konuşmayı yapan kişinin beynidir. Verici ise insanın konuşma düzeneğidir (dil, gırtlak, ses telleri). Bu düzenek aracılığıyla oluşturulan sesler (sinyal) iletim kanalı olan hava ile alıcıya iletilir. İletişim sırasında sinyallerde meydana gelebilecek bozulmalar, örneğin telefon görüşmelerindeki parazitler veya televizyon ekranındaki karlanmalar, blok diyagramdaki gürültü olgusunu temsil eder.

Compton’s Interactive Encyclopedia’ da anlatılan ABD bağımsızlık savaşındaki ünlü “Midnight Ride” olayı iletişim sürecinin blok diyagramına iyi bir örnektir. Paul Revere (daha sonra adına destan yazılan bir bağımsızlık savaşı kahramanı) adlı süvarinin görevi Boston’un kuzeyinde bulunan yurtsever güçlere, İngiliz birliklerinin intikali hakkında bilgi sağlamaktı. Bu olayda İngiliz birlikleri enformasyon kaynağını ve bu birliklerin Massachusetts eyaletinin Lexington ve Concord kentlerine karadan mı yoksa denizden mi saldıracağı enformasyon çıktısını (mesajı) oluşturur. Sistemin kodlayıcı/vericisi North kilisesinin zangocudur. Bu kişi, denizden saldırı için 2, karadan saldırı için 1 feneri çan kulesine asacaktır. Alıcı/kod çözücü durumundaki Paul Revere çan kulesini görebilecek bir mesafede beklemektedir. İletim kanalı, çan kulesi ile süvari arasındaki boşluktur. Süvarinin görüş alanına girebilecek rüzgarda sallanan bir ağaç dalı veya bastıran sis buradaki iletişim kanalının gürültüsü sayılabilir.

O dönemde (1755 yılında) hava kuvvetleri olmadığı için enformasyon kaynağından gönderilebilecek mesaj ancak iki seçenekli mesaj setinden bir tanesi olacaktır. Bu iletişim sisteminde Paul Revere’e iletilen enformasyonun entropisi bir bit’tir. Enformasyon miktarı olası seçimlerin sayısının iki tabanlı logaritmasıyla hesaplanır. İki seçenekli bir durum (evet/hayır, var/yok vb) bir enformasyon ünitesi olarak adlandırılır.

H= log2 2 = 1 bit (binary digit)

Termodinamik entropi, kap içinde bulunan moleküller aynı enerji seviyesinde ise, en yüksektir. Yani rastlantısallık gelişigüzellik en uç düzeydedir. Aynı şekilde enformasyon kaynağındaki mesajların seçilme (veya meydana gelme ) olasılıkları eşit ise enformasyon kaynağının entropisi maksimumdur. 7, 8, 9, 10, J, Q, K, A’dan ve kupa, karo, maça, sinekten oluşan 32 kartlık bir desteden istenilen bir kağıdın çekilme olasılığı diğerleriyle aynıdır. Yani 1/32 dir. Bu kaynağın enformasyon değeri

H = log232 = 5 bit’tir.

Havaya atılan bir metal paranın her iki yüzü de tura ise, paranın yere düştüğünde tura gelme olasılığı % 100 yani “1” dir. Belirsizlik ise sıfırdır. Yani paranın tura gelmesi bizde bir sürpriz etkisi yaratmaz ve bizim için hiçbir enformasyon değeri yoktur. Bir şiirden öğrendiğimizi, işte bu yüzden, basmakalıp sözler ve deyimlerden öğrenemeyiz.

H =log2 1 = 0

Enformasyon kaynağındaki mesajların seçilme olasılıkları eşit değilse entropiyi hesaplamak biraz karmaşıklaşır. Örneğin A, C, G, T mesajları, sırasıyla, 1/2, 1/4, 1/8 ve 1/8 olasılıkla meydana gelen olgulara aitse ve bu olasılıkları pi olarak adlandırırsak bu mesaj setinin enformasyon miktarı aşağıdaki denklem uyarınca hesaplanır.

H = – Spi log2 pi
H= – (1/2 log2 1/2 – 1/4 log2 1/4 – 1/8 log21/8 Ğ1/8 log2 1/8)
H = 1,75 bit.

Logaritmanın Kullanılma Nedeni

Enformasyon toplama özelliği olan bir kavramdır. Bir vilayetteki tüm telefon numaralarına ve abonelerine ait bilgilerin toplandığı telefon rehberindeki bilgilerin toplamı, o vilayete bağlı tüm yerleşim birimlerindeki (şehir, kaza, köy vb) telefon rehberlerindeki bilgilerin toplamına eşittir.

32 kartlık poker destesi örneğini biraz açarak enformasyon ölçümünde logaritmanın neden kullanıldığını görelim. Bu destedeki durum (siz buna çeşitlilik veya varyete de diyebilirsiniz) sayıları şöyledir:

  • kartın sayı değeri (7, 8, 9, 10, J, Q, K, A) Ş
  • 8 durumu (çeşit)
  • kartın takım (suit) değeri (kupa, karo, maça, sinek)
  • Ş 4 durumu gösterir.
  • Toplam durum veya çeşit 8 x 4 = 32 dir.

Bu kart destesinin sahip olduğu enformasyon miktarı veya bu enformasyonun ayırt ettiği durum sayıları özel bir biçimde birbiriyle ilişkilidir. İşte bu özellikten dolayı durum sayılarının çarpımı enformasyonun toplamına dönüştürülür. Matematikte bir çarpımın logaritması çarpanlarının logaritmalarının toplamına eşittir. Yani;

Log2 (8 x 4) = log28 + log24 = 5 bit ( 25 = 32)

Sibernetikçiler, karar almanın hammaddesi sayılan “evet” ve “hayır” arasındaki farkı görebilmek için 10 tabanlı yerine 2 tabanlı logaritmayı kullanırlar.

Gürültü

İletim kanalları (boşluk, hava, telefon kablosu, laser ışını vb) ile aktarılan enformasyon geri dönüştürülemez biçimde degrade olur (kalitesi düşer). Yani mesajların enformasyon miktarı azalır. Üzerinde hafif bir çizik bulunun negatif fotoğraf filminin tab edilmesi sonunda ortaya çıkan yeni fotoğrafta bu çiziği büyültülmüş olarak görürüz. Bu çizik, bu mesajın bir sonraki iletiminde hep kalacaktır veya fotoğraf, üzerinde yeni çiziklerle çoğaltılacaktır. Ya da bir müzik parçasını CD’den kasete ve bu kasetten başka bir kasete kaydedersek parçanın kalitesinin düştüğünü biliriz. Hele 4. veya 5. kayıttan sonra müzik aygıtının volumünü yükseltirsek (sesini açarsak) pek istemediğimiz hışırtı ve parazitleri duymaya başlarız. İşportada korsan olarak satılan müzik kasetlerinin orijinalinden daha düşük ses kalitesine sahip olması hep bu olgu (gürültü) yüzündendir. Müziğe düşkün kimselerin, parçanın orijinal stüdyo kaydını (hi-fi = high fidelity) istemeleri de bu yüzdendir.

Vericiden alıcıya gönderilen mesajlarda bozulma en çok olası, yani en sık rastlanan olgudur. Buna karşılık mesajların, değerini yitirmeden alıcıya ulaşması en düşük olasılığa sahiptir. Evrenin düzenliyi bozmaya yönelik entropik eğilimi iletişim sürecinde de geçerlidir. Shannon, iletilen mesajlarda, zamanla artan bu bozulmayı entropinin bir çeşidi (gürültü) olarak önermiştir.

Müşterinin talebinin (mesaj) üretici firmanın pazarlama, dizayn, planlama, satın alma, üretim ve son kontrol aşamalarından geçtikten sonra nasıl farklılaştığını gösteren bir karikatür anımsıyorum. Bu örnekte teslimatı yapılan malın müşterinin talebiyle hiç ilgisinin olmadığı anlatılır. Bir adet deve ve bir adet kuş sipariş eden müşteriye bunların yerine bir adet “devekuşu” yollanabilmesi, mesajın iletim esnasında gönderildiğinden daha tutarsız hale gelmesinden dolayıdır.

Bu örnekleri çoğaltmak mümkün. Enformasyon kaybı sadece iletişim kanalında değil aynı zamanda mesajın çeviri mekanizmalarında (kodlayıcı, kod çözücü) oluşmaktadır.

Gürültü olmayan bir iletişim sisteminde kaynaktaki entropi ve iletişim süreci sonunda alıcıdaki entropi aynıdır. Yani istenilen mesajlar, hiçbir kesintiye ve bozulmaya uğramadan hedefe varmıştır.

H(y) = H(x)

Ancak gürültüsüz olmayan bir iletişim sistemi mevcut değildir. Bu yüzden gürültünün kötü etkisinden kurtulmak için iletim kanallarının kapasitesi maksimum entropiye göre artırılır ve bu da vericiden gönderilen mesajlarda bir fazlalığa (redundancy) neden olur.

E = ¦(S,N)

Bu denklemde E : Alınan sinyal,

S : İletilen sinyal
N : Gürültü

İletişim kanallarındaki gürültüye karşı mücadelede belli başlı üç yöntem kullanılır:

1. Bir kanaldan aynı mesajın birden çok gönderilmesi
2. Aynı mesajı göndermek için kanal sayısını iki katına çıkarılır.
3. Alfabedeki bazı karakterlerin veya bazı kelimelerin kullanımının kısıtlanması

Askerlik yapanlar bilirler. Komutanlar verdikleri emri astlarına tekrarlatmaları gürültüye karşı aldıkları dolaylı bir önlemdir.

Tuğran KÜLAHOĞLU

Kaynakça

1. Tübitak Popüler Bilim Kitapları KAOS s.2
2. PCW (Principia Cybernetica on Web)
3. Wiener, Norbert Sibernetik ve Toplum Özgün Yayınları

Bu yazı toplam 32548 defa görüntülendi.
Entropi Logo