Karar Ağaçları Üzerine Bazı Notlar

Published by: 0

Karar Ağaçları Üzerine Bazı Notlar

Entropi

Entropi kavramı 19. yüzyılın sonlarında fizikçi Ludwig Boltzmann tarafından geliştirildi. Entropi kavramı özellikle istatistiksel mekaniğinde termodinamik sistemler çalışmasından geliştirildi. Entropi yasasına termodinamiğin enerji korunması yasasından sonra gelen ikinci kanunu denir.

Herhangi bir geri döndürülemeyen işlem veya olay için entropi sürekli artmaktadır. Buna evrendeki bozukluk deniliyor ve sürekli entropisi artmaktadır.

Geridöndürülemeyen bir işleme örnek olarak su ve mürekkep şişelerini karıştırırsak bir daha tam anlamıyla eski haline getiremeyeceğimiz bir işlem verilebilir.

Varolan düzen, kalıplar yapılar hepsi yavaş yavaş bozuluyor kayıplara uğruyorlar. Atılan ok geri alınmaz sözüne atıfta bulunan fizikçiler ısı ölümüne dikkat çekiyorlar.

Boltzman keşfinin iç karartıcı doğası yüzünden intihar etti veya öyle biliniyor.

Entropi ve Enerji

Entropi enerji kalitesinin bir ölçüsü olarak düşünüldüğünde, düşük entropi değerine sahip enerji kaynakları daha yüksek kalitededir denilebilir. Bu aksi durum içinde geçerlidir. Düşük entropi değerine sahip enerji kaynakları daha yoğun enerjiye sahiptir. Örneğin ahşap ve benzini düşünürsek benzinden elde edilen enerji daha yüksektir. Buna ters orantılı olarak benzinin entropiside daha düşüktür. Ahşap ise yüksek entropi değerine sahip ve enerji kalitesi daha düşüktür.

Entropi ve Bilgi

Bilgi Claude Shannon tarafından düşük entropi ile ilişkilendirilmiştir. Gürültülü ve rastgele verile yüksek entropi değerine sahiptir.

Bilginin uç sınırı rastgele sayılardır. Rastgele sayılardan oluşan bir dizi hiçbir desen içermez tamamen düzensizdir. Bu tarz diziler maksimum entropi değerine sahip olup bilginin ölümü diye tanımlanabilir.

Ancak Veri Madenciliğiyle bu rastgele sayılar koleksiyonundaki gizli kalıplar veya bilgileri sunmak için karar ağaçları kullanılır. Shannon’un bilgi teorisi  karar ağaçları oluşturmak için kullanılabilir.

 

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir