Duygular Aklın Sinirsel Ağlarında Büyümüştür

Yapay Sinir Ağları

Yapay Sinir Ağları (YSA) insan beynindeki sinir hücrelerinin bilgiyi işleme becerisinden esinlenerek geliştirilmiş bir bilgi işlem teknolojisidir.  Biyolojik sistemlerde öğrenme, nöronlar arasındaki sinaptik bağlantıların ayarlanması ile olur. Bir başka deyişle, insanlar doğumlarından itibaren yaşayarak öğrenme süreci içerisine girerler. Bu süreç içinde beyin sürekli bir gelişme göstermektedir. Yaşayıp tecrübe ettikçe sinaptik bağlantılar ayarlanır ve sürekli olarak yeni bağlantılar oluşur. Bu sayede öğrenme gerçekleşir. Bu durum YSA için de geçerlidir. Öğrenme, eğitme yoluyla örnekler kullanarak olur. Girdi/çıktı verilerinin işlenmesiyle, yani eğitme algoritmasının bu verileri kullanarak bağlantı ağırlıklarını bir yakınsama sağlanana kadar, tekrar tekrar ayarlamasıyla olur.[1] YSA’nın içinde barındırdığı elementler ağ mimarisi, öğrenme algoritması ve aktivasyon fonksiyonudur. Uygun YSA modelini kurmak için uygun mimariyi seçmek hayati önem taşımaktadır. Katman sayısını, her katmandaki düğüm sayısını ve düğümleri birbirine bağlayacak bağlantı sayısını belirlemek, mimariyi uygun hale getirmek için yapılacak önemli adımlardır. “A New Linear & Non-Linear Artificial Neural Network Model for Time Series Forecasting [2] çalışmasında bulunan diyagrama bakarak ileri beslemeli tipte bir sinir ağının yapısını incelemek mümkündür;

YSA’nın çalışma sürecinin incelenmesinin temelleri insan beyninin incelenmesiyle mümkün olmuştur. İnsan beyni üzerine yapılan çalışmalar yüzyıllardır devam ediyor olsa da YSA’nın esinlendiği sinir hücrelerinin incelemesi ilk defa 1943 yılında nörofizyolojist Warren McCulloch ve matematikçi Walter Pitts’in sinir hücrelerinin nasıl çalıştığına dair bir çalışma yayınlaması sonucudur[3]. Çalışma elektrik devreleriyle basit bir sinir ağının modellenmesini içermiştir. Donald Hebb’in “The Organization of Behaviour”[4] isimli kitabı da YSA fikrine farklı görüşler katarak sinir ağlarının konsepti üzerine güzel bir araştırma olarak tarihe geçmiştir. Çalışma sonucu Donald Hebb sinir ağlarının kullanıldıkça daha da güçlendiğini iddia etmiştir. 1950li yılların başında Nathanial Rochester, dünyadaki en büyük iletişim şirketlerinden biri olarak kabul edilen IBM’in araştırma laboratuvarlarında ilk defa sinir ağlarını simüle etmeye çalışmıştır.[5] 1956 yılında Dartmouth Yapay Zeka Konferansında bulunan bulgular hem yapay zeka hem de sinir ağları bilim dallarında yapılan araştırmaları güçlendirmiştir.[6] 1958’de Cornell Üniversitesinde bir nörobiyolog olan Frank Rosenblatt, Perceptron projesi üzerinde çalışmaya başladı. Bir sineğin gözünden yola çıkarak sineğin uçma görevini yerine getirmesinden etkilenen  Rosenblatt, bunun üzerine yaptığı araştırmalar sonucu, günümüzde hala kullanılan eski sinir ağı uygulaması olan Perceptron’u buldu.[7] Tek katmanlı bir algılayıcı olan Perceptron, sürekli değerleri olan veri kümesini kümeleme ve sınıflandırılmada faydalı bir YSA süreci olarak hala kullanılmaktadır. Algılayıcı, girdilerin ağırlıklı toplamını hesapladıktan sonra kriteri geçen değeri çıkarır ve sonuç olarak iki olası değerden birini çıktıya geçirir. 1959’da Stanford Üniversitesinde çalışmalarını yapan Bernard Widrow ve Marcian Hoff, ADALINE ve MADALINE adını verdikleri modelleri geliştirdiler. Telefon hatlarındaki yankıları ortadan kaldıran adaptif bir filtre olan bu sinir ağı süreci halen ticari olarak kullanılmaktadır.[8] YSA araştırmalarındaki ilerleme 1981 yılına kadar yerine getirilmemiş iddialar, teknolojinin ve veri işlemenin henüz yetmemesi gibi sebeplerle bir süreliğine durdu. 1982 yılında Japonya ve ABD’nin ortak düzenlediği kooperatif/rekabetçi sinir ağları konferansı sonucu ABD’nin bu bilim dalında geride kalması konusunda endişelenmesi sonucu YSA alanının ilerlemesi adına yapılan fon yardımı tekrar düzenli bir şekilde gelmeye başladı.[9] 1985’te Amerikan Fizik Enstitüsü YSA için her yıl düzenli olarak toplantı düzenlemeye başladı. 1987 yılında dünya çapında ilk defa IEEE tarafından YSA üzerine yapılan uluslar arası konferans 1800’den fazla katılımcıyla karşılaştı.[10] 1997 yılında kısa süreli hafıza terimi(LSTM) Schmidhuber ve Hochreiter tarafından bilim dünyasına sunuldu. [11] 1998 yılında Yann LeCun “Gradient-Based Learning Applied to Document Recognition” isimli çalışmasını yayınladı.[12]

YSA’nın terimsel olarak kısa tarihi ve özeti bu şekilde olsa da, YSA’nın temellerini atan ideolojiler ve beynin çalışma şeklini araştıran çalışmalar yüzyıllardır devam etmektedir. YSA’nın ve sinir hücrelerinin temellerini oluşturan ruha, bedene ve akla bakış açısı Aristoteles tarafından YSA terimi ortaya çıkmadan 2300 yıl önce “De Motu Animalium” çalışmasında incelenmiştir.[13]  Aristoteles’e göre insan; ruh ve beden olmak üzere iki ayrı öğeden oluşan bir varlıktır. Beden madde, ruh ise onu biçimlendiren, ona “insan” niteliği kazandıran form olduğunu iddia ediyordu Aristoteles. Bu bulgudan yaptığı çıkarım sayesinde Aristoteles, yaşamın ilkesi olan ruhu amaç, bedeni ise araç konumunda görmekteydi. Filozoflar çağlar boyunca ruh ve bedenin uyumunu anlama üzerine çalışmalar ile insanları etkilemişlerdir. John Locke’ün düşünce okulunun da bilinç üzerine olan çalışmaları YSA’yı oluşturan temelleri atmaya yardımcı olmuştur. John Locke bilinçsel düşünmenin hissedilebilir olduğunu, acıyı ve zevki farketmeyi sağladığını söylemiştir.[14] İnsanların beyin hücreleri üzerine çalışmaları bu felsefi düşünürlerden daha önce Antik Mısır zamanlarında başlamış olsa da insanlar bir zamanlar sinir hücrelerini ruh olarak uzunca bir süre nitelendirmişlerdir. İnsanlığın gelişmesinde sunduğu kolaylıklar sunmakla bitmeyen, teknolojide büyük sayılabilecek olan YSA, ilerlemenin ve gelişmenin insanlığın özünden uzaklaşarak değil, ancak özüne dönerek, o özü en iyi şekilde araştırarak mümkün olabileceğini bizlere göstermiştir.[15][16] İnsan ve hayvan beyinlerinden esinlenerek yaratılan algoritmanın biyolojik sinir sistemi ile yapay sinir sisteminin fonksiyonel karşılıkları aşağıdaki tablodaki gibidir;[17]

Yapay sinir hücrelerinin çalışma şekilleri ilk olarak, bağlı olduğu bir önceki katmandan her sinir hücresinin değerinin toplanması ve toplanan sinir hücrelerinin birbirine toplanmasıdır. Bu değer, eklenmeden önce, iki sinir hücresi arasındaki bağlantıyı belirleyen “ağırlık” (w1, w2, w3) adlı başka bir değişkenle çarpılır. Sinir hücreleri arasındaki her bağlantının da kendi ağırlığı vardır ve bunlar öğrenme sürecinde değiştirilebilecek tek değerlerdir. Buna ek olarak hesaplanan toplam değere bir sapma değeri eklenebilir. Gerekli toplamalar yapıldıktan sonra, sinir hücresi elde edilen değeri aktivasyon fonksiyonuna uygular. Aktivasyon fonksiyonu genellikle daha önce hesaplanan toplam değeri 0 ile 1 arasında bir sayıya çevirir. Bu görev aşağıdaki şekilde de görüldüğü gibi Sigmoid fonksiyonu ile yapılmaktadır;

Bu fonksiyon ve fonksiyonun limitleri yapılan işleme göre değişiklik gösterse de değeri sınırlama amacı korunmaktadır.[18] Özetlemek gerekirse, YSA, birbirine bağlı sinir hücrelerinin değerlerinin kendi ağırlıkları ile çarpılması, sonrasında toplanması ve bu değerlerin en son bir aktivasyon fonksiyonunda uygulanmasıdır. Bir sonraki adımda ise sinir hücreleri yeni değerini sonraki tabakaya gönderirler ve elde edilen son değerler istenen çıktıyı belirlemek için kullanılabilir bir değer haline gelirler. YSA sürecini gösteren bir  başka diyagram ise aşağıdadır[19];

YSA’nın verilen girdilere göre çıktı üretebilmesinin yolu hücrelerin bu şekilde işleme sürecinin yanında, sinir ağının, sunulan veri ile öğrenebilmesinden de geçmektedir. Bu öğrenme işleminin birden fazla yöntemi vardır. YSA, öğrenme şekillerine göre Denetimli, Denetimsiz ve Pekiştirmeli öğrenme olarak üçe ayrılır[20];

  • Denetimli Öğrenme (Supervised Learning): Denetimli öğrenme için modele sunulan veri, etiketlenmiş girdi ve istenen çıktılardan oluşmaktadır. Öğrenme görevi, her girdi için istenen çıktıyı üretmektir. Denetimli öğrenme için uygun görevler örüntü tanıma, kümeleme ve regresyondur. Bir öğretmen vasıtası ile öğrenme olarak da düşünülebilir.
  • Denetimsiz Öğrenme (Unsupervised Learning): Önceden mevcut etiketi olmayan ve minimum insan gözetimi olan bir veri kümesinde önceden tespit edilmemiş kalıpları arayan bir tür makine öğrenimidir. Bu öğrenme çeşidi modelin veriden kendi kendine öğrenmesini amaçlamaktadır.
  • Pekiştirmeli Öğrenme (Reinforced Learning): Problemi çözmeye yakınsaması içerisinde bulunduğu kompleks uzaydan ötürü deneme-yanılma yöntemidir. Probleme bir oyun olarak bakan model, ödül kazanma seviyesini maksimize etmeye çalışır.

Öğrenme sürecinin başlaması için yapay sinir ağındaki girdi ve çıktı verilerinin hazırlanması gerekmektedir. Girdilerin doğru bir biçimde etiketlenmesi, programın işlevini yerine getirmesi açısından önemlidir. Eğer girdiler düzgün etiketlenirse, gerçek parametreler korunur ve bir sonraki girdiye sıra gelir. Çıktı ile etiketin eşleşmemesi durumunda ağırlıklar değiştirilir.  Ağırlıklar, öğrenme sürecinde değiştirilebilen tek değişkenlerdir. Öğrenme oranı parametresi ise tam olarak bu adımda devreye girmektedir. Bu parametre sinir ağının hangi hızla öğreneceği, ağırlıkların nasıl değişeceği gibi soruları cevaplamaktadır.

YSA’nın işleme süreçleri genel olarak bu şekildedir. YSA farklı çıktı ve matematiksel işlemlere göre kendi içinde de farklı türlere ayrılmaktadır. Bu türlerden bazıları aşağıda yer almaktadır.[21]

  • İleri Beslemeli Ağlar (Feedforward Neural Networks)

Bu YSA türünde, girdi tek bir yönde hareket eder. Veri giriş düğümlerinden geçer ve çıkış düğümlerinden çıkar. Bu sinir ağı gizli katmanlara sahip olmak zorunda değildir. Bu tür sinir ağları bilgisayarlı görü ve konuşma tanıma alanlarında kullanılmaktadır.[22]

  • Yarıçapsal Temelli Ağ (Radial Basis Function Network)

İki katmanlı ileri besleme ağlarıdır. Gizli düğümler radyal temel fonksiyonlarının bir setini uygular. Ağın öğrenimi iki aşamalıdır; önce girişten gizli katmana olan ağırlıklar belirlenir ve daha sonra gizli katmanlardan çıktı katmanına olan ağırlıklar belirlenir. Ayrıca öğrenme hızı diğer yapay sinir ağlarına göre daha hızlı bir algoritmadır.[23]

  • Kohonen Özdüzenleyici Ağlar (Kohonen Self-Organizing Networks)

Bir Kohonen haritasının amacı, sinir hücrelerinden oluşan ayrık haritaya keyfi boyut vektörleri girmektir. Bir veya iki katman(boyut) içerebilir. Harita öğrenirken sinir hücresinin konumu sabit kalırken, ağırlığı değişir. İkinci aşamada noktaya en yakın sinir hücresi bulunur. Bu ağ türü örüntü tanıma alanında kullanılmaktadır.[24]

  • Yinelenen Sinir Ağları (Recurring Neural Networks)

Bu sinir ağında bulunan ağırlık değerlerinin hata payı oranında değişime uğraması sonucu ağ daha iyi öğrenmektedir. Temel amaç hata payının düşürülmesini sağlamaktır. Böylelikle sinir ağında dolaşacak olan girdiler, doğru bir şekilde çıktılar ile bağlanmış olacaklardır.[25]

  • Evrişimsel Sinir Ağı (Convolutional Neural Network)

Derin öğrenme algoritmalarından biri olarak da sayılan ESA resim tanıma teknolojilerinde kullanılmaktadır. Mimarisi bütün sinir hücrelerinin birbirine tamamen bağlı olmasını hedef almaktadır.[26][27]

YSA’nın, daha birçok hibrit ve farklı algoritmalarla çalışan türleri de bulunmaktadır. YSA, örüntü tanıma ve kümeleme dışında makine öğrenme de yapabilmektedir. Sinir ağları, makine öğrenme işlevlerini yerine getirmekle kalmayıp gerçek hayatta da örüntü tanıma ve kümeleme uygulamalarında hayat bulmuştur.[28] Uygulama alanlarına örnek olarak oto-pilot, otonom araç sürüşü, oyunların içinde kullanılan robotlar, yer altı kaynaklarının tespiti, doğal kaynakların yönetilmesi, bomba olan çantayı tespit etme, yüz tanıma, radar sistemleri, akıllı sensörler, nesne tanıma, jest ve mimik tanıma, ses tanıma, el yazısı tanıma, basılı metin tanıma, tıbbi teşhis, veri madenciliği, veri görselleştirme, sosyal ağ filtrelemesi, akıllı internet reklamları ve gereksiz e-posta filtresini gösterebiliriz. Diğer gerçek hayattan YSA uygulamaları aşağıda listelenmiştir[29]:

  • Forex Piyasası (Citibank Londra Şubesi ve HSBC Avustralya)
  • Portföy seçimi ve yönetimi (LBS Capital Management)
  • Hava durumu örüntü izleme
  • Asahi Chemical tarafından pazarlanan konuşma tanıma ağı
  • EKG dalgalarından miyokard infarktüsü, kalp krizi tahmini ve tespiti; Baxt ve Skora çalışmalarında, hekimlerin, miyokard infarktüsü için sırasıyla 73.3% ve 81.1% tanısal duyarlılığa ve özgüllüğe sahip olduğunu bildirirken, yapay sinir ağının sırasıyla 96.0% ve 96.0% tanısal duyarlılığa ve özgüllüğe sahip olduğunu belirtmiştir.
  • EEG örüntülerinin analizinden bunaklığın erken tespiti. Araştırmacılar YSA’nın, hem Z testinden, hem de diskrimant analizinden daha iyi sonuç verdiğini tespit etmiştir.

Sonuç olarak YSA’nın örüntü tanıma, kümeleme gibi kullanımlarda iyi yönleri ve günlük hayat kullanımları vardır. Sinir ağları doğrusal ve doğrusal olmayan veriler ile iyi performans göstermektedir; fakat sinir ağlarının, özellikle robotik alanındaki ortak bir eleştirisi, gerçek dünya operasyonu için çok çeşitli ve maliyetli bir öğrenim sürecine ihtiyaç duymalarıdır. Bunun başlıca sebebi ise bir makinenin güncel ve geniş yelpazeli bir şekilde öğrenmesi için ihtiyacı olan verinin bir hayli büyük olmasıdır. Sinir ağlarının analiz edilen verilerden öğrenmesi tekrar programlama maliyetlerinin önüne geçmiş olsa da sürecin işleme şekli bir “kara kutu” gibi çalıştığı için kullanıcının modeli eğitirken elinden gelen sayılı şey olmaktadır. Kullanıcı kara kutunun içini göremeyeceği için girdiyi sürece sokmak ve modelin eğitilip eğitilmediğini çıktılara bakarak anlamak, modelin eğitilmesini beklemek zorundadır.[30]

Kaynakça

Data Science Earth

Data Science Earth ekibi, üst düzey Veri Bilim çözümleri üretmek amacı ile toplanmış akademisyenler ve uzmanlardan oluşmaktadır. Öncelikli olarak veri bilincini geliştirmeyi ve küreselleşen rekabet ortamında verinin gücünün doğru kullanılmasını sağlamayı amaçlamaktadır.

Sponsor

QuestionPro 35 farklı soru seçim özelliği ile anket çalışmalarımıza güç katmaktadır.