Kendi kendine öğrenen makineler enerji tasarrufu sağlıyor

Son yıllarda makine öğrenimi çok gelişmekle birlikte yüz tanımadan otomatik sürüşe kadar günlük hayatta birçok yerde karşımıza çıkmaktadır. Bu gelişmeler elektronik donanımdaki ilerlemelerden kaynaklanmaktadır. Yapay zeka etkileyici performans sağlamakla kalmaz aynı zamanda önemli ölçüde enerji talebi yaratır.

Max Planck Işık Bilimi Enstitüsü’nden iki bilim insanı Víctor López-Pastor ve Florian Marquardt, yapay zekanın çok daha verimli bir şekilde eğitilebileceği bir yöntem sunuyor. Yaklaşımları, şu anda kullanılan dijital yapay sinir ağları yerine fiziksel süreçlere dayanıyor. Çalışma Physical Review X dergisinde yayımlanmıştır¹.

Mevcut dijital elektronik donanımın sınırlamalarını aşmak için, fiziksel öğrenme makinelerinin (bilgiyi işleyebilen ve verilerden öğrenebilen fiziksel cihazlar) geliştirilmesi için çalışmalar hızla devam etmektedir. Bu tür cihazlar, tamamen yazılımda uygulanan öğrenen makinelerle karşılaştırıldığında daha yüksek hız, büyük paralelleştirme ve daha düşük enerji tüketimi potansiyeline sahiptir.

Kendi kendine öğrenen bir makinenin enerji açısından mevcut sistemlerden daha verimli olup olmayacağı elbette onu uygulamak için kullanılan fiziksel sistemlere bağlı olacaktır. Araştırmacılar tarafından bazı fiziksel nöromorfik platformların elektronik cihazlardan önemli ölçüde daha verimli olabileceği iddia edilmiştir. Örneğin fotonik entegre devrelerde güç tüketiminin ölçeklendirilmesi daha uygun olabileceği düşülmektedir².

Nöromorfik bilgisayarlarda sinir ağları

Yapay zeka uygulamalarının enerji tüketimini azaltmak amacıyla son birkaç yıldır gelecekte bilgisayarların verileri nasıl işleyebileceğine dair yeni bir konsept araştırılmaktadır. Bu kavram nöromorfik bilişim olarak bilinmektedir. Nöromorfik kavramı yapay sinir ağlarına benzer gibi görünse de yapay sinir ağları geleneksel dijital bilgisayarlarda çalışmaktadır.

Nöromorfik bilgisayarlar yazılımın ya da algoritmanın beynin çalışma biçimine göre modellendiği ancak dijital bilgisayarların donanım görevi gördüğü anlamına gelmektedir.

Marquardt, “Bir sinir ağı yüz milyarlarca parametreyi, yani sinapsları bir terabayta kadar veriyle eğittiğinde, yalnızca bu iki bileşen arasındaki veri aktarımı bile büyük miktarlarda enerji tüketir.” diyor.

Büyük ölçekli sinir ağları birden fazla kalıp ve ara levha bağlantısı gerektirmektedir. Herhangi bir makine öğrenimi sisteminin belirleyici parçası yarı iletken hafızadır. Böyle bir ölçekte, yarı iletken veya süper iletken nöronların kullanımına bakılmaksızın fotonik iletişim avantaj sağlamaktadır. Süperiletken sistemler, düşük sıcaklıkta kullanılabilen ışık kaynakları ve dedektörler nedeniyle bu konuda avantajlara sahiptir³.

Beyin, bir düşünce sürecinin sayısız adımını sırayla değil paralel olarak gerçekleştirmesiyle karakterize edilmektedir. Sinir hücreleri, daha doğrusu sinapslar hem işlemci hem de hafızanın birleşimidir. Hesaplama yapmak için elektronlar yerine ışık kullanan fotonik devreler de dahil olmak üzere, dünyanın dört bir yanındaki çeşitli sistemler sinir hücrelerimizin nöromorfik muadilleri için olası adaylar olarak ele alınmaktadır. Bu devrelerin bileşenleri aynı anda hem anahtar hem de bellek hücresi olarak görev yapmaktadır.

Kendi kendine öğrenen fiziksel makine sinapsları

López-Pastor ve Marquardt nöromorfik bilgisayarlar için etkili bir eğitim yöntemi geliştirmiştir. Marquardt, “Kendi kendine öğrenen bir fiziksel makine konsepti geliştirdik. Temel fikir, eğitimin makinenin parametrelerinin sürecin kendisi tarafından optimize edildiği fiziksel bir süreç şeklinde gerçekleştirilmesidir.” diye açıklıyor.

Geleneksel yapay sinir ağlarını eğitirken, milyarlarca sinaptik bağlantının gücünü ayarlamak için harici geri bildirim gerekmektedir. Bazı makine öğrenimi ve nöromorfik uygulamalarda (örneğin, derin öğrenme çıkarımı), sinaptik ağırlıkların bir kez eğitildikten sonra nadiren güncellenir veya hiç güncellenmesi gerekmez⁴. 

Marquardt, “Bu geri bildirime ihtiyaç duymamak eğitimi çok daha verimli hale getiriyor” diyor. Kendi kendine öğrenen fiziksel bir makinede yapay zeka uygulamak ve eğitmek sadece enerji tasarrufu sağlamakla kalmaz, aynı zamanda hesaplama zamanından da tasarruf sağlar.

Makine öğrenimi ve sınıflandırmaya ek olarak sinir ağları, özellikle doğrusal olmayan diferansiyel denklemler gibi zorlu matematik problemlerini çözmek için programlanabilir⁴.

Marquardt, “Yöntemimiz, kendi kendine öğrenen makinede hangi fiziksel sürecin gerçekleştiğinden bağımsız olarak çalışıyor ve tam süreci bilmemize bile gerek yok. Ancak sürecin birkaç koşulu yerine getirmesi gerekiyor. En önemlisi tersine çevrilebilir olmalı, yani minimum enerji kaybıyla ileriye veya geriye doğru çalışabilmeli.” diye açıklıyor.

Marquardt, “Buna ek olarak, fiziksel süreç doğrusal olmamalı, yani yeterince karmaşık olmalı” diyor. Girdi verileri ile sonuçlar arasındaki karmaşık dönüşümleri yalnızca doğrusal olmayan süreçler gerçekleştirebilir. Örneğin bir langırtın başka bir langırtla çarpışmadan bir plaka üzerinde yuvarlanması doğrusal bir eylemdir. Ancak bir başkası tarafından rahatsız edilirse durum doğrusal olmayan bir hal alır.

 Optik nöromorfik bilgisayarlar

Tersine çevrilebilir, doğrusal olmayan süreçlerin örnekleri optikte bulunabilir. Özellikle, ışığa dayalı nöromorfik bilgi işlem cihazları oluşturma fikri, optik hesaplamanın geniş bant genişliği, küçük gecikme, düşük güç tüketimi ve doğal paralellik gibi tüm faydalarını açığa çıkarmayı vaat ettiği için son zamanlarda büyük ilgi görmüştür². Nitekim López-Pastor ve Marquardt, optik nöromorfik bir bilgisayar geliştiren deneysel bir ekiple işbirliği yapmaktadır. Bu makine bilgiyi üst üste bindirilmiş ışık dalgaları şeklinde işliyor ve uygun bileşenler etkileşimin türünü ve gücünü düzenliyor. 

Florian Marquardt, “Kendi kendine öğrenen ilk fiziksel makineyi üç yıl içinde sunabilmeyi umuyoruz. O zamana kadar, çok daha fazla sinapsla düşünen ve bugünkünden çok daha büyük miktarda veriyle eğitilen sinir ağları olmalıdır.” diyor.

Makine öğrenimi için yeni ortaya çıkan donanım teknolojisinde nöromorfik fotonik yapılar olağanüstü bir aday olabilir. Bazı nöromorfik fotonik mimariler, elektronik ve ışık kaynağı entegrasyonu göz önüne alındığında, ticari silikon fotonik platformlar üzerine uygun bir şekilde inşa edilebilir. Ancak ilk sistem gösterimlerini pratik ve tam performanslı yapay zeka işlemcilerine dönüştürmek için nöromorfik fotonik sistemlerin yeni teknolojileri içerecek şekilde gelişmesi gerekmektedir. 

Örneğin, fabrikasyon değişkenliğinin düzeltilmesi ısı dağılımını ve ayarlama için gereken akım miktarını azaltabilir. Işıkla doğrudan etkileşim kurabilen bellek devreleri, işlemcide daha çevik bir yeniden yapılandırmaya olanak sağlayabilir. Optik kaynaklardaki daha ileri teknolojik gelişmelerle azaltılmış ısı dağılımı ile elektronlar ve fotonlar arasında bilgi aktarımı yapılabilir⁴.

Sonuç olarak, sinir ağlarını geleneksel dijital bilgisayarların dışında uygulamak ve verimli bir şekilde eğitilmiş nöromorfik bilgisayarlarla değiştirmek için daha büyük bir talep olacaktır. Marquardt, “Bu nedenle kendi kendine öğrenen fiziksel makinelerin, yapay zekânın daha da geliştirilmesinde kullanılma şansının yüksek olduğundan eminiz.” demiştir.

Gülfem Koldaş

Kaynaklar

1. https://techxplore.com/news/2023-09-physics-based-self-learning-machines-current-artificial.html 
2. Lopez-Pastor, V., & Marquardt, F. (2023). Self-learning machines based on Hamiltonian echo backpropagation. Physical Review X, 13(3), 031020.
3. Berggren, K., Xia, Q., Likharev, K. K., Strukov, D. B., Jiang, H., Mikolajick, T., … & Raychowdhury, A. (2020). Roadmap on emerging hardware and technology for machine learning. Nanotechnology, 32(1), 012002. 
4. Shastri, B. J., Tait, A. N., Ferreira de Lima, T., Pernice, W. H., Bhaskaran, H., Wright, C. D., & Prucnal, P. R. (2021). Photonics for artificial intelligence and neuromorphic computing. Nature Photonics, 15(2), 102-114.