On yıllardır, elektronik mühendisleri, karmaşık hesaplamaları daha hızlı gerçekleştirebilen ve daha az enerji tüketen gelişmiş cihazlar geliştirmeye çalışıyorlar. Bu, yapay zeka (AI) ve derin öğrenme algoritmalarının ortaya çıkmasının ardından daha da belirgin hale geldi; bu algoritmalar genellikle veri depolama ve hesaplama yükü açısından önemli gereksinimlere sahiptir.
Bu algoritmaları çalıştırmak için umut verici bir yaklaşım, analog hafızada işlem yapma (AIMC) olarak bilinir. İsminden de anlaşılacağı gibi, bu yaklaşım, hesaplamaları gerçekleştirebilen ve verileri tek bir çip üzerinde depolayabilen elektronik cihazların geliştirilmesinden oluşur. Gerçekçi bir şekilde hem hız hem de enerji tüketiminde iyileştirmeler sağlamak için, bu yaklaşım aynı zamanda çip içi dijital işlemleri ve iletişimi de desteklemelidir.
IBM Research Europe araştırmacıları, son zamanlarda derin sinir ağlarının hesaplamalarını daha iyi destekleyebilecek faz değişimli bellek cihazlarına dayanan yeni bir 64 çekirdekli karışık-sinyal içerikli hafıza işlem çipi geliştirdi. 64 çekirdekli çipleri, Nature Electronics dergisinde bir makalede sunulan bu çip, derin öğrenme algoritmalarının doğruluğunu koruyarak hesaplama sürelerini ve enerji tüketimini azaltmayı başardı.
“7 yıldan fazla bir süredir faz değişimli bellek (PCM) cihazlarını hesaplama amaçlı nasıl kullanabileceğimizi araştırıyoruz. İlk kez bireysel PCM cihazlarıyla sinir hücresi işlevlerini nasıl uygulayacağımızı gösterdiğimiz zaman başlamıştık,” makalenin yazarlarından Manuel Le Gallo, Tech Xplore’a açıkladı.
“O zamandan beri PCM cihazlarını hesaplama elemanları olarak kullanmanın, bilimsel hesaplama ve derin sinir ağı çıkarımı gibi birçok uygulamadan faydalanabileceğini gösterdik. Prototip PCM çipler kullanarak donanım/yazılım uygulamalarında neredeyse hiç doğruluk kaybı olmadığını gösterdik. Bu yeni çip ile bir adım daha ileri giderek uçtan uca bir analog AI çıkarım hızlandırıcı çipine doğru gitmek istedik.”
Yeni içerikli hafıza işlem çiplerini oluşturmak için Le Gallo ve meslektaşları, PCM tabanlı çekirdekleri dijital hesaplama işlemcileriyle birleştirerek, tüm çekirdekleri ve dijital işlem ünitelerini çip içi bir dijital iletişim ağı aracılığıyla birbirine bağladılar. Çipleri, 64 analog PCM tabanlı çekirdek içerir; her biri 256×256 çapraz bağlantı dizisi içeren sinaptik ünite hücreleri bulunur.
“Her bir çekirdekte kompakt, zaman temelli analog-dijital dönüştürücüler entegre ettik; bu sayede analog ve dijital dünya arasında geçiş yapabiliyoruz,” Le Gallo açıkladı. “Her bir çekirdek ayrıca doğrultulmuş lineer ünite (reLU) nöron aktivasyon işlevlerini ve ölçekleme işlemlerini gerçekleştiren hafif dijital işlem üniteleriyle entegre edilmiştir. Orta kısmına, uzun-kısa dönem bellek (LSTM) ağı işlemlerini uygulayan global bir dijital işlem birimi entegre edilmiştir.”
Takımın çipinin benzersiz bir özelliği, içerisinde bulunan bellek çekirdeklerinin ve global işlem biriminin dijital bir iletişim ağı aracılığıyla bağlanmış olmasıdır. Bu, çipin bir sinir ağının bireysel katmanlarıyla ilişkilendirilen tüm hesaplamaları çip içinde gerçekleştirmesine olanak tanır ve hesaplama sürelerini ve güç tüketimini önemli ölçüde azaltır.
Le Gallo ve meslektaşları, çiplerini değerlendirmek için oldukça kapsamlı bir çalışma yaptılar; derin öğrenme algoritmalarını çiplerinde çalıştırdılar ve performansını test ettiler. Değerlendirmelerinin sonuçları son derece umut vericiydi; çip üzerinde çalıştırıldığında ve CIFAR-10 görüntü veri kümesinde test edildiğinde, görüntü tanıma görevlerini tamamlamak üzere eğitilen derin sinir ağları, dikkate değer bir %92.81 doğruluğuna ulaştı.
“Bu teknolojiyi kullanan herhangi bir çipin şu anda bildirilen en yüksek doğruluk seviyesi olduğuna inanıyoruz,” Le Gallo söyledi. “Makalemizde, analog hafızada işlem yapmayı birkaç dijital işlem ünitesi ve dijital iletişim ağı ile sorunsuz bir şekilde nasıl birleştirebileceğimizi de gösterdik. Çipin 8-bit giriş-çıkış matris çarpımları için alan başına ölçülen verimliliği, dirençli belleğe dayalı önceki çoklu çekirdekli içerikli hafıza işlem çiplerine göre 400 GOPS/mm² olarak ölçülmüştür ve benzer enerji verimliliği elde edilmiştir.”
IBM Research Europe’un son çalışması, derin öğrenme algoritmalarının ihtiyaçlarını ve taleplerini destekleyebilen AIMC çiplerinin geliştirilmesine bir adım daha atmaktadır. Gelecekte, Le Gallo ve meslektaşlarının tanıttığı tasarımın daha da geliştirilerek daha iyi bir performans elde edilmesi mümkün olabilir.
“Bu çipten ve 2021’de VLSI’da sunulan 34 çekirdekli bir başka çipten edindiğimiz bilgileri kullanarak, bu yılın başlarında IEEE Transactions on VLSI Systems dergisinde yayınlanan uçtan uca bir analog AI çıkarım hızlandırıcı mimarisi tasarladık,” Le Gallo ekledi. “Vizyonumuz, birçok analog içerikli hafıza işlem çipini, özel amaçlı dijital hesaplama çekirdeklerinin, büyük ölçekli 2D ağ ile bağlandığı bir yapıyla birleştiriyor. Son yıllarda geliştirdiğimiz sofistike donanım farkındalığı eğitimi ile birlikte, bu hızlandırıcıların önümüzdeki yıllarda geniş bir model yelpazesinde yazılım eşdeğerliği olan sinir ağı doğruluklarını sunmasını bekliyoruz.”
