Yapay zekâ dünyasında Google’ın çığır açan bir geliştirmeyle gündemde olduğu söylenebilir. İçerikten Görseller ile birlikte TurboQuant adlı yeni nesil sıkıştırma tekniği, büyük dil modelleri ve arama motorları üzerinde hem hız hem de verimlilik açısından kayda değer bir ilerleme sunuyor.
Geliştirme, özellikle yüksek boyutlu vektörlerle çalışırken karşılaşılan bellek tıkanıklıklarını hedef alıyor. Bu sorunlar, anahtar-değer hızlı erişim sistemlerinde performans düşüşlerine yol açıyordu. TurboQuant ise bu alandaki darboğazları aşmayı amaçlıyor.
Yeni algoritma, bellek kullanımıyla ilgili temel problemi kökünden çözüyor: en az altı kat daha az bellek tüketimi, işlem hızı en az sekiz kat artışı ve doğruluk kaybı olmadan çalışma. Üstelik ek bir maliyet doğurmadan, geleneksel sıkıştırma yöntemlerinin aksine çalışıyor.
Çözümün temelini iki yenilikçi yaklaşım oluşturuyor. 1. PolarQuant – Akıllı Sıkıştırma başlığı altında: verileri farklı bir koordinat sistemine dönüştürerek sıkıştırmayı daha etkili hâle getiriyor; gereksiz hesaplamaları azaltıyor ve bellek talebini önemli ölçüde düşürüyor.
2. QJL (Quantized Johnson-Lindenstrauss) yaklaşımı ise: veriyi yalnızca 1 bitle temsil edebiliyor; hataları matematiksel olarak düzeltiyor ve ek bellek ihtiyacını tamamen ortadan kaldırıyor.
Bu gelişmelerle birlikte TurboQuant sayesinde gelecek yapay zekâ uygulamaları daha hızlı, daha uygun maliyetli ve daha akıllı hale gelecek.
