Brainwave
Microsoft bugün 2017 Hot Chips sempozyumunda yapay zeka (AI) programlarını geliştirecek yeni bir donanım duyurdu. Brainwave olarak adlandırılan sistem ile Microsoft, makine öğrenme modellerinin programlanabilir silikon için tasarlanarak nasıl işlev gördüğünü güçlendireceğine inanıyor.
Microsoft bir basın açıklamasında “Sistemi gerçek zamanlı AI için tasarladık; bu, sistem istekleri aldığı kadar hızlı bir şekilde işlemektedir ve ultra düşük gecikme süresi ile” diyor ve devam ediyor “Gerçek zamanlı AI, arama sorguları, videolar, algılayıcı akışları veya kullanıcılarla olan etkileşim olsun, canlı veri akışlarını işlemek için bulut altyapılarının önemi giderek önem kazanmaktadır.”
Model, AI tarafından üretilen diğer donanıma göre daha büyük. Intel‘in yeni Stratix 10 FPGA (field programmable gate array) yongasında 39.5 teraflop hızında çalışan Gated Recurrent Unit modeline sahiptir. Artı, toplu işlemler denemez. Bu, istek geldiğinde işleme yoluyla makine öğrenimi sistemleri için gerçek zamanlı bilgiler sağlar.
Microsoft Araştırma mühendisi Doug Burger, Sempozyumda yer alan Venture Beat raporlarında “Buna gerçek zamanlı AI diyebiliriz çünkü buradaki fikir, bir istek gönderdiğinizde, cevabınızı geri istiyor” “Bu bir video akışı ise, eğer bir konuşma ise, davetsiz misafirleri, anomali tespiti, etkileşim ve hızlı sonuçlarla ilgilenen her şeyi arıyorsanız, bunları gerçek zamanlı olarak istiyorsanız; budur”.
Hızlı AI (Yapay Zeka) Desteği
Brainwave, son birkaç yıldır Microsoft’un veri merkezlerine kurduğu devasa bir FPGA altyapısı üzerinden bulut tabanlı derin öğrenme modellerinin kesintisiz olarak gerçekleştirilmesine olanak tanır. Burger’e göre bu, uygulamalardaki AI özelliklerinin Microsoft hizmetlerinden daha hızlı destek aldığı anlamına geliyor. Bir dizi FPGA üzerinde çalışarak, yalnızca bir FPGA çipi için çok büyük olabilecek makine öğrenme modelleri, birden fazla donanım kartından aynı anda destek alır.
Brainwave, diğer CPU’lara veya GPU’lara kıyasla daha hızlı ve daha esnek performans hızlarına ek olarak, bir dizi popüler derin öğrenme çerçevesini desteklemek üzere tasarlanmış bir yazılımı da içeriyor. Dolayısıyla, Burger’in dediği gibi, Microsoft’un programlanabilir donanımının, Google’ın Tensor İşleme Birimi gibi makine öğrenme operasyonları için ayrılmış cipslerle aynı seviyede çalışması mümkündür. Aslında, Stratix 10 yongası ile daha da geliştirilmiş operasyonlarla gelecekte performansını 39,5 terafloptan 90 teraflopa çıkarmanın mümkün olduğuna inanıyor.
Makine öğrenme modelleri ve algoritmaları, bir sürü uygulamayla daha fazla istihdam yarattığından, bunları Brainwave’e bağlamak, bu uygulamaların yanıt vermesi için kullanıcı bekleme süresini azaltacaktır. Microsoft henüz Brainwave’i müşterilere sunmadı ve zaman çizelgesi belirlenmedi. Ama Microsoft’un Azure bulut platformu aracılığıyla üçüncü parti müşterilerin erişebilmesini sağlamak için çalışıyorlar.