Uptime Industries, yerel yapay zeka altyapısına yönelik bir adım atarak, “AI-in-a-box” olarak adlandırdığı Lemony AI isimli taşınabilir cihazı tanıttı.
Bir sandviç boyutundaki Lemony AI, tek bir düğüm üzerinde büyük dil modelleri (LLM), yapay zeka ajansları ve yapay zeka iş akışlarını çalıştırabiliyor. Bu cihazın çalışması için yalnızca 65 watt enerjiye ihtiyaç duyuluyor; bu, bir dizüstü bilgisayarın şarj edilmesine eşdeğer. Lemony cihazları bir araya getirilip, daha büyük yapay zeka kümeleri oluşturmak için istiflenebiliyor.
Uptime’ın kurucu ortağı ve CEO’su Sascha Buehrle, her bir düğümün 75 milyar parametreye kadar olan bir LLM’yi sürdürebileceğini ve açık kaynaklı modeller ya da kapalı modelin uyarlanmış versiyonlarını barındırabileceğini belirtti. Lemony düğümlerinden oluşan bir kümede, her cihaz farklı bir modeli çalıştırabiliyor.
Uptime, müşterilerine yapay zeka modellerine daha kolay erişim sağlamak için IBM ve JetBrains ile ortaklıklar başlatıyor, bu sayede IBM’in kapalı modelleri de dahil olmak üzere çeşitli yapay zeka kaynaklarına ulaşım imkanı sunuyor.
Birçok teknoloji girişiminde olduğu gibi, Lemony AI’nin fikri de bir yan projeden doğdu. Uptime’ın kurucu ortakları Buehrle ve Ivan Kuleshov, dil modellerini Raspberry Pi mikro bilgisayarlarında dağıtmanın yollarını araştırıyordu. Başlangıçta bu, üretken yapay zeka ile ilgili değildi; ancak bu çalışmanın başarılı olması sonrasında, bu cihazların başka ne tür görevleri yerine getirebileceğini keşfetmeye başladılar.
Yerel cihazlarda modeller çalıştırmanın, şirketlerin bulut tabanlı modelleri kullanmak istemeyen işletmeler için daha fazla yapay zeka benimsemelerini sağlamak için anahtar olabileceğini fark ettiklerinde, kendi cihazlarını geliştirmeye başladılar. Küçük ve veri gizliliğine odaklanan bir yaklaşımın, şirketlerin yapay zekayı daha hızlı benimsemesine yardımcı olabileceğini düşündüler.
“Küçük bir şey inşa etmemiz gerekiyor. Bu, ekipler içinde kolayca yer alabilir ve herhangi bir organizasyon genelinde karar verme gerektirmeden kullanılabilir — temel olarak, işletme ekiplerine yerinde üretken yapay zeka çözümleri sunmak istiyoruz” diyen Buehrle, küçük ve güçlü cihazların sistemin müşteri ihtiyaçlarına göre büyümesine yardımcı olabileceğini ekledi.
Şirket, finans, sağlık ve hukuk gibi ağır düzenlemelere tabi endüstrilerde güçlü bir talep gördüğünü belirtiyor.
“Her şey kutunuzda kalır,” diyen Buehrle, “Yani belgeleriniz, dosyalarınız, e-postalarınız — modeller kutuda barındırılıyor, ajanslar kutuda yerel olarak çalışıyor ve hiçbir şey kutudan çıkmıyor.” açıklamasında bulundu.
Uptime, şu ana kadar True Ventures liderliğinde gerçekleştirilen bir tohum yatırım turunda 2 milyon dolar topladı. Bu fon, şirketin cihazlarını daha da geliştirmek için kullanılacak.
Girişim, şu an için geliştirdiği yazılımı, Lemony OS’u diğer şirketlerin donanımlarıyla çalıştırmak üzere genişletmeyi hedefliyor. Ayrıca, yazılımını tek kullanıcılı odaklanmadan, ekipler tarafından kullanılabilecek bir hale getirmek istiyor.
Lemony AI, aylık 499 dolara kullanılabiliyor ve bu hizmetten beş kullanıcıya kadar erişim sağlanabiliyor.
-
-
-
-
