„Uptime Industries“ imasi lažybų dėl vietoje esančios AI infrastruktūros su „AI-in-A-A-Box“ delniniu įrenginiu, vadinamu citrinos AI.
Sumuštinio dydis, citrinos AI tariamai gali paleisti didelį kalbų modelį (LLM), AI agentus ir AI darbo eigą viename mazge. Kiekvienai citrina reikalauja tik 65 vatų galios, kad būtų galima paleisti, tai atitiktų nešiojamojo kompiuterio įkrovimą ir gali būti sukraunamas ir prijungtas prie didesnių AI grupių formos.
„TechCrunch“ pasakojo „TechCrunch“ „Sascha Buehrle“, „Uptime“ įkūrėja ir generalinė direktorė, kad kiekvienas mazgas gali išlaikyti iki 75 milijardų parametrų LLM ir gali priglobti atvirojo kodo modelius arba modifikuotas uždarų modelių versijas. Kliitų mazgų grupėje kiekvienas įrenginys gali paleisti skirtingą modelį.
„Uptime“ pradeda partnerystę su „IBM“ ir „JetBrains“, kad klientams būtų lengviau pasiekti AI modelius, įskaitant uždarus IBM modelius.
Kaip ir dauguma technologijų startuolių, citrinos AI idėja kilo iš šalutinio projekto: „Uptime“ įkūrėjai Buehrle ir Ivanas Kuleshovas bandė išsiaiškinti, ar jie galėjo platinti kalbų modelius „Raspberry Pi“ mikro kompiuteriuose, ir nors tai iš pradžių nebuvo susiję su generacine AI, kai ji veikė, jie pradėjo bandyti pamatyti, ką dar galėjo susitvarkyti su šiais Raspberry Pi.
Kai jie suprato, kad vykdomi modeliai vietiniuose įrenginiuose gali įrodyti raktą, kad būtų galima atrakinti daugiau AI priėmimo organizacijose-tarkime, įmonės, kurios nenori naudoti debesų pagrįstų modelių, jos pradėjo kurti savo įrenginį. Jie manė, kad maža, pabrėžiant duomenų privatumą, gali priversti įmones greičiau priimti AI.
„Turime sukurti ką nors mažo, kuris lengvai galėtų patekti į komandas ir kuriems (tai (daro) nereikia jokių sprendimų dėl organizacijos sprendimų-iš esmės įtraukiant į verslo generuojančius AI sprendimus“,-teigė Buehrle. Jis pridūrė, kad mažų ir galingų įrenginių klasteriai gali padėti augti pagal kliento poreikius.
Bendrovė sako, kad ji jau matė didelę verslo paklausą labai reguliuojamose pramonės šakose, tokiose kaip finansai, sveikatos priežiūra ir įstatymai.
„Viskas lieka jūsų dėžutėje“, – sakė Buehrle. „Taigi jūsų dokumentai, failai, el. Laiškai – modeliai yra talpinami dėžutėje, agentai veikia vietoje dėžutėje, ir niekas nepalieka dėžutės“.
„Uptime“ iki šiol surinko 2 mln. USD sėklų finansavimo etapą, kuriam vadovavo „True Ventures“, dalyvaudamas „Alumni Ventures“, „Jetbrains“ ir kai kuriuose angelų investuotojuose. Bendrovė naudos lėšas savo įrenginiams toliau plėtoti.
„Startup“ sako, kad dabar planuojama gauti programinę įrangą, kurią ji sukūrė savo „Micro AI“ kompiuteriams „Lemony OS“, dirbti su kitų bendrovių aparatine įranga, pavyzdžiui, „NVIDIA DGX Spark“. Ji taip pat nori išplėsti programinę įrangą nuo dabartinio vieno vartotojo dėmesio į tą, kurį gali naudoti komandos.
Lemonijos AI naudojimas kainuoja 499 USD per mėnesį, o jas gali pasiekti iki penkių vartotojų.
