Vienas ryškiausių Europos AI startuolių išleido du AI modelius, kurie yra tokie maži, jie pavadino juos vištienos smegenimis ir musių smegenimis.
Daugialypės skaičiavimo teiginiai, tai yra mažiausi pasaulyje modeliai, kurie vis dar veikia ir vienu atveju gali tvarkyti pokalbius, kalbą ir netgi samprotavimus.
Šie nauji mažyčiai modeliai yra skirti įterpti į daiktų interneto įrenginius, taip pat paleisti vietoje išmaniųjų telefonų, planšetinių kompiuterių ir kompiuterių.
„Mes galime taip suspausti modelį, kad jie gali tilpti į įrenginius“, – „TechCrunch“ pasakojo Orús. „Galite juos paleisti patalpose, tiesiai savo„ iPhone “ar„ Apple Watch “.“
Kaip jau anksčiau pranešėme, daugialypė skaičiavimas yra šurmulio Europos AI startuolio, kurio būstinė yra Donostijoje, Ispanijoje, turi apie 100 darbuotojų visame pasaulyje. Jį įkūrė aukščiausias Europos kvantinių kompiuterių ir fizikos profesorius Román Orús; Kvantinio skaičiavimo ekspertas Samuelis Mugelis; ir Enrique Lizaso Olmos, buvęs Unnim Banc generalinio direktoriaus pavaduotojas.
Birželio mėn. Tai tik surinko 189 mln. EUR (apie 215 mln. (Nuo tada, kai ji buvo įkurta 2019 m., Ji surinko apie 250 milijonų dolerių, sakė Oús.)
„Compactifai“ yra kvantinio įkvėpto glaudinimo algoritmas, kuris sumažina esamų AI modelių dydį neprarandant tų modelių našumo, sakė Oús.
„TechCrunch“ renginys
San Franciskas
|
2025 m. Spalio 27–29 d
„Mes turime suspaudimo technologiją, kuri nėra tipinė suspaudimo technologija, kurią padarys kompiuterių mokslo ar mašinų mokymosi žmonės, nes mes esame iš kvantinės fizikos“, – aprašė jis. „Tai subtilesnis ir tobulesnis suspaudimo algoritmas.“
Bendrovė jau išleido ilgą suslėgtų atvirojo kodo modelių versijų sąrašą, ypač populiarius mažus modelius, tokius kaip „Lla 4 Scout“ arba „Mistral Small“ 3.1. Ir tai ką tik paleido suspaustas dviejų naujų „Openai“ modelių versijas. Jis taip pat suspaudė keletą labai didelių modelių – pavyzdžiui, siūlo „Deepseek R1 Slim“.
Tačiau kadangi tai yra mažesni modeliai, jis sutelkė papildomą dėmesį tam, kad būtų įmanomi mažiausi, tačiau galingiausi modeliai.
Du nauji jos modeliai yra tokie maži, kad jie gali suteikti pokalbių AI galimybes beveik bet kokiam IoT įrenginiui ir dirbti be interneto ryšio, sako bendrovė. Šiai šeimai tai humoritiškai vadina modelio zoologijos sodu, nes jis pavadina produktus pagal gyvūnų smegenų dydžius.
Modelis, kurį jis vadina „Superfly“, yra suspausta „Hugging Face“ atvirojo kodo modelio „Smollm2 135“ versija. Originalas turi 135M parametrus ir buvo sukurtas naudojimui įrenginiuose. „Superfly“ yra 94 m parametrai, kuriuos Orús prilygsta musės smegenų dydžiui. „Tai yra tarsi musė, bet šiek tiek protingesnė“, – sakė jis.
„Superfly“ yra skirtas išmokyti labai ribotus duomenis, pavyzdžiui, įrenginio operacijas. „Multiverse“ įsivaizduoja, kad jis įterptas į namų prietaisus, leisdami vartotojams juos valdyti su balso komandomis, tokiomis kaip „Pradėti greitai skalbti“ skalbimo mašinai. Arba vartotojai gali užduoti trikčių šalinimo klausimus. Turėdamas nedidelę apdorojimo galią (pvz., „Arduino“), modelis gali tvarkyti balso sąsają, kaip bendrovė parodė tiesioginėje demonstracinėje versijoje „TechCrunch“.
Kitas modelis pavadintas „ChickBrain“, jis yra didesnis – 3,2 milijardo parametrų, tačiau jis taip pat yra daug pajėgesnis ir turi samprotavimo galimybes. Tai yra suslėgta „Meta“ lamos 3.1 8B modelio versija, rašoma „Multiverse“. Vis dėlto jis yra pakankamai mažas, kad galėtų veikti „MacBook“, nereikia jokio interneto ryšio.
Dar svarbiau, kad Oús teigė, kad „ChickBrain“ iš tikrųjų šiek tiek pralenkia originalą keliuose standartiniuose etalonuose, įskaitant kalbos įgūdžių etaloną MMLU-PRO, matematikos įgūdžių etalonus Math 500 ir GSM8K bei bendrųjų žinių etaloną GPQA Diamond.
Čia pateikiami daugialypės trukmės „Chickbrain“ testų rezultatai ant etalonų. Bendrovė nesiūlė „Superfly“ etaloninių rezultatų, tačiau „Multiverse“ taip pat nesikreipia į „Superfly“ naudojimo atvejais, dėl kurių reikia samprotavimų.
Svarbu pažymėti, kad „Multiverse“ neteigia, kad jo modelio zoologijos sodas įveiks didžiausius moderniausius modelius tokiuose etalonuose. Zoologijos sodo spektakliai netgi gali ne nusileisti lyderių lentelėse. Esmė ta, kad jos technologijos gali susitraukti modelio dydį be našumo pasiekimo, sako bendrovė.
Orús sako, kad įmonė jau derasi su visais pirmaujančiais įrenginiais ir prietaisų gamintojais. „Mes kalbamės su„ Apple “. Akivaizdu, kad mes kalbamės su„ Samsung “, taip pat su„ Sony “ir su HP. HP atėjo kaip investuotojas paskutiniame ture“, – sakė jis. Turtui vadovavo žinoma Europos VC firma „Bullhound Capital“, dalyvaujant daugeliui kitų, įskaitant „HP Tech Ventures“ ir „Toshiba“.
„Startup“ taip pat siūlo kompresinę technologiją kitoms mašinų mokymosi formoms, pavyzdžiui, atpažinimui įvaizdį, o per šešerius metus sulaukė tokių klientų kaip BASF, Ally, Moody's, Bosch ir kiti.
Be to, kad parduoda savo modelius tiesiogiai pagrindiniams įrenginių gamintojams, „Multiverse“ siūlo savo suspaustus modelius per API, esančią AWS, kurį bet kuris kūrėjas gali naudoti, dažnai už mažesnius žetonų mokesčius nei konkurentai.
