Det københavnsbaserede open-source-startup NobodyWho har rejst 15 mio. kr. i pre-seed-finansiering fra PSV Tech, The Footprint Firm og Norrsken Evolve for at fremme Europas konkurrenceevne inden for global AI.

Bag løsningen som co-founder & CEO er den i kunstverdenen velbevandrede Cecilie Waagner Falkenstrøm, som siden 2016 har arbejdet med LLM’er. Nu er Cecilie ved at udbrede en inferensmotor, der tillader, at små sprogmodeller (SLM’er) kan køre lokalt – både omkostningseffektivt, datasikkert og klimavenligt.

Teknologien er allerede taget i brug af mere end 5.000 udviklere globalt, som bruger NobodyWhos open source SLM-engine via GitHub og tilknyttede udviklerfællesskaber.

Forretningsmodellen ligger i alt det omkringliggende: værktøjer til fine-tuning, enterprise-features og support. Lige nu er fokus primært på den videre opbyggelse af udbredelse og adoption blandt udviklere med en kerne af teknologien, der er gratis – før der skrues op for de kommercielle lag, fortæller Cecilie Waagner Falkenstrøm.

Små sprogmodeller: Europas AI-fordel?

Dagens cloudbaserede LLM’er kontrolleres som bekendt af amerikanske tech-giganter, der kræver massive beregningsressourcer, enorme datacentre, konstant internetadgang og overførsel af store mængder data til tredjepartsservere. Det betyder høje omkostninger, lock-in og et strukturelt tab af europæisk datasikkerhed.

I dag er der ét land i verden, der sidder på næsten hele AI-værdikæden fra bund til top. Det gælder:

• Hele AI-hardware-laget med GPU´er ved navnlig NVIDIA (sammen med AMD, Groq og Cerebras)
• Stort set hele cloud-laget hvor tre Big Tech virksomheder sidder på 70% af verdens cloud med AWS, Azure og Google
• De store AI-modeller gennem frontier labs som OpenAI (Microsoft), Antropic (Amazon), DeepMind (Google) – hvor aktørerne på de allerede nævnte øvrige lag altså også er tungt involveret og investeret.

Det er altså det sidste lag, som Cecilie Waagner Falkenstrøm forsøger at tage kampen op mod. Hun tror ikke på størrelse eller kapacitet som et fremtidigt konkurrenceparameter for AI-modeller.

– ”Mens resten af verden kæmper om at udvikle stadig større LLM’er baseret på en ”større er bedre”-tilgang, tror vi, at det næste spring fremad inden for AI vil være at gøre modellerne mindre, lokale og menneskecentrerede. Fremtiden for AI vil ikke blive vundet af størrelse, men af decentraliserede modeller, som alle kan køre på deres egne enheder,” siger Cecilie Waagner Falkenstrøm.

NobodyWho’s løsning har, fortæller Cecilie, en motor, der gør det muligt for små sprogmodeller (SLM’er) at køre lokalt på bærbare computere og mobiltelefoner, så organisationer og enkeltpersoner bevarer fuld kontrol over deres data.

Med en enhedsbaseret arkitektur behøver ingen data at forlade enheden, hvilket muliggør reel datasuverænitet og privatlivsbeskyttelse.

AI-kunst eller kunst baseret på kunstig intelligens

Cecilie Waagner Falkenstrøm, der nu har sat NobodyWho i søen, har i mange år slået sine folder i kunstverdenen, hvor hun har udforsket mødet mellem mennesker og digitale medier og navnlig AI.

– “Lidt populært sagt, laver jeg AI-kunst eller kunst baseret på kunstig intelligens”, har Cecilie Waagner Falkenstrøm tidligere fortalt til mediet Artmatter. Set i det lys vil det være en anden slags kunststykke at omsætte den kunstneriske forståelse til et reelt, teknologisk alternativ til de cloudbaserede LLM’er, som i dag dominerer AI-landskabet.

Falkenstrøm har som nævnt arbejdet med machine learning og LLM-baserede systemer siden 2016. Hun har modtaget Lumen Prize to gange (2017 og 2021), fået en Honorary Mention fra Prix Ars Electronica (2023) og står bag verdens første AI-kunstværk sendt i kredsløb ombord på NASA’s del af Den Internationale Rumstation.

For PSV og Christel Piron, co-founder & general partner i PSV Tech, er bekendtskabet med Cecilie Waagner Falkenstrøm ikke nyt.

– ”Jeg har kendt Cecilie i næsten ti år og har med egne øjne set, hvordan hun konsekvent forvandler dristige ideer til reel, fungerende teknologi. Det var en selvfølge for os at støtte NobodyWho: Det er et exceptionelt team, der bygger en vigtig europæisk AI-infrastruktur, der beskytter privatlivets fred, er energieffektiv og tilgængelig for udviklere og virksomheder overalt – præcis den type teknologi, PSV Tech eksisterer for at støtte, og som vi gerne vil se udbredt fra Norden”.

Klimavenlig AI

Selvom lagring af data såvel som træning af LLM-modeller som bekendt er ekstremt energikrævende, formår det ofte at gå under radaren, når Big Tech og Frontier Labs udruller nye ekspansionsplaner og lancerer nye modeller.

Der har dog i diverse medier kørt en strøm af historier, som har afdækket det markante CO₂-aftryk, som træning og drift af store sprogmodeller i massive datacentre medfører.

Det forsøger NobodyWho at gøre op med, hvilket gør det til en case for impact-fonde som Norrsken og The Footprint Firm.

– “Ved at gøre det muligt at køre højtydende SLM’er direkte på brugernes enheder reducerer de CO₂-aftrykket fra AI-inferensen betydeligt”, lyder der fra Sofie Käll, CIO hos The Footprint Firm. Hun fortsætter:

– ”Dette er en transformativ klimateknologisk mulighed i en af de hurtigst voksende emissionskategorier, og vi er glade for at støtte et team, der er i stand til at flytte branchen i retning af mere ansvarlig AI”.

Tidlige tests viser op til 100 gange mindre strømforbrug til træning og op til 500 gange mindre strømforbrug til inferens.

Herudover hæfter man sig hos The Footprint Firm ved, at løsningen forbedrer databeskyttelsen, sænker driftsomkostningerne og styrker den europæiske AI-suverænitet.

– ”NobodyWho er pioner inden for den infrastruktur, der gør disse ultraeffektive modeller virkelig plug-and-play for udviklere”, siger Sofie Käll til Bootstrapping.

Ny spilleplade i AI-verdenen kan blive vores fordel

Hvis AI-spillepladen ændrer sig radikalt, og der kommer nye regler for data, sikkerhed og energieffektivitet vinder frem, kan lokalt forankret AI, som open-source-udfordrere, blive essentielle brikker.

Små, åbne sprogmodeller kan udfordre Big Tech dér, hvor AI skal køre lokalt, være energieffektiv, leve op til stramme regulatoriske krav eller indgå i specialiserede, kritiske systemer.

I disse miljøer kan kontrol, tilpasning og datanærhed meget muligt vinde over den rå skala – som Cecilie Waagner Falkenstrøm ikke tror, bliver den styrende faktor for fremtidens AI.

Den store udfordring er naturligvis lige nu, at de store LLM-modellers magt ikke primært ligger i modellerne, men i lagene omkring dem, hvor de i vid udstrækning ejer operativsystemerne og cloud-infrastrukturen – og dermed fortsat let kan absorbere nye teknologier og gøre dem til features.

Bootstrapping Media og Danske Tech Startups samler hen over den næste tid native AI-founders for at forsøge at udvikle et AI Policy Manifest for, hvor AI-udviklingen kan accelereres ud fra en founder-tilgang. Hvis du vil være med til at præge dette, der kan få stor indflydelse på en dansk AI-position, hører vi meget gerne dine input! Skriv til nikolaj@bootstrapping.dk