Striden mellem sikkerhed & regulering overfor innovation & profit har udspillet sig som et ”åbent” drama i OpenAI. Knap så åbent ser det ud, når man zoomer ind på betydningen af begivenhederne. De kan mere ligne, at kampen om at kunne regulere tech-giganterne, kan være tabt. Vi har spurgt AI-kyndige Casper Wilstrup, CEO i Abzu og Lars Fløe, Nordic Makers investor og co-founder af Sitecore.

Få dage efter meldingen om Sam Altmans exit kom det frem, at store dele af de ansatte hos OpenAI var klar til at sige op i protest. Kaos eksploderede i verdenspressen, og spekulationerne om hvor det ville stille verdens AI-pioner, OpenAI, ville ingen ende tage.

Storaktionær Microsoft og OpenAI har ikke kunne lade være med at ryste på hænderne over, hvilke følger det kunne skabe for positionen som verdens foretrukne AI-værktøj og udsigten til at blive verdens 8… tech-monopol.

 

Regulering vs. Innovation

Hvis ikke fyringen af Altman er et stunt, så må man undre sig over baggrunden og den manglende evne til konsekvensberegning hos bestyrelsen.

Altman er blevet en institution i sig selv, der som Rachel Wells skriver i Forbes, leder naturligt gennem indflydelse og visioner, og dermed ikke behøver at arbejde for sine medarbejderes ubetingede loyalitet.

Men det dækker bare over det essentielle. Alle involverede hos OpenAI kunne have forudset, at målet om at fremme en kunstig intelligens til gavn for menneskeheden, uden at være bundet af kravet om at skabe profit med så potent en teknologi, er naivt og noget af et paradoks.

”Det (at bygge OpenAI red.) kræver naturligvis kvalificeret mandskab, men i OpenAI er det primært gigantiske investeringer i infrastruktur”, siger Lars Fløe Nielsen, co-founder i Sitecore til Bootstrapping.

Siden den første mia. dollars blev tilført i 2019 fra Microsoft – som dengang nærmest gik under radaren – har for-profit-målet gradvist udvisket AI-idealismens open source til fordel for en black-box AI-model, hvor al forskning, data og resultater hverken kan verificeres eller reproduceres.

OpenAI´s visioner og mål for et open source frit tilgængeligt for offentligheden, behøver ifølge Casper Wilstrup, CEO i Abzu, ikke at have betydning for, om man forsøger at generere profit, ”men det må ikke påvirke deres udvikling”.

Da det første spadestik til konflikten mellem forretningssiden og nonprofit-siden, blev taget ved, at OpenAI skabte en for-profit-gren for at rejse hårdt tiltrængt kapital til computerressourcer, vidste ledelsen i OpenAI godt, at det var i clinch med grundidéen. OpenAI meldte hurtigt ud, at tiltaget udelukkende havde det mål at gavne menneskeheden, og at deres primære mål fortsat var at skabe “sikker og gavnlig” AI. For at gøre det helt klart, at der ikke var grund til bekymring, sørgede man for, at bestyrelsesmedlemmer i OpenAI – valgt så de var uden økonomisk interesse i virksomheden – kunne stemme om beslutninger, hvor investorernes interesser og nonprofitorganisationens mission kom i konflikt.Før eller siden måtte bægeret flyde over. Det skete så i sidste uge.

OpenAI har forsøgt at sænke farten og holde fast i de oprindelige mål med tiltag som et profitloft i virksomheden, hvor beløb over 100 gange investeringen skal bruges til at fremme den oprindelige mission.

”Det har nu tydeligt vist sig, at bestyrelsen i OpenAI ikke var i stand til at holde fast i missionen. Mit bud vil desværre være, at de heller ikke vil være i stand til at holde fast i principperne for profitloftet”, siger Casper Wilstrup.

 

Et spørgsmål om fortolkning

Det vil, som med al AI-udvikling blive en diskussion om progressiv innovation overfor sikkerhed og etik gennem regulering, som vi senest har diskuteret på Bootstrapping i AI investor amok. Er AI vejen til himmel eller helvede?

Fyringen af Altman handler, som Casper Wilstrup udtrykker det, om fortolkning af det oprindelige formål. ”Den daværende bestyrelse var idealistisk og handlede formodentlig for at sikre, at formålet blev opretholdt, men presset blev tydeligvis for stort. Især da medarbejderne i stor stil truede med at forlade virksomheden”.

Det forlyder, at en række forskere fra OpenAI forud for Altmans fyring, skrev et brev til bestyrelsen, hvori de advarede om de potentielle farer ved det interne projekt Q-Star, som kunne markere et gennembrud i forsøget på at skabe en Artificial General Intelligence (AGI).

”Ansatte i OpenAI har under anonymitet røbet, at Q-Star i øjeblikket kan løse matematiske problemer på niveau med en gymnasieelev. Hvis det er korrekt, så står vi med en meget mere moden AI-model, end den GPT vi kender, som er god til analyse og at generere indhold ud fra erfaringer. En ny model vil altså tænke ægte kreativt”, fortæller Lars Fløe.

Modsat dele af bestyrelsen skulle Altman have haft en positiv tilgang til AGI.

”Selvom Altman selvfølgelig er opmærksom på problemet, så mener han, at en superintelligens faktisk vil bidrage til verden, frem for til dens undergang”, uddyber Lars Fløe, der ser to mulige udfald for Altmans tilbagekomst: ”Enten fortsætter virksomheden med deres enorme investeringer i AGI (og hardware), eller også har Altman indvilliget i at sikre endnu større investeringer i etisk AGI”.

 

Altman og innovationen vandt

Meget kan pege på, at yderligere investeringer i AGI, som Lars Fløe nævner, bliver den sti, man fortsætter ned af.

Det lykkedes ikke den nu daværende bestyrelse at få sat en bremseklods i udviklingen. Bestyrelsens mand, Twitch-chefen Emmett Shear – der tidligere har advaret om en 50 % chance for, at kunstig intelligens udvikler sig så hurtigt, at den kommer ud af kontrol –  nåede at være interim CEO i 3 dage, inden Altman var tilbage. Som del af ’modkuppet’ blev de mere altruistiske folk i bestyrelsen erstattet med tech-bosser som Bret Taylor, Shopify og Adam d’Angelo, Quora samt Larry Summers, USA’s tidligere finansminister.

Den daværende bestyrelse var idealistisk og handlede for at sikre, at formålet blev opretholdt. Men presset blev – som man kunne have forventet – for stort, fastslår Casper Wilstrup. ”Især da medarbejderne i stor stil truede med at forlade virksomheden. Reelt ville dét, at folk var gået, jo bare have betydet, at OpenAI var fortsat under et nyt navn – nu fuldt ud under Microsofts kontrol.”

Microsoft har i alt investeret ca. 13 mia. $ i OpenAI. Profithensynet i en monopolistisk tech-verden trumfer på sigt alt andet. Investeringer i den kaliber umuliggør, at du kan bevare dit oprindelige mål og sin autonomi, fastslår Lars Fløe Nielsen.

”Jeg tror, at enhver virksomhed som investerer knap 91 mia. kr. i en vækstvirksomhed – som OpenAI var på dét tidspunkt – vil forvente afkast i deres investering. Om det er Microsoft eller anden virksomhed, tror jeg er underordnet”.

OpenAI er førende spiller i AI-kapløbet. Men det er kun indtil, de ikke længere er villige til eller har mulighed for at kapitalisere på den kunstige intelligens.