Har menneskeliggørelse af computerne betydning i forhold til offentlig service og kommunikation? Hvad vil de positive og negative konsekvenser af en sådan udvikling være?

Skal kunstig intelligens være menneskelig?

Kan en computer være menneskelig? Flink endda? Bør en computer være menneskelig? Og hvilken betydning har det for offentlig kommunikation og service? Forud for konferencen Den Digitale Borger i Idrættens Hus i januar bad vi Peter Svarre, forfatter til bogen Hvad skal vi med mennesker om kunstig intelligens, og Lars AP, primus motor i bevægelsen Fucking Flink, om svar.

Kan en computer være flink?

Peter Svarre: Nej, en computer kan ikke være flink. Den kan programmeres til at være høflig og bruge almindelige termer og sprogformer, som vi mennesker forbinder med at være flink, men at være rigtig flink forudsætter, at man er i stand til at sætte sig i andre menneskers sted, hvilket selv ikke de mest avancerede kunstige intelligenser er i stand til i dag.

Faktisk er social intelligens –eller evnen til at se tingene fra andres perspektiv –muligvis en af de allerstørste udfordringer for forskningen inden for kunstig intelligens i dag.

Lars AP: Hvis man takserer det, at en person åbner sig og lader så meget af sin menneskelighed komme til syne – hvor personen altså udviser ærlighed og sårbarhed – som døråbneren for at kunne skabe en flink situation, så er der faktisk steder, hvor computeren kan have fortrin. Få steder, men alligevel.

I behandlingen af PTSD-ramte soldater har man således i enkelte tilfælde set bedre resultater, når man lod den hjemvendte soldat tale med en robot snarere end en psykolog. Det overraskende resultat blev forklaret med, at den PTSD-ramte havde oplevet så uhyrlige situationer, at han (eller hun) af hensyn til den anden person (her altså psykologen) ikke turde fortælle detaljeret om situationen. Men til en computer–et ikke-menneske–kunne soldaten lukke helt op.

Computeren ville jo ikke få psykiske mén af at høre om den forfærdende situation.

Eksemplet er helt ude på fløjen. Men den slags skal til, hvis man skal hele vejen rundt om et emne. Jeg tænker derfor, at der – selvfølgelig – vil være steder, hvor en computer kan bidrage til en flink situation. Måske ligefrem være flink.

Men ligesom jeg hellere vil have teksten stofligt foran mig i form af en papirbog snarere end en digital version, vil jeg i langt de fleste tilfælde også hellere have mennesket foran mig snarere end maskinen.

Peter Svarre: Det er interessant, at du nævner PTSD-ramte, fordi det vækker mindelser om én af verdenshistoriens første talende kunstige intelligenser, ELIZA, som blev bygget af en psykolog og en programmør i 60’erne.

ELIZA var ekstremt primitiv, men fordi den imiterede en terapeutisk samtale, kunne den ofte slippe afsted med at skjule sine manglende evner ved bare at stille nogle flere spørgsmål. Og det gjorde den faktisk så godt, at mange mennesker følte, at de havde gavn af ELIZA, fordi de kunne åbne op og tale frit fra leveren.

Det blev starten på en konflikt mellem de to opfindere, hvor psykologen Kenneth Colby argumenterede for, at kunstig intelligens kunne være fremtiden for psykoterapi, mens programmøren Joseph Weizenbaum var en indædt modstander af at bruge computere som substitutter for mennesker. 

Weizenbaum skrev sidenhen bogen Computer Power and Human Reason, hvor han uddybede sit argument, og bogen og konflikten mellem de to skabere af ELIZA er gået over i historien som én af de vigtigste debatter om muligheder og begrænsninger for kunstig intelligens i interaktionen med mennesker.

Bør vi stræbe efter at gøre computerne menneskelige og “flinke” –eller er det en forfejlet måde at anskue maskine/menneske-interaktionen på?

Lars AP: Jeg har personligt været enormt berørt over de seneste tre-fem år af den omsiggribende tekno-fascination. Den har virkelig skræmt mig. Undret mig. Og jeg har ikke kunnet se den store idé i at poste så megen fokus og energi på teknologi, som vi som kultur har gjort over det sidste årti. Hvorfor allokere så meget dén vej samtidig med, at vi over en bred kam sulter alt det, vi som mennesker er gode til – kultur og kulturskabelse, herunder det at kunne agere flinkt og humant over for hinanden?

Hvorfor vi skal have maskiner med i dén ligning, forekommer mig at være endnu en af de her ting med, at vi – og det er sgu nok primært mænd – ikke kan foretage ret meget uden at vi liiiige skal ha’ udstyret med:

‘Skal vi ikke cykle?’

‘Jo, men først skal jeg lige købe mig en racercykel med karbonstel til langt over 20.000 kr. – og så er jeg med’.

’Skal vi ikke komme hinanden ved?’ 

‘Jo, men skulle vi ikke se, om vi kunne gøre det i VR? – for så er jeg med’.

Nå, det var følelserne. Og de grunder jo i en, tror jeg, meget udbredt angst for, hvad pokker de her maskiner kommer til at kunne. Bliver der overhovedet plads til os mennesker i en AI-fremtid? Dén frygt fik jeg til dels styret, da jeg stødte på det, Nick Cave svarede, da en fan spurgte: ‘Bliver AI nogensinde i stand til at skrive en god sang?’

We go to songs to make us feel something — happy, sad, sexy, homesick, excited or whatever — but this is not all a song does. What a great song makes us feel is a sense of awe. There is a reason for this. A sense of awe is almost exclusively predicated on our limitations as human beings. It is entirely to do with our audacity as humans to reach beyond our potential.

Når vi lytter til Kurt Cobain, siger Cave, lytter vi ikke kun til sangen. Vi lytter også til personen Kurt Cobain. Hans situation. Hans opvækst. Hans smerte. Og dén har AI ikke. AI har ‘limitless potential’, som Nick Cave skriver. Men limitless potential kan vi mennesker ikke spejle os i. Derfor vil det ikke røre os på samme måde, som når vi hører et menneske synge sangen. Når det er et menneske, defineret af sin begrænsning, kan vi identificere os. Vi kan spejle os i de menneskelige begrænsninger. 

Cave siger det meget mere poetisk: AI would have the capacity to write a good song, but not a great one. It lacks the nerve.

Så, for nu endelig at svare på spørgsmålet: Nej, jeg synes ikke, vi bør stræbe efter at gøre computerne menneskelige og “flinke”. At ville have maskiner til at udføre ‘menneskelige’ opgaver forekommer mig en forfejlet måde at anskue maskine/menneske-interaktionen på. 

Peter Svarre: Jeg er meget enig med Lars’ og Nick Caves betragtninger omkring AI og skabelsen af kunst. Vi kommer sandsynligvis til at se mange AI’er, der skaber musik –  og det gør de vel allerede? – og i mange tilfælde vil vi sikkert blive snydt og få vakt ægte menneskelige følelser af de kunstige intelligensers frembringelser.

Men i sidste ende handler kunst om en kontakt mellem mennesker – i virkeligheden er det måske selve definitionen af kunst: En måde, hvorpå vi mennesker kommunikerer det at være menneske. 

Når det så er sagt, så tror jeg, at vi får brug for at lære kunstige intelligenser at være mere “flinke” eller i hvert fald mere socialt intelligente. Jeg har lige anmeldt Thomas Bolanders nye bog om kunstig intelligens; han forsker i, hvordan man får kunstige intelligenser til at udvikle, det han kalder social perspektivtagen.

Ifølge ham bliver det meget svært at bruge kunstige intelligenser til noget fornuftigt, der har med mennesker at gøre, hvis de ikke udviser en eller anden grad af social intelligens. Et godt eksempel er selvkørende biler. Indtil videre er det blevet betragtet som en ren ingeniøropgave, der handlede om at få en robot på fire hjul til at navigere på nogle veje.

Problemet er bare, at disse veje er fyldt med mennesker, som hele tiden forholder sig til hinandens kørsel ved hjælp af sociale mentale modeller for, hvordan man agerer som menneske, når man kører bil – og disse mentale modeller er ovenikøbet forskellige fra land til land og endda fra København til Jylland. Udfordringen er, at Thomas Bolanders forskningsfelt stadig befinder sig på et kravlestadie.

Vi har fået maskinlærende neurale netværk, som kan genkende billeder og personalisere annoncer på nettet, men vi er stadig utrolig langt fra en kunstig intelligens, som kan gøre noget så simpelt som at sætte sig i andre folks sted.

Har menneskeliggørelse af computerne betydning i forhold til offentlig service og kommunikation? Hvad vil de positive og negative konsekvenser af en sådan udvikling være?

Peter Svarre: Vores store udfordring – og det gælder særligt i det offentlige – bliver, at de kunstige intelligenser i de kommende år vil blive bedre og bedre til at få os til at tro, at de er menneskelige. De kan genkende billeder, de kan tale, de kan skrive, de kan køre bil (sådan da), og det vil være rigtigt fristende at sætte de kunstige intelligenser til at løse flere og flere menneskelige opgaver. 

I mange tilfælde vil det give mening, men når det helt specifikt handler om opgaver, der har med mennesker at gøre, hvor der kræves social perspektivtagen – eller flinkhed, vil vi opleve, at maskinerne har alvorlige begrænsninger.

Problemet er, at selvom de er stærkt begrænsede, er de stadig utrolig skråsikre, fordi de er ude af stand til at føle tvivl og stille spørgsmål ved deres egne forudsigelser, kategoriseringer og beslutninger. Hvis vi blindt sætter kunstige intelligenser til at træffe vigtige beslutninger i situationer, der har med mennesker at gøre, risikerer vi at sætte grundlæggende frihedsrettigheder over styr.

Når det offentlige i dag forholder sig til borgere, betragtes borgeren som et suverænt retssubjekt med en række beskyttede menneskerettigheder. Det er ikke sådan, kunstige intelligenser ser verden. De ser blot datapunkter og statistiske sammenhænge mellem datapunkter.

Borgere, der bor i bestemte boligområder, med bestemte navne og et bestemt antal børn, har en større sandsynlighed for, at være en udgift for en kommune. For den kunstige intelligens er det ikke borgeren, der er vigtig; det er borgeren i relation til en lang række mere eller mindre tilfældige datapunkter.

Spørgsmålet er, om vi vil leve i en verden, hvor vi ikke længere betragtes som suveræne individer, men blot som punkter i en sky af data. Det er dette spørgsmål, der bør være højt på agendaen i den offentlige sektor, når man diskuterer brug af kunstig intelligens, maskinlæring og neurale netværk.

Lars AP: For det første kan man spørge: Har vi brug for menneskeliggjorte computere? I samfundsdebatten taler vi om det, som om det nødvendigvis må komme. Men altså … det er til syvende og sidst op til os at afgøre, hvor langt vi vil gå ad den vej.

Det er ikke, fordi jeg har et horn i siden på teknologi. Kun på vores hovedløse fascination af den. Og når det gælder menneskeliggørelse af computere, vil jeg stille spørgsmålet, om vi udvikler ad dén vej, fordi vi har brug for den. Eller bare fordi vi kan. 

Vi er i dag i stand til at udvikle atombomber, betting-sites, 8-hjulstrækkende Hummers og jeg-skal-komme-efter-dig, men mange af disse udviklinger sætter vi fornuftigvis regulative grænser for på grund af de potentielt ødelæggende effekter af at have atombomber på hvert andet gadehjørne, unge mænd, der i hobetal falder i for ludomani og urimeligt højt ressourceforbrug og forurening til privat transport.

Marx talte om, at lønarbejderen blev fremmed over for sit arbejdsprodukt og dermed over for sig selv. Det var en kritik af den industrielle revolutions arbejdsmarked. Hvad så, hvis vi skulle lave en kritik af det offentlige samfund i dag? Er vi i dag ved at fremmedgøre os fra hinanden og fra selve livet i vores iver efter at teknologisere?

Forskning viser, at det vigtigste for, at vi holder os raske, rørige og i live, er … kontakt med andre mennesker. Ikke dyb og inderlig kontakt nødvendigvis, bare de små glimt af menneskelig interaktion, de såkaldte micro-momentsaf interaktion, vi har med hinanden. De er eksistentielt betydningsfulde for os. Der er en grund til, at den største straf, vi kan give et menneske, er at isolationsfængsle vedkommende. Han får et sengeleje. Føde. Men vi sulter ham på det, han har allermest brug for, nemlig menneskelig kontakt. 

Og mit spørgsmål er altså, om vi ikke er ved at gøre præcis dét ved vores samfund, os selv og hinanden ved at insistere på at introducere teknologi, hvor den overhovedet kanintroduceres.

Jeg var ude at holde oplæg på et revisionskontor i provinsen forleden. Dér havde man tradition for at mødes kl. 10 hver morgen. Hele organisationen. Da jeg spurgte undrende til, hvorfor de mødtes sådan hver dag, på samme tid – allesammen, fortalte en af partnerne, at det var en tradition fra dengang, man ikke havde kaffemaskiner. Hvor den første kop kaffe blev lavet og serveret klokken 10. Siden da har vi fået kaffemaskiner i køkkenet, vi har fået Wittenborg-kaffeautomater på gangen, og vi kan stå og bande over mælkepulveret, der bliver spyttet ud af den teknologiserede kaffeautomat.

Men sørenjensemig om ikke næste skridt på udviklingen har bragt os på bedre tanker. I dag kan man ikke svinge en kat i en større dansk provinsby uden at vælte en latte ned fra disken i den lokale kaffebar. Her bliver kaffen brygget med håndværksmæssig stolthed og stor menneskelig koncentration.

En kop kaffe. 

Hvordan vi kan tro, at det vil blive andet end en tynd kop menneske, vi får ud af at køre os selv igennem den Wittenborg-maskine af teknologisering, vi synes fast besluttet på at introducere, forstår jeg simpelthen ikke. 

Peter Svarre: Det er sjovt, at du bringer kaffe på banen. I min bog om kunstig intelligens, nævner jeg netop baristaen som svaret på, hvad vi skal lave i fremtiden.

Lars AP og Peter Svarre holder begge oplæg på Konferencen Den Digitale Borger, som finder sted 30. januar i Idrættens Hus.

Denne artikel er også udgivet på Kforum.