Robotterne kommer. IBM lancerede for nylig en debat-robot. Men er det egentlig muligt? Kan man debattere uden egentlig at kunne ræsonnere? Og har vi grund til at være bange for udviklingen inden for AI?

IBM’s nyeste supercomputer, Project Debater, der er baseret på AI, bestod sin prøve forleden i San Francisco, hvor den debatterede med to menneskelige kombattanter.

Dens evne til at generere gode argumenter ud af et arkiv af hundredtusindvis af tekster er imponerende. Umiddelbart virker den til at indfri de mange forsøg i historien på at skabe et system til at generere så mange argumenter som muligt.

Allerede de gamle grækere og romere drømte om argument-maskiner, der kunne hjælpe taleren i inventio-fasen, der hvor han finder sit stof og gode grunde. Men hvor de gamle skrev ud fra en humanistisk vision om taleren som samfundets støtte og redningsmand, så er debat-maskiner flintrende ligeglade med menneskehedens skæbne.

Det gav et gys i mange, da IBM’s Deep Blue tilbage i 1997 vandt i skak over stormesteren Gary Kasparov, og da supercomputeren Watson i 2011 vandt overlegent i Jeopardy. Pludselig stod det lysende klart, hvilke enorme muligheder der er i AI, artificial intelligence (kunstig intelligens), der faktisk har været undervejs i flere årtier.

Det er blevet en del af vores hverdag, selvom de fleste ikke møder så mange andre synlige resultater end den hjælpende Siri på deres Iphone – eller andre web bots.

En efterfølger til Watson, IBM’s supercomputer, er Project Debater ( herefter PD), der i sidste uge blev præsenteret i San Francisco foran et større publikum. Ifølge IBM’s egen hjemmeside (”AI learns the Art of Debate”, 18/6) og de mange avisartikler skulle PD debattere med to personer, først Noa Ovadia (en af udviklerne) og dernæst Dan Zafrir.

Debattørerne fik præsenteret et emne, som de så skulle argumentere for eller imod. Det første var ”Skal udforskningen af rummet have økonomisk støtte?”, det andet ”Skal brugen af telemedicin udvides?”. Både menneske og computer fik fire minutter til at argumentere for deres synspunkt, dernæst fire minutter til at gendrive det (dvs. fremføre mulige modargumenter for at komme modstanderen i forkøbet) og endelig to minutter til den afsluttende konklusion.

Publikum – hvoraf en betragtelig del var ansatte hos IBM – stemte for PD som vinder, hvad angik argumenternes substans, men som taber i forhold til fremførelse. PD fremstod som en høj sort søjle med en blå animeret ”mund”, der kunne vise reaktioner på modstanderens indlæg.

Det var et design, der minder mere om den stærkt ubehagelige Hal fra Space Odyssey 2001 end om de nuttede robotdyr, der bruges i sundhedsplejen visse steder, f.eks. i behandlingen af demens. Trods sit dystre ydre er PD i stand til at gennemsøge millioner af tekster, såsom avisartikler om mange forskellige emner, og uddrage de relevante afsnit.

Endnu mere imponerende, og det egentlige nye, er, at PD kan konstruere argumenter i en flydende prosa, her fremført med en behagelig kvinderøst.

IBM’s forskningscenter i Israel har brugt flere år på at udvikle PD, der skulle være i stand til skrive og fremføre taler, lytte til taler og identificere de vigtigste emner samt formulere sammenhængende argumenter.

Hvor skak er et spil med et afgrænset antal træk, er menneskeligt sprog et uhyre komplekst sammenspil af udsagn og modsvar, verbale og paraverbale ytringer, bogstaveligt og overført.

Udviklerne af PD har brugt den pragmatiske sprogforskning og de minutiøse sprogstudier kendt som conversational analysis, CA (samtaleanalyse), men der er stadig nogle slående forskelle. PD gentog sig selv, kom til at røbe, at den citerede, og trods en enkel vellykket vits er dens evne til at gribe øjeblikket og returnere med f.eks. et ordspil stærkt begrænset.

Sprog er jo andet end faktuelle udsagn. Sprogforskeren Roman Jakobson regnede med ikke mindre end seks forskellige funktioner af sproget (de poetiske, fatiske, konative, emotive, referentielle og metasproglige funktioner), og PD er stærkest på den referentielle sprogfunktion; det at videregive informationer.

Topikken – kunsten at finde gode argumenter

Udviklerne af PD er optimistiske, hvad angår de mange nye muligheder: PD kan assistere jurister, forretningsfolk, politikere, journalister og andet godtfolk med at finde de bedst mulige argumenter og dermed give et bedre beslutningsgrundlag. PD er en avanceret maskine til at generere argumenter, og som sådan er den bare det sidste led i en meget lang retorisk tradition. Aristoteles skitserede i 4. årh. fvt., hvordan argumenter er bygget op, både i filosofiske slutninger (syllogismer) og i retorisk argumentation (enthymemer).

I syllogismen er der tre dele: En over- og en undersætning med et fælles element, der sammenlagt giver en gyldig konklusion, hvis de to sætninger altså er stillet korrekt op (”alle mennesker er dødelige, Sokrates er et menneske, ergo er Sokrates dødelig”). Det var lige præcis det, Erasmus Montanus ikke gjorde, da han ”beviste”, at Lillemor var en sten, fordi hun ikke kunne flyve.

I debatter og beslutninger nøjes vi med én præmis, når vi konkluderer; resten er underforstået, mente Aristoteles. Aristoteles’ modeller er forenklede, men de har ikke desto mindre præget alle forsøg på at finde en struktur i menneskelig argumentation lige siden. De gamle retorikere var også enige om, at argumenter føjes sammen i en tale med en indledning, en bevisførelse, en gendrivelse og en konklusion, just som opgaven lød forleden i San Francisco.

En ting er argumentets struktur, noget andet er dets indhold. Aristoteles udviklede topikken som en hjørnesten i retorikken: den systematiske søgen efter argumenter på bestemte ”steder”, topoi, dvs. synspunkter og holdninger fra det retoriske folkedyb. Topoi er argumentationsstrategier, hvormed man kan udvælge sine præmisser og drage konklusioner ud fra antagelser, publikum deler. Topoi kan godt sammenlignes med skaktræk, fordi intentionen er at pille modstanderens argumentation fra hinanden og vinde i en debat.

Der er ifølge Aristoteles’ Retorik nogle overordnede topoi: argumenter ud fra det mulige og umulige hvorvidt noget er sket eller ikke sket eller ud fra større eller mindre. Disse kan bruges i alle tre retoriske genrer, den politiske, juridiske og epideiktiske (lejlighedstalen).  Der er også mere specifikke, der hører til hver af de tre retoriske genrer eller særlige situationer; han har en liste med 29 retoriske topoi, såsom modsætning, gensidigt forhold, forholdet mere/mindre. Pointen er, at enthymemets præmisser skal afspejle publikums (ringe) viden, men taleren skal være i besiddelse af udførlig viden om de f.eks. politiske forhold, der tales om.

Stasis-teori og oparbejdning af argumenter

Topikken kom senere til at indgå i stasis-teorien, der er en systematisk metode til at finde argumenter. Stasis-læren skulle gøre det muligt for begge parter i en retssag at finde ind til de afgørende stridspunkter og finde frem til relevante argumenter ud fra de passende topoi. Der er fire staseis, trin/holdepunkter, der blev illustreret med følgende eksempel fra juraen.

Hvis en mand opdages i færd med at begrave et lig et øde sted, må man først spørge: Begik han mordet? Dette er stasis conjecturalis. Anklager og forsvarer kan trække på en række topoi i deres argumentation (mandens karakter, drabets karakter, sandsynlighed, tegn). Hvis det imidlertid er sikkert, at manden begik mordet, er spørgsmålet, hvordan mordet skal defineres (stasis definitivus). Som manddrab, selvforsvar, sejr over fjenden, osv.

Hvis handlingen er defineret som mord, må man spørge til dens kvalitet: Var det retfærdigt, ærværdigt, nyttigt, kort sagt er der formildende omstændigheder? Dette er stasis qualitatis. Hvis anklagen stadig lyder på mord, er den sidste stasis, man kan tage tilflugt til, spørgsmålet om fortolkningen af loven og om domstolens berettigelse til at føre sagen: stasis translativus.

Cicero formulerer stasis-teorien meget kort i sin Om Taleren fra 55 fvt.: ” … når noget kommer til debat, plejer [man] at formulere spørgsmålet enten således: ’Er det foregået eller er det ikke?’ og hvis det er: ’Af hvad art er det?’ eller ’Hvorledes benævnes det?’ – eller, som nogen tilføjer: ’om det må siges at være foregået inden for lovens rammer’.”

Men selvom systemet er enkelt, kræver det masser af arbejde, træning og erfaring, før det sidder på rygmarven. Det er først i en moden alder, at en taler har dette indre arsenal af argumenter, strategier (topoi) og klassifikationer i en grad, så han ikke behøver at tænke over det: Det er som at kunne bogstaverne, som man ikke tænker over, når man læser.

Cicero hævder, at enhver sag kan føres tilbage til et generelt spørgsmål, og derfor er det muligt at samle de i princippet uendeligt mange sagstyper under nogle få hovedpunkter og grundsynspunkter [dvs topoi], som taleren må beherske. Han er praktikeren, der udfolder stasis-teori og topikken til en produktiv disciplin, der skal hjælpe med at skabe nye argumenter.

Denne mere kreative side af topikken fortsættes af Quintilian og Hermogenes; den sidste udvikler et omfattende og fintmasket system af kategorier, som juristen skal gennemgå for at være sikker på at have overvejet alle argumenter pro et contra i en given sag. Dermed kan han anlægge den skarpeste vinderstrategi, netop fordi han er forberedt på alle modstanderens modargumenter. Hermogenes taler om ergasia, arbejdet med at oparbejde et væld af argumenter, hvoraf man udvælger de bedste.

Argument-maskiner

Hermogenes’ fintmaskede systematik blev brugt i århundreder i Byzanz, mens man i den vestlige del af Europa var mere optaget af skolastiske underinddelinger af argumenter i middelalderen. De lærde skolastikere i Sorbonne og Oxford disputerede dog også pro et contra, men kun om filosofiske emner, og fulgte det samme skema (bevisførelse, gendrivelse, konklusion) som PD og debattørerne i San Francisco.

I renæssancen kommer Hermogenes’ græske tekster til Italien og resten af Europa, og det giver inspiration til flere store værker om argumenters struktur og deres indhold (af f.eks. Agricola og Erasmus). Som Holbergs Erasmus Montanus viser, var den skolastiske måde at disputere på indgroet i skole og universitet, men det blev den nye naturvidenskab og den rationalistiske filosofis tro på det absolut sande argument, der kom til at dominere frem til det 20. årh.

De skolastiske ”argument-maskiner” (det kaldte man dem faktisk senere), hvor et filosofisk eller teologisk tema undersøges ud fra en lang række punkter og underpunkter (alt sammen i treleddede syllogismer), er det, der umiddelbart byder sig til i en digital sammenhæng. De er på sin vis begge binære logikker. Men retorisk argumentationslære fra Aristoteles til Erasmus er mere labyrintisk og vildtvoksende, simpelthen fordi mennesker argumenterer vildt og ”irrationelt”, når det drejer sig om politik – ja, om alt andet end filosofi.

Følelser og kontekst er vigtige; forbindelsen med et publikum griber ind og bestemmer argumentationens rækkefølge. En offentlig debat som den mellem PD og et menneske er nemlig ikke en kamp mellem to aktører, for det drejer sig om at overbevise tredjepart, publikum. Derfor er det så vigtigt at kende publikums normer.

Her kommer PD til kort. Som udviklerne af programmet også erkender, er det langt fra at kunne det samme som naturlige sprog (jfr. artiklen på cnet.com). PD kan skabe argumenter baseret på tidligere argumenter og ved at inddrage pointer fra f.eks. Wikipedia (technologyreview.org). Hvor meget PD egentlig kan over for et publikum, der bryder ind og ikke er positivt indstillet, som IBM-folkene forleden, det står ikke klart.

Alligevel var det imponerede, at PD kunne give så mange argumenter, citere politikere og endda forudgribe modstanderens argumenter, måske det vigtigste i de gamle retoriske argument-maskiner. Computere har modsat mennesker en nærmest uendelig hukommelse, så udviklerne af PD har sikkert ret i, at den kan være nyttig for jurister og politikere.

De sidste er tydeligvis ikke særligt kreative eller systematiske, når de argumenterer. De første, har jeg ladet mig fortælle, er heller ikke for gode til at belyse en retssag fra alle relevante vinkler, og det kan være til skade for retssikkerheden. Journalister slipper for at skrive de samme forudseelige ledere med de samme forudseelige meninger og kan bruge tiden på at tale med virkelige mennesker, som New York Times så vittigt skrev.

Teknokrati eller demokratisk paradis?

At PD skulle kunne forbedre både forretningslivet og demokratiet, er et argument, der er såre velkendt fra teknologihistorien. Som den franske idehistoriker Paul Virilio har beskrevet, er alle nye teknologier de sidste par hundrede år blevet solgt med det argument, at de ville kunne fremme demokratiet. Virilio er ikke overraskende skeptisk og hævder, at det eneste, vi kan konstatere med sikkerhed, er, at alting går hurtigere og hurtigere. Det kan være farligt, som computernes indtog på børserne, den amerikanske valgkamp i 2016 og fake news på de sociale medier allerede har vist os med finanskrise og Donald Trump som resultat.

PD havde en vits, der fik publikum til at le: “I cant’t say it makes my blood boil, because I have no blood, but it seems some people naturally suspect technology because it’s new”. Det var naturligvis en indlagt vits, menneskeskrevet, men PD kunne også indføje et ”being as I am a prime example of its power”, da det talte for brugen af teknologi i sundhedsvæsnet. Det sjove var inkongruensen mellem det måske mest menneskelige, evnen til at le, og den maskinelle sci-fi-fremtoning.

PD består af en række forbundne computere, men fremstod som en sort søjle. Det Hal-agtige blev til dels opblødt af den velklingende kvinderøst. Det er bemærkelsesværdigt, at alle disse assistenter, Siri, Alexa og andre web bots, GPS-damer (man kan nu heldigvis også få mandestemmer) og nu også denne argument-assistent, er konstruerede som kvindelige væsner. Måske fordi der ikke findes nogle mandlige jobbetegnelser, hvori ”assistent” indgår?

via GIPHY

Og hvilke andre mere skjulte normer følger med denne tilsyneladende neutrale argument-robot, må man ideologikritisk spørge om.

Det er snedigt af PD (og i bedste Hal-stil) at tegne et billede af en modvillig tilhører som en tilbageskuende og reaktionær teknologikritiker, for det er at vaccinere mod kritik. Hvem kan have noget imod en maskine, der kan være med til forbedre demokrati og retsvæsen?

Udover Virilio har Stephen Hawking ytret betænkeligheder ved kunstig intelligens, og han var var endda helt afhængig af den: Til sidst kommunikerede han ved hjælp af en enkelt muskel i sin kind. Det var også hastigheden, der gjorde Hawking bekymret, for maskinerne kommer ud af kontrol netop på grund af den accelererende hastighed.

Argument-maskiner, både de gamle og den helt nye, er redskaber, og det er menneskers intentioner, der afgør, om de bruges til godt eller ondt.

Robotterne kommer næppe til at gøre opgør, som i teaterstykket af Karel Capek (han opfandt ordet robot) fra 1920, hvor robotterne er maskinelle slavearbejdere, der smider menneskene fra magten.

Problemet er bare, at de kan komme til at leve deres eget frenetiske liv – uden den sans for begyndelse og slutning, som dødelige mennesker besidder.

 

Denne artikel er også bragt på kforum.dk