Instruktør: Det er uforsvarligt at bruge Kunstig intelligens

Tonje Hessen Schei, instruktør af en ny dokumentar om kunstig intelligens advarer om, hvor galt det kan gå, hvis man ikke indfører kontrol med de store aktører. - Vi er trådt ind i en helt ny algoritmisk verdensorden, der påvirker hele vores samfund. Den bliver vi nødt til at forholde os mere kritisk til.

Når publikum, under den kommende dokumentarfestival CPH:DOX, der i år afvikles over nettet på grund af faren for smitte med coronavirus, sætter sig til rette i sofaen for at se iHuman, en ny dokumentar om kunstig intelligens, vil det første, de møder, være et berømt dommedagscitat fra fysiker Stephen Hawking.

‘Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last’ fremtoner de store, hvide bogstaver med en alarmerende klang, som understreges af en dyster underlægningsmusik, der leder tankerne hen på fiktive sci-fi-dystopier.

Det dystre citat lægger grundtonen i Tonje Hessen Scheis dokumentar, hvor den norske instruktør gennem en lang række interviews med eksperter diskuterer den teknologisk revolution, der på sigt vil og allerede nu er ved at omforme vores liv og det samfund, vi lever i.

Mød Edward Snowden til premieren

iHuman får Danmarkspremiere på dokumentarfilmfestivalen CPH:DOX, som i år afvikles online som følge af COVID-19. I forbindelse med visningen vil DR’s tech-korrespondent Henrik Moltke tale med Edward Snowden i et live-interview fra hans eksil i Rusland.

Debatten finder sted den 23. marts og kan streames fra festivalens hjemmeside

iHumans instruktør om Snowdens opbakning til filmen: Det er meget stort for os, at Edward Snowden vil bakke op om filmen. Det er en naturlig udvikling for ham at gå fra at se på, hvordan vi bliver overvåget, til hvordan kunstig intelligens forstærker overvågningen. Det er derfor meget relevant at høre, hvilke perspektiver han kan bidrage med.

Og ikke – som Hawking-citatet illustrerer – nødvendigvis kun til det bedre, forklarer Tonje Hessen Schei, da jeg fanger hende over en Skype-forbindelse fra Trondheim filmfestival, hvor hun var inviteret til at præsentere sin film.

– Kunstig intelligens er allerede overalt i dag, og at vi bliver mere og mere afhængige af maskiner, som er mere og mere intelligente og som bliver udviklet i mange tilfælde bliver udviklet i en problematisk retning, som udfordrer vores demokrati. Og det bliver der ikke snakket nok om. Jeg vil derfor med min film gerne skabe kritisk refleksion.

Ukritiske tech-orgier

Den kritiske refleksion er vigtig, slet og ret fordi der er en hel del at være kritisk over for, mener instruktøren.

Selv fik hun øje på et problematisk aspekt ved udviklingen af teknologien, da hun i sin sidste film Drone kiggede nærmere på udbredelsen af automatiserede våben i moderne krigsførelse.

Brugen af kunstig intelligens til militære formål kommer også på banen i iHuman, hvor instruktøren blandt andet også stiller skarpt på en lang række andre problematikker såsom ansigtsgenkendelse, AI-teknologi som overvågningsværktøj og såkaldt predictive policing.

Tonje Hessen Schei

– Da jeg så begyndte at kigge nærmere på emnet, opdagede jeg nemlig, at kunstig intelligens jo ikke bare ændrede vores krigsførelse, men at vi er trådt ind i en helt ny algoritmisk verdensorden, der påvirker hele vores samfund på alle mulige måder. Måder, som vi er nødt til at forholde os mere kritisk til, fortæller Tonje Hessen Schei, der i mødet med tech-verdenen blev overrasket over, hvor hastigt og ukontrolleret den kunstige intelligens egentlig udvikler sig.

Alligevel var det som om, at folk i den verden sjældent stoppede op og tænkte over, hvad det egentlig var, de var i gang med at udvikle.

Det var i hvert fald den fornemmelse, Tonje Hessen Schei fik, da hun under sit researcharbejde til filmen besøgte et utal af af tech-konferencer, hvor hun gang på gang hørte parolen: AI vil redde os og løse alle vores problemer.

– Der var noget ved de holdninger og den arrogance, som gav mig en dårlig følelse i maven. Det var som at besøge et tech-orgie, ledet af en lille tech-elite, som stort set kun består af rige, unge, hvide mænd, som har et helt forkert syn på verden, og som har et vældig begrænset udsyn på livet og ikke forstår kompleksiteten af det, der sker i verden. Og det er skræmmende, når det er dem som sidder og laver tingene, siger hun og fortsætter:

– Så for mig var det vigtigt at lave en film, som fokuserer på de etiske udfordringer, som ellers ikke bliver belyst. Der er nemlig nogle store problemer inden for udviklingen lige nu, og før vi får løst dem, synes jeg, det er uforsvarligt bare at fortsætte udviklingen.

Still fra filmen

Googles informationskontrol

Et af hovedproblemerne med udviklingen, som det er fremlægges af menneskerettighedsforkæmpere, journalister og programmører i iHuman, er, at den primært varetages af store aktører med egeninteresser, der ikke just understøtter demokratiet.

Kunstig intelligens udvikles lige nu hovedsageligt til at ’slå ihjel, udspionere og hjernevaske’ udtaler en computerprogrammør Ben Goetzel, en af de mest sortseende kritiske røster i filmen.

Hans ord giver genklang senere, da journalist fra det magtkritiske magasin The Intercept Lee Fang fortæller, at de store tech-firmaer, i deres jagt på profit, i stigende grad arbejder sammen med militær og regeringen i udvikling af, ofte fordækte, overvågnings- og krigsførelsesprojekter.

Under navnet Project Maven samarbejder Google for eksempel i al hemmelighed med den amerikanske regering og militæret om at træne kunstig intelligens til hurtigt at identificere mål til krigsførelse. Samtidig investerer CIA massivt i Silicon Valley og heriblandt det private firma Palantir, som har specialiseret sig i at strukturere store mængder data, der kan bruges af politi og efterretninger til at lokalisere uønskede personer.

Filmen afslører, med andre ord, at tech-giganterne arbejder målrettet på at skabe kunstig intelligens, der kan bruges til at dræbe, overvåge og indsamle informationer om hvem som helst, hvor som helst. Og samtidig er firmaerne, ironisk nok, fuldstændigt umulige selv at hive informationer ud af, fortæller Tonje Hessen Schei:

– De gad simpelthen ikke snakke med os. Jeg var så provokeret og overrasket over, at tech-industrierne insisterer på at bevare fuldstændig informationskontrol, siger Tonje Hessen Schei, der forgæves brugte lang tid på at få især Google i tale.

– Det er så vildt. Her er et selskab, som har alle informationer i verden, og som ved alt om os. Så synes jeg også, vi har ret til at få at vide, hvad det er, der sker i de her selskaber: Hvordan de udvikler kunstig intelligens og implementerer det.

Filosofiske overvejelser

Men hvor Google tier, er andre langt mere villige til at tale. I dokumentaren deltager et bredt spektrum af stemmer, der hver især forholder sig vidt forskelligt til den teknologiske udvikling.

I den begejstrede ende af skalaen møder vi Jürgen Schmidhuber, populært kaldet AI-teknologiens fader, der ikke mener, at han kan holdes til ansvar for den teknologi, han udvikler. I den anden ende møder vi Philip Alston, menneskerettighedsadvokat, som netop er af den overbevisning, at ansvarspålæggelse er det absolut vigtigste emne i samtalen om kunstig intelligens.

– Det var vigtigt for mig at samle mange perspektiver og gå nærmere ind i, hvordan man tænker på kunstig intelligens: Hvad er visionen, hvad er tankesættet, hvilke værdier er der i udviklingen af kunstig intelligens osv, siger Tonje Hessen Schei.

Still fra filmen

Hendes idé var fra start at hive diskussionen op på et filosofisk niveau og dermed sikre, at filmen ikke mistede sin relevans midt i den hastige udvikling. Alligevel har det været vanskeligt med et så flygtigt emne at følge med og vide, hvornår man bør sige ‘cut’.

– Ja, egentlig kunne jeg godt bare være blevet ved og have lavet en hel serie i stedet, griner instruktøren og fortæller, at sagen om Cambridge Analytica eksploderede, da de egentlig havde lagt sidste hånd på optagelser, der inkluderede dem. – Og sådan er det, når man beskæftiger sig en teknologi i rivende udvikling. Så måtte vi jo samle holdet og frem med kameraet igen.

Skrappere kontrol

Trods det brede perspektiv og alsidigheden i de valgte stemmer fylder de positive perspektiver og potentiale i kunstig intelligens ikke meget i iHuman. Men det betyder ikke, at Tonje Hessen Schei selv er udelukkende kritisk over for teknologien som sådan.

– Nej, tværtimod. Jeg er meget fascineret af kunstig intelligens og mener, at man bør investere massivt i teknologien, så det kan bruges på klimaområdet og i sundhedsvæsenet. Og måske endda til at kurere corona, påpeger instruktøren, der efter at have arbejdet med filmen og emnet i fem år har fået en god indsigt i både processerne bag og lovgivning på området.

Det sidstnævnte er, som flere eksperter problematiserer i iHuman, en mærkbar mangelvare, og dermed en bremseklods for en positiv, ansvarlig udvikling. Den manglende lovning betyder blandt andet, at de store tech-firmaer og enkelte regeringer får nogenlunde frit løb til at udvikle teknologien, som de har lyst. Også uden at tage højde for, om det i sidste ende kan beskadige basale værdier som retfærdighed, demokrati og frihed.

– Derfor er det megavigtigt, at EU er begyndt at tage ansvar, siger instruktøren og henviser til et forslag, der, efter lang tids venten, i februar måned endelig blev stillet af Europa-Kommissionen. I forslaget foreslår kommissionen, under ledelse af Margrethe Vestager, en skrappere kontrol med såkaldt høj risikofyldt kunstig intelligens, der blandt andet indbefatter den stærkt omdiskuterede ansigtsgenkendelse.

Og det er der hårdt brug for, understreger Tonje Hessen Schei, der mener at lovgivning, ansvarlig investering og samarbejde er vejen frem:

– Det er så fedt, at EU er pionerer og tager så vigtigt et skridt i reguleringen af kunstig intelligens. Samtidig bør de investere en masse i positive projekter. Det er vigtigt at skabe klare retningslinjer, også selvom det er meget kompliceret. Men bare fordi det er en vanskelig opgave, så betyder det ikke, at vi kan fraskrive os ansvaret. Vi må arbejde sammen, og vi må arbejde sammen på lokalt plan, på nationalt plan og på internationalt plan. For det kræver teknologien altså, hvis vi skal have noget godt ud af den.

Denne uge:

Instruktør: Det er uforsvarligt at bruge Kunstig intelligens

Tonje Hessen Schei, instruktør af en ny dokumentar om kunstig intelligens advarer om, hvor galt det kan gå, hvis man ikke indfører kontrol med de store aktører. - Vi er trådt ind i en helt ny algoritmisk verdensorden, der påvirker hele vores samfund. Den bliver vi nødt til at forholde os mere kritisk til.

Når publikum, under den kommende dokumentarfestival CPH:DOX, der i år afvikles over nettet på grund af faren for smitte med coronavirus, sætter sig til rette i sofaen for at se iHuman, en ny dokumentar om kunstig intelligens, vil det første, de møder, være et berømt dommedagscitat fra fysiker Stephen Hawking.

‘Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last’ fremtoner de store, hvide bogstaver med en alarmerende klang, som understreges af en dyster underlægningsmusik, der leder tankerne hen på fiktive sci-fi-dystopier.

Det dystre citat lægger grundtonen i Tonje Hessen Scheis dokumentar, hvor den norske instruktør gennem en lang række interviews med eksperter diskuterer den teknologisk revolution, der på sigt vil og allerede nu er ved at omforme vores liv og det samfund, vi lever i.

Mød Edward Snowden til premieren

iHuman får Danmarkspremiere på dokumentarfilmfestivalen CPH:DOX, som i år afvikles online som følge af COVID-19. I forbindelse med visningen vil DR’s tech-korrespondent Henrik Moltke tale med Edward Snowden i et live-interview fra hans eksil i Rusland.

Debatten finder sted den 23. marts og kan streames fra festivalens hjemmeside

iHumans instruktør om Snowdens opbakning til filmen: Det er meget stort for os, at Edward Snowden vil bakke op om filmen. Det er en naturlig udvikling for ham at gå fra at se på, hvordan vi bliver overvåget, til hvordan kunstig intelligens forstærker overvågningen. Det er derfor meget relevant at høre, hvilke perspektiver han kan bidrage med.

Og ikke – som Hawking-citatet illustrerer – nødvendigvis kun til det bedre, forklarer Tonje Hessen Schei, da jeg fanger hende over en Skype-forbindelse fra Trondheim filmfestival, hvor hun var inviteret til at præsentere sin film.

– Kunstig intelligens er allerede overalt i dag, og at vi bliver mere og mere afhængige af maskiner, som er mere og mere intelligente og som bliver udviklet i mange tilfælde bliver udviklet i en problematisk retning, som udfordrer vores demokrati. Og det bliver der ikke snakket nok om. Jeg vil derfor med min film gerne skabe kritisk refleksion.

Ukritiske tech-orgier

Den kritiske refleksion er vigtig, slet og ret fordi der er en hel del at være kritisk over for, mener instruktøren.

Selv fik hun øje på et problematisk aspekt ved udviklingen af teknologien, da hun i sin sidste film Drone kiggede nærmere på udbredelsen af automatiserede våben i moderne krigsførelse.

Brugen af kunstig intelligens til militære formål kommer også på banen i iHuman, hvor instruktøren blandt andet også stiller skarpt på en lang række andre problematikker såsom ansigtsgenkendelse, AI-teknologi som overvågningsværktøj og såkaldt predictive policing.

Tonje Hessen Schei

– Da jeg så begyndte at kigge nærmere på emnet, opdagede jeg nemlig, at kunstig intelligens jo ikke bare ændrede vores krigsførelse, men at vi er trådt ind i en helt ny algoritmisk verdensorden, der påvirker hele vores samfund på alle mulige måder. Måder, som vi er nødt til at forholde os mere kritisk til, fortæller Tonje Hessen Schei, der i mødet med tech-verdenen blev overrasket over, hvor hastigt og ukontrolleret den kunstige intelligens egentlig udvikler sig.

Alligevel var det som om, at folk i den verden sjældent stoppede op og tænkte over, hvad det egentlig var, de var i gang med at udvikle.

Det var i hvert fald den fornemmelse, Tonje Hessen Schei fik, da hun under sit researcharbejde til filmen besøgte et utal af af tech-konferencer, hvor hun gang på gang hørte parolen: AI vil redde os og løse alle vores problemer.

– Der var noget ved de holdninger og den arrogance, som gav mig en dårlig følelse i maven. Det var som at besøge et tech-orgie, ledet af en lille tech-elite, som stort set kun består af rige, unge, hvide mænd, som har et helt forkert syn på verden, og som har et vældig begrænset udsyn på livet og ikke forstår kompleksiteten af det, der sker i verden. Og det er skræmmende, når det er dem som sidder og laver tingene, siger hun og fortsætter:

– Så for mig var det vigtigt at lave en film, som fokuserer på de etiske udfordringer, som ellers ikke bliver belyst. Der er nemlig nogle store problemer inden for udviklingen lige nu, og før vi får løst dem, synes jeg, det er uforsvarligt bare at fortsætte udviklingen.

Still fra filmen

Googles informationskontrol

Et af hovedproblemerne med udviklingen, som det er fremlægges af menneskerettighedsforkæmpere, journalister og programmører i iHuman, er, at den primært varetages af store aktører med egeninteresser, der ikke just understøtter demokratiet.

Kunstig intelligens udvikles lige nu hovedsageligt til at ’slå ihjel, udspionere og hjernevaske’ udtaler en computerprogrammør Ben Goetzel, en af de mest sortseende kritiske røster i filmen.

Hans ord giver genklang senere, da journalist fra det magtkritiske magasin The Intercept Lee Fang fortæller, at de store tech-firmaer, i deres jagt på profit, i stigende grad arbejder sammen med militær og regeringen i udvikling af, ofte fordækte, overvågnings- og krigsførelsesprojekter.

Under navnet Project Maven samarbejder Google for eksempel i al hemmelighed med den amerikanske regering og militæret om at træne kunstig intelligens til hurtigt at identificere mål til krigsførelse. Samtidig investerer CIA massivt i Silicon Valley og heriblandt det private firma Palantir, som har specialiseret sig i at strukturere store mængder data, der kan bruges af politi og efterretninger til at lokalisere uønskede personer.

Filmen afslører, med andre ord, at tech-giganterne arbejder målrettet på at skabe kunstig intelligens, der kan bruges til at dræbe, overvåge og indsamle informationer om hvem som helst, hvor som helst. Og samtidig er firmaerne, ironisk nok, fuldstændigt umulige selv at hive informationer ud af, fortæller Tonje Hessen Schei:

– De gad simpelthen ikke snakke med os. Jeg var så provokeret og overrasket over, at tech-industrierne insisterer på at bevare fuldstændig informationskontrol, siger Tonje Hessen Schei, der forgæves brugte lang tid på at få især Google i tale.

– Det er så vildt. Her er et selskab, som har alle informationer i verden, og som ved alt om os. Så synes jeg også, vi har ret til at få at vide, hvad det er, der sker i de her selskaber: Hvordan de udvikler kunstig intelligens og implementerer det.

Filosofiske overvejelser

Men hvor Google tier, er andre langt mere villige til at tale. I dokumentaren deltager et bredt spektrum af stemmer, der hver især forholder sig vidt forskelligt til den teknologiske udvikling.

I den begejstrede ende af skalaen møder vi Jürgen Schmidhuber, populært kaldet AI-teknologiens fader, der ikke mener, at han kan holdes til ansvar for den teknologi, han udvikler. I den anden ende møder vi Philip Alston, menneskerettighedsadvokat, som netop er af den overbevisning, at ansvarspålæggelse er det absolut vigtigste emne i samtalen om kunstig intelligens.

– Det var vigtigt for mig at samle mange perspektiver og gå nærmere ind i, hvordan man tænker på kunstig intelligens: Hvad er visionen, hvad er tankesættet, hvilke værdier er der i udviklingen af kunstig intelligens osv, siger Tonje Hessen Schei.

Still fra filmen

Hendes idé var fra start at hive diskussionen op på et filosofisk niveau og dermed sikre, at filmen ikke mistede sin relevans midt i den hastige udvikling. Alligevel har det været vanskeligt med et så flygtigt emne at følge med og vide, hvornår man bør sige ‘cut’.

– Ja, egentlig kunne jeg godt bare være blevet ved og have lavet en hel serie i stedet, griner instruktøren og fortæller, at sagen om Cambridge Analytica eksploderede, da de egentlig havde lagt sidste hånd på optagelser, der inkluderede dem. – Og sådan er det, når man beskæftiger sig en teknologi i rivende udvikling. Så måtte vi jo samle holdet og frem med kameraet igen.

Skrappere kontrol

Trods det brede perspektiv og alsidigheden i de valgte stemmer fylder de positive perspektiver og potentiale i kunstig intelligens ikke meget i iHuman. Men det betyder ikke, at Tonje Hessen Schei selv er udelukkende kritisk over for teknologien som sådan.

– Nej, tværtimod. Jeg er meget fascineret af kunstig intelligens og mener, at man bør investere massivt i teknologien, så det kan bruges på klimaområdet og i sundhedsvæsenet. Og måske endda til at kurere corona, påpeger instruktøren, der efter at have arbejdet med filmen og emnet i fem år har fået en god indsigt i både processerne bag og lovgivning på området.

Det sidstnævnte er, som flere eksperter problematiserer i iHuman, en mærkbar mangelvare, og dermed en bremseklods for en positiv, ansvarlig udvikling. Den manglende lovning betyder blandt andet, at de store tech-firmaer og enkelte regeringer får nogenlunde frit løb til at udvikle teknologien, som de har lyst. Også uden at tage højde for, om det i sidste ende kan beskadige basale værdier som retfærdighed, demokrati og frihed.

– Derfor er det megavigtigt, at EU er begyndt at tage ansvar, siger instruktøren og henviser til et forslag, der, efter lang tids venten, i februar måned endelig blev stillet af Europa-Kommissionen. I forslaget foreslår kommissionen, under ledelse af Margrethe Vestager, en skrappere kontrol med såkaldt høj risikofyldt kunstig intelligens, der blandt andet indbefatter den stærkt omdiskuterede ansigtsgenkendelse.

Og det er der hårdt brug for, understreger Tonje Hessen Schei, der mener at lovgivning, ansvarlig investering og samarbejde er vejen frem:

– Det er så fedt, at EU er pionerer og tager så vigtigt et skridt i reguleringen af kunstig intelligens. Samtidig bør de investere en masse i positive projekter. Det er vigtigt at skabe klare retningslinjer, også selvom det er meget kompliceret. Men bare fordi det er en vanskelig opgave, så betyder det ikke, at vi kan fraskrive os ansvaret. Vi må arbejde sammen, og vi må arbejde sammen på lokalt plan, på nationalt plan og på internationalt plan. For det kræver teknologien altså, hvis vi skal have noget godt ud af den.

Log ind

Opret kundekonto

Dine personlige data vil blive anvendt til at understøtte din brugeroplevelse,, til at administrere adgang til din konto, og til andre formål, som er beskrevet i vores persondatapolitik.

Ja tak, jeg vil gerne have et gratis prøveabonnement og adgang til alle artikler

Enkelt abonnement


Abonnement

30 dages gratis prøveperiode. Herefter 49,00 DKK per måned. Dit abonnement bliver fornyet automatisk, når prøveperioden udløber. Du kan opsige abonnementet når du vil.

30 dages gratis prøveperiode. Herefter 49,00 DKK per måned

Varenummer (SKU): 40000 Varekategori:

Gruppeabonnement


Gruppeabonnement

Dit abonnement bliver fornyet automatisk, når prøveperioden udløber. Du kan opsige abonnementet når du vil.

30 dages gratis prøveperiode. Herefter Fra: 39,00 DKK per måned per medlem

Fra 5102550
Clear

Gruppemedlemmer:

Varenummer (SKU): 30000 Varekategori:

Gavekort


Tilbud

Gavekort

Gavekortet modtages som kode via e-mail og kan frit gives væk. Den første måned er stadig gratis ved brug af gavekort.

90,00 DKK120,00 DKK

3 måneder4 måneder
Ryd

Varenummer (SKU): N/A Varekategori: