Bør dette eksistere?

Caterina Fake mener, at tidens store spørgsmål er: Hvad gør teknologien ved vores menneskelighed? I sin podcast Should this exist? opfordrer hun skaberne af radikale nye teknologier til at tænke på den menneskelige side af opfindelsen: Hvad lover den os? Og hvad kan gå galt?

Caterina Fake er en amerikansk investor og iværksætter, som blandt andet har været med til at grundlægge billeddelingstjenesten Flickr i 2004. Hun har været leder af flere almennyttige organisationer og er meget anerkendt i Silicon Valley som såkaldt engleinvestor, som er et synonym for en privatperson eller organisation, der investerer i startups og vækstvirksomheder. Og så advokerer hun stærkt for, at dem, der arbejder i techindustrien skal forsvare mennesket mod den dehumanisering, der blandt andet sker på internettet.

Caterina Fakes vej til Silicon Valley er ikke den mest typiske. Hun er født i 1969, og som barn måtte hun ikke se fjernsyn, så hun læste poesi og lyttede til klassisk musik. Interessen for ny teknologi og internettet kom, da hun læste på Vassar College, som havde et intranet, som de studerende havde forbindelse til fra deres kollegieværelser. Efter universitetet havde hun forskellige jobs og på vej til Nepal besøgte hun i 1994 en søster i San Francisco, og her opdagede hun internettet og kom aldrig videre.

Den historie har en pudsig dansk vinkel, for grunden til, at hun fik øjnene op for nettets muligheder, var egentlig en interesse for den argentinske forfatter Jorge Luis Borges, og på nettet fik hun kontakt med en gruppe danskere, som diskuterede Borges på nettet. Men efter starten med Flickr og flere andre techfirmaer, er Caterina Fake i dag kritisk overfor meget af det, der foregår på nettet.

Fra fællesskabet til sociale medier

I et interview fra 2019 med The Family, som er et forum, der parrer startups med investorer, fortæller hun om, hvordan hun er blevet kaldt ’de sociale mediers gudmor’, men det er hun stærkt imod, for hun opfatter ikke Flickr som et socialt medie.

– Vi byggede ikke sociale medier, vi byggede fællesskaber, siger hun i interviewet. – Sociale medier kom senere, da de ville have folks opmærksomhed og høste deres data. Det er farligt. Og tingene gik i en retning, vi, der var med fra starten og byggede fællesskaber, ikke havde forventet. For når du kunne få folks opmærksomhed og lave et aktivitetsfeed – Flickr lavede et af de første, som mange kopierede – begyndte Facebook at organisere dem ved at se på, hvad der fik mest opmærksomhed. Og når man organiserer ting efter det, der får mest opmærksomhed, er det klart, hvad der vil ske: Det mest sexistiske, det mest racistiske, det mest splittende, det politisk mest polariserende, får mest opmærksomhed. Og da man begyndte at kunne købe sig ind, advarede vi også, for det betyder, at du ikke bare sælger tandpasta til folk, men ideologier.

– 70% af alle de videoer folk ser er anbefalet til dem fra You Tube, fortsætter hun. – Og anbefalet betyder, at de videoer er radikaliserende. New Zealand morderen (som dræbte 51 bedende muslimer i to moskeer i Christchurch. Red.) var blevet radikaliseret gennem YouTube.

Et andet eksempel Caterina Fake giver i interviewet er, at der er undersøgelser, der viser, at nybagte mødre, som går på YouTube for at finde gode råd efter cirka fem videoer begynder at få antivaccinations-videoer anbefalet fra You Tube. Dengang hun var en del af Flickr, gjorde de meget ud af fx at fjerne budskaber fra folk, der advokerer for hvidt overherredømme eller er sexister.

– Nettet bliver det vilde vesten uden en sherif, hvis der ikke er nogen, der tager ansvar, siger hun. – Og meget af det, man ser derude nu, er forskellen på nogen, der vil grundlægge fællesskaber og nogen, der vil starte medier. Hvis du er et medie, har du ikke noget imod at sælge annoncer, der appellerer til folk der tror på hvidt overherredømme. Man er det man tolererer: hvis du tolererer hvidt overherredømme er du en platform for hvidt overherredømme. Punktum.

Podcasten Should This Exist?

Catarina Fake er vært på en podcast, der hedder Should This Exist? hvor hun diskuterer radikal ny teknologi og etik med opfindere og andre aktører. Netop degenereringen af internettet er emnet for den seneste. I introduktionen skriver hun: ’Internettet er ødelagt. Data høstes, sælges og udnyttes. Sociale medier er en uendelig, fordomsfuld vandring gennem det værste af menneskeheden. Ingen personlige oplysninger er sikre. Og værst af alt er, at vi ikke kan undslippe. Internettet er en hjørnesten i vores liv. Det er sådan, vi arbejder, kommunikerer med hinanden og får information. Det var ikke det, der var meningen. Hvordan blev en utopisk vision om et gratis, åbent og demokratisk internet vendt til et redskab til markedsføring og overvågning?’

I en anden podcast diskuterer hun med Chris Anderson, tidligere redaktør af Wired Magazine, om hvilket ansvar en opfinder har, hvis ens opfindelse bliver et våben? Chris Anderson lancerede DIY Drones, som et open source-fællesskab, der skulle hjælpe nørder at bygge deres egne droner. Men ud over at dronerne nu bruges af ornitologer til at overvåge fuglereder, til at sørge for bedre sikkerhedsstandarder på byggepladser og til at optage smukke landskaber på film, så bruges de også af ISIS til at kaste bomber mod civile. Hvordan tackler man sådan et problem? De kan du høre mere om på Should This Exist?

Gode råd til etikken

Men Caterina Fake nøjes ikke med at tale. I en session på IBMs Think 2020 Digital Event i sidste uge, havde hun otte helt konkrete råd til personer og virksomheder, der ønsker at arbejde etisk ansvarligt med nye teknologier. Hun tog sit udgangspunkt i den amerikansk film 12 vrede mænd fra 1957.

Plottet er ganske kort, at en fattig ung mand er tiltalt for at have stukket sin far ihjel. Dommeren formaner de 12 mænd i juryen om, at de kun må kende manden skyldig, hvis de er 100% overbeviste om han skyld. Juryens kendelse skal være enstemmig og den yngre mand får en dødsdom, hvis de kender ham skyldig. I det amerikanske retssystem skal juryen være isoleret fra omverdenen indtil de er nået frem til en kendelse, så da de 11 er enige om at dommen skal være skyldig, kræver det mod at være den, der siger uskyldig. I filmen er det Henry Fonda, der som jurymedlem nr. 7 går op mod flertallet, og ender med at overbevise de andre om, at den unge mand skal frifindes. Så Caterina Fakes første råd er:

  1. Tal sammen. Nævning nr. 7 har ikke et svar, han vil bare gerne tale om det. Det er vigtigt, at der er nogen, der tør gå op mod gruppen og flertallet og insistere på at man skal tale sammen.
  2. Vær sikker på, at det er de rigtige mennesker, der er i rummet. Det skal være mennesker af forskelligt køn, race, religion, økonomisk klasse, uddannelse osv. Men der skal også være folk som Roger Boisjoly, som var den eneste, der advarede mod at opsende den Challenger rumfærge, der i 1986 eksploderede 73 sekunder efter opsendelsen.
  3. Stil de rigtige spørgsmål. Her kan et fokus på otte risikozoner sikre, at man får stillet de rigtige spørgsmål. Catarina Fake medgiver, at nogle fokuspunkter passer bedre til nogen produkter end andre. Men det er værd at gå listen igennem, når man står med et nyt produkt eller en nettjeneste. De er listet op i illustrationen. Det er: Sandhed, desinformation og propaganda. Afhængighed og dopaminøkonomien. Økonomisk ulighed. Maskinetik og fordomsfulde algoritmer. Overvågning. Datakontrol og indtægtsgenerering. Tillid og forståelse hos brugerne. Hadefulde og kriminelle aktører. Alle disse ting bør overvejes, selvom de måske ikke er lige væsentlige i alle situationer.
  4. Ansæt aldrig en etisk direktør, og fyr ham/hende hvis du allerede har en. Etik er et spørgsmål som alle skal være optaget af. Det kan ikke nytte noget at overlade det til en særlig afdeling, alle i organisationen skal være optaget af etiske spørgsmål og det leder til næste råd:
  5. Sørg for at folk tager etikken med på arbejde. En undersøgelse har vist, at når folk bliver spurgt, hvad deres værdier er på arbejde, siger de: jeg er konkurrenceminded, en vinder. Når de bliver spurgt om deres værdier hjemme, siger de: samarbejde, hjælpsom, kærlig, integritet. De værdier skal de tage med på arbejde.
  6. Det handler om humaniora ikke om naturvidenskab, når man vil gøre teknologien menneskelig.
  7. Lad være med at sende et produkt på gaden, som ikke er testet igen og igen, ikke bare med funktionaliteten, men også i forhold til etikken.
  8. Lyt altid til andre.

Så alt i alt otte råd til, hvordan man får svaret på Caterina Fakes helt grundlæggende spørgsmål: Bør dette eksistere?

Denne uge:

Bør dette eksistere?

Caterina Fake mener, at tidens store spørgsmål er: Hvad gør teknologien ved vores menneskelighed? I sin podcast Should this exist? opfordrer hun skaberne af radikale nye teknologier til at tænke på den menneskelige side af opfindelsen: Hvad lover den os? Og hvad kan gå galt?

Caterina Fake er en amerikansk investor og iværksætter, som blandt andet har været med til at grundlægge billeddelingstjenesten Flickr i 2004. Hun har været leder af flere almennyttige organisationer og er meget anerkendt i Silicon Valley som såkaldt engleinvestor, som er et synonym for en privatperson eller organisation, der investerer i startups og vækstvirksomheder. Og så advokerer hun stærkt for, at dem, der arbejder i techindustrien skal forsvare mennesket mod den dehumanisering, der blandt andet sker på internettet.

Caterina Fakes vej til Silicon Valley er ikke den mest typiske. Hun er født i 1969, og som barn måtte hun ikke se fjernsyn, så hun læste poesi og lyttede til klassisk musik. Interessen for ny teknologi og internettet kom, da hun læste på Vassar College, som havde et intranet, som de studerende havde forbindelse til fra deres kollegieværelser. Efter universitetet havde hun forskellige jobs og på vej til Nepal besøgte hun i 1994 en søster i San Francisco, og her opdagede hun internettet og kom aldrig videre.

Den historie har en pudsig dansk vinkel, for grunden til, at hun fik øjnene op for nettets muligheder, var egentlig en interesse for den argentinske forfatter Jorge Luis Borges, og på nettet fik hun kontakt med en gruppe danskere, som diskuterede Borges på nettet. Men efter starten med Flickr og flere andre techfirmaer, er Caterina Fake i dag kritisk overfor meget af det, der foregår på nettet.

Fra fællesskabet til sociale medier

I et interview fra 2019 med The Family, som er et forum, der parrer startups med investorer, fortæller hun om, hvordan hun er blevet kaldt ’de sociale mediers gudmor’, men det er hun stærkt imod, for hun opfatter ikke Flickr som et socialt medie.

– Vi byggede ikke sociale medier, vi byggede fællesskaber, siger hun i interviewet. – Sociale medier kom senere, da de ville have folks opmærksomhed og høste deres data. Det er farligt. Og tingene gik i en retning, vi, der var med fra starten og byggede fællesskaber, ikke havde forventet. For når du kunne få folks opmærksomhed og lave et aktivitetsfeed – Flickr lavede et af de første, som mange kopierede – begyndte Facebook at organisere dem ved at se på, hvad der fik mest opmærksomhed. Og når man organiserer ting efter det, der får mest opmærksomhed, er det klart, hvad der vil ske: Det mest sexistiske, det mest racistiske, det mest splittende, det politisk mest polariserende, får mest opmærksomhed. Og da man begyndte at kunne købe sig ind, advarede vi også, for det betyder, at du ikke bare sælger tandpasta til folk, men ideologier.

– 70% af alle de videoer folk ser er anbefalet til dem fra You Tube, fortsætter hun. – Og anbefalet betyder, at de videoer er radikaliserende. New Zealand morderen (som dræbte 51 bedende muslimer i to moskeer i Christchurch. Red.) var blevet radikaliseret gennem YouTube.

Et andet eksempel Caterina Fake giver i interviewet er, at der er undersøgelser, der viser, at nybagte mødre, som går på YouTube for at finde gode råd efter cirka fem videoer begynder at få antivaccinations-videoer anbefalet fra You Tube. Dengang hun var en del af Flickr, gjorde de meget ud af fx at fjerne budskaber fra folk, der advokerer for hvidt overherredømme eller er sexister.

– Nettet bliver det vilde vesten uden en sherif, hvis der ikke er nogen, der tager ansvar, siger hun. – Og meget af det, man ser derude nu, er forskellen på nogen, der vil grundlægge fællesskaber og nogen, der vil starte medier. Hvis du er et medie, har du ikke noget imod at sælge annoncer, der appellerer til folk der tror på hvidt overherredømme. Man er det man tolererer: hvis du tolererer hvidt overherredømme er du en platform for hvidt overherredømme. Punktum.

Podcasten Should This Exist?

Catarina Fake er vært på en podcast, der hedder Should This Exist? hvor hun diskuterer radikal ny teknologi og etik med opfindere og andre aktører. Netop degenereringen af internettet er emnet for den seneste. I introduktionen skriver hun: ’Internettet er ødelagt. Data høstes, sælges og udnyttes. Sociale medier er en uendelig, fordomsfuld vandring gennem det værste af menneskeheden. Ingen personlige oplysninger er sikre. Og værst af alt er, at vi ikke kan undslippe. Internettet er en hjørnesten i vores liv. Det er sådan, vi arbejder, kommunikerer med hinanden og får information. Det var ikke det, der var meningen. Hvordan blev en utopisk vision om et gratis, åbent og demokratisk internet vendt til et redskab til markedsføring og overvågning?’

I en anden podcast diskuterer hun med Chris Anderson, tidligere redaktør af Wired Magazine, om hvilket ansvar en opfinder har, hvis ens opfindelse bliver et våben? Chris Anderson lancerede DIY Drones, som et open source-fællesskab, der skulle hjælpe nørder at bygge deres egne droner. Men ud over at dronerne nu bruges af ornitologer til at overvåge fuglereder, til at sørge for bedre sikkerhedsstandarder på byggepladser og til at optage smukke landskaber på film, så bruges de også af ISIS til at kaste bomber mod civile. Hvordan tackler man sådan et problem? De kan du høre mere om på Should This Exist?

Gode råd til etikken

Men Caterina Fake nøjes ikke med at tale. I en session på IBMs Think 2020 Digital Event i sidste uge, havde hun otte helt konkrete råd til personer og virksomheder, der ønsker at arbejde etisk ansvarligt med nye teknologier. Hun tog sit udgangspunkt i den amerikansk film 12 vrede mænd fra 1957.

Plottet er ganske kort, at en fattig ung mand er tiltalt for at have stukket sin far ihjel. Dommeren formaner de 12 mænd i juryen om, at de kun må kende manden skyldig, hvis de er 100% overbeviste om han skyld. Juryens kendelse skal være enstemmig og den yngre mand får en dødsdom, hvis de kender ham skyldig. I det amerikanske retssystem skal juryen være isoleret fra omverdenen indtil de er nået frem til en kendelse, så da de 11 er enige om at dommen skal være skyldig, kræver det mod at være den, der siger uskyldig. I filmen er det Henry Fonda, der som jurymedlem nr. 7 går op mod flertallet, og ender med at overbevise de andre om, at den unge mand skal frifindes. Så Caterina Fakes første råd er:

  1. Tal sammen. Nævning nr. 7 har ikke et svar, han vil bare gerne tale om det. Det er vigtigt, at der er nogen, der tør gå op mod gruppen og flertallet og insistere på at man skal tale sammen.
  2. Vær sikker på, at det er de rigtige mennesker, der er i rummet. Det skal være mennesker af forskelligt køn, race, religion, økonomisk klasse, uddannelse osv. Men der skal også være folk som Roger Boisjoly, som var den eneste, der advarede mod at opsende den Challenger rumfærge, der i 1986 eksploderede 73 sekunder efter opsendelsen.
  3. Stil de rigtige spørgsmål. Her kan et fokus på otte risikozoner sikre, at man får stillet de rigtige spørgsmål. Catarina Fake medgiver, at nogle fokuspunkter passer bedre til nogen produkter end andre. Men det er værd at gå listen igennem, når man står med et nyt produkt eller en nettjeneste. De er listet op i illustrationen. Det er: Sandhed, desinformation og propaganda. Afhængighed og dopaminøkonomien. Økonomisk ulighed. Maskinetik og fordomsfulde algoritmer. Overvågning. Datakontrol og indtægtsgenerering. Tillid og forståelse hos brugerne. Hadefulde og kriminelle aktører. Alle disse ting bør overvejes, selvom de måske ikke er lige væsentlige i alle situationer.
  4. Ansæt aldrig en etisk direktør, og fyr ham/hende hvis du allerede har en. Etik er et spørgsmål som alle skal være optaget af. Det kan ikke nytte noget at overlade det til en særlig afdeling, alle i organisationen skal være optaget af etiske spørgsmål og det leder til næste råd:
  5. Sørg for at folk tager etikken med på arbejde. En undersøgelse har vist, at når folk bliver spurgt, hvad deres værdier er på arbejde, siger de: jeg er konkurrenceminded, en vinder. Når de bliver spurgt om deres værdier hjemme, siger de: samarbejde, hjælpsom, kærlig, integritet. De værdier skal de tage med på arbejde.
  6. Det handler om humaniora ikke om naturvidenskab, når man vil gøre teknologien menneskelig.
  7. Lad være med at sende et produkt på gaden, som ikke er testet igen og igen, ikke bare med funktionaliteten, men også i forhold til etikken.
  8. Lyt altid til andre.

Så alt i alt otte råd til, hvordan man får svaret på Caterina Fakes helt grundlæggende spørgsmål: Bør dette eksistere?

Log ind

Opret kundekonto

Dine personlige data vil blive anvendt til at understøtte din brugeroplevelse,, til at administrere adgang til din konto, og til andre formål, som er beskrevet i vores persondatapolitik.

Ja tak, jeg vil gerne have et gratis prøveabonnement og adgang til alle artikler

Enkelt abonnement



Gruppeabonnement



Gavekort