Troværdig løgn?

Forskning i AI og deepfake-teknologi viser, at vi mennesker har meget svært ved at skelne mellem falske og kunstigt genererede ansigter, og at kunstigt genererede ansigter faktisk kan virke mere troværdige end den ægte vare:

https://www.pnas.org/content/119/8/e2120481119

Undersøgelsen viser også, at når man bruger de nyeste teknologier kan almindelige mennesker i praksis ikke se, om personen i videoen er falsk eller ægte. Forsøgspersonerne gættede rigtigt på spørgsmålet om ægthed i ca. halvdelen af tilfældene, hvilket indikerer at der var tale om, ja, gæt.

Vi møder i begrænset omfang allerede rigtige, ægte budskaber fra troværdige afsendere kommunikeret gennem falske personer, som fx Bridget fra Bornholm. Med forskningsresultater som ovenstående må man gå ud fra, at teknologien hurtigt vil udbredes til flere og flere “alvorlige” områder, selvom meget fokus indtil nu har været på anvendelse i såkaldt “deepfake revenge porn” og satire/underholdning.

Dette rejser vigtige etiske spørgsmål, bl.a. om i hvilke tilfælde det overhovedet er legitimt at anvende teknologien, og om og i givet fald hvordan vi skal deklarere brugen af kunstige personer.

De har ca. 14 billeder af dig

For et par år siden var der for første gang massivt røre om Clearview AI, der stod bag en løsning til ansigtsgenkendelse til brug for ordensmagten. Kritikerne påpegede, at Clearview havde høstet billeder fra sociale medier uden tilladelse, var enormt risikofyldt for de registrerede og gjorde det nærmest umuligt for privatpersoner at gøre indvendinger – og i øvrigt solgte deres teknologi uden særlig vægt på hvad den skulle anvendes til og af hvem.

Nu er de i vælten igen. Washington Post har denne øjensynligt velunderbyggede historie om hvordan Clearview forsøger at overbevise finansfolk om at investere i deres virksomhed fordi de a) har en database med 100 milliarder billeder, svarende til i gennemsnit 14 billeder af alle mennesker på planeten(!), b) har markedet for sig selv, fordi mange af de store tech-virksomheder formelt har vendt ryggen til ansigtsgenkendelse og c) fordi de ser mange nye anvendelsesområder for teknologien, også udenfor ordensmagten:

https://www.washingtonpost.com/technology/2022/02/16/clearview-expansion-facial-recognition/

Vi bør måske vise Clearview AI taknemmelighed, fordi de så klart viser offentligheden, hvad kampen for privacy i virkeligheden handler om, og opstiller et så tydeligt modbillede til ansvarlig, etisk databehandling at alle (undtagen Clearview-folkene selv, tydeligvis) må kunne mærke, at den er helt gal.