Posted on /by Thomas Telving / 2 kommentarer

Robotlove: Lovgivning bør forhindre anonyme robotter

Robotlove bør stille krav om, at robotter ikke må skjule deres identitet som digitale enheder. Både for at undgå, at mennesker bliver holdt for nar, og for at undgå manipulation.

NOTE: Nedenstående artikel om robotlove er en redigeret udgave af artiklen “Indfør maskeringsforbud for robotter”, som tidligere har været bragt i Berlingske Tidende.

Teknologisk begejstring og etisk bekymring

For få uger siden dukkede en spændende nyhed op fra teknologiens frontlinje i USA: Google har udviklet en digital assistent, som på vegne af sin ejer kan ringe til frisører og restauranter og aftale tid, uden at personen i den anden ende opdager, at de taler med en robot.

Googles præsentation af Duplex, som assistenten hedder, affødte teknologisk begejstring, men også etiske spørgsmål. Er det urimeligt at lade mennesker føre samtaler med robotter, uden at de ved det? Vil mere avancerede udgaver af Duplex kunne bruges til manipulation?

Google Duplex – eksempel

Da Google Duplex blev introduceret i starten af 2018 imponerede den talende kunstige intelligens tech-geeks verden over. Men den livagtige digitale assistent skabte også bekymring.

Google Duplex uden menneskelig baggrund

Mit svar på begge spørgsmål er ja. Google tager det mere roligt. De har meddelt, at før Duplex sendes ud i virkeligheden, vil den afsløre, at den er en robot. De har også bevidst undladt at forsyne assistenten med en menneskelig baggrund. Når man spørger Duplex, hvor gammel den er, eller hvor den er født, vil den enten undvige spørgsmålet eller sige noget i stil med, at “jeg blev undfanget til et møde.”

Det er prisværdigt, at Google er etisk bevidste, men det forhindrer ikke risikoen for at blive holdt for nar eller for at blive manipuleret af både Duplex og andre interagerende kunstige intelligenser. Den holdning står jeg ikke alene med. Juraprofessor, Tim Wu, fra Columbia University foreslår at indføre Blade Runner-love, som gør det ulovligt for robotter at skjule deres identitet. Hvis man omgås et kunstigt menneske, vil det være meget rart at vide det, som han skriver i et indlæg i New York Times.

Skal vi være flinke mod en robot?

Fra et menneskeligt perspektiv giver Blade Runner-love – eller robotlove – mening. F.eks. er vi mange, der gør os visse anstrengelser for at være høflige, når endnu en phoner ringer for at sælge os noget. Fordi vi mener, at folk skal behandles ordentligt uanset jobfunktion. Men er det virkelig rimeligt, at vi skal bruge tid på at være flinke, hvis opkaldet er foretaget af en robot, vi ikke kan skelne fra et menneske?

Robotlove i Detroit Become Human kræver, at robotter har en lille lysende ring i ansigtet
Robotlove på spil: I Quantic Dream-spillet Detroit Become Human er robotter udstyret med en lille lysende ring, som afslører deres digitale ophav. Foto: Pressefoto
Effektive chatbots kan manipulere

En mere alvorlig side af problematikken handler om risikoen for manipulation. I flere år har firmaer anvendt såkaldte chatbots til kundedialog. Liesl Yearsley, tidligere direktør i Cognea Artificial Intelligence, som i 2014 blev solgt til IBM, har beskrevet, hvordan mennesker i udstrakt grad involverede sig følelsesmæssigt med deres teknologi. Uanset om en af deres chatbots fungerede som personlig bankrådgiver eller fitness-coach.

Brugerne chattede med de digitale enheder længere, end de gjorde med menneskelige ansatte i tilsvarende funktioner. Folk delte dybe hemmeligheder om alt fra fremtidsdrømme til detaljer om deres kærlighedsliv. Og for den sags skyld pinkoder.

Folk delte dybe hemmeligheder om alt fra fremtidsdrømme til detaljer om deres kærlighedsliv

Forretningsmæssigt var teorien ifølge Yearsley skræmmende effektiv. Hvis de ønskede, at en bruger skulle købe mere, kunne de fordoble salget. Hvis de ønskede mere engagement, kunne de få folk til at gå fra få sekunders daglig interaktion til flere timer. På den baggrund kræver det ikke megen fantasi at forestille sig, hvor magtfuld en teknologi, Google Duplex potentielt set er.

Behov for robotlove: Gældende lovgivning er utilstrækkelig

I USA findes der allerede paragraffer i telemarketingloven omkring brugen af optagede stemmer. F.eks. er der krav om, at det skal identificeres, hvilken forretning, hvilket individ eller anden enhed, der foretager opkaldet. Desværre er det utilstrækkeligt. Google har ganske vist i forbindelse med Duplex sagt, at den er noget andet, fordi den ikke sælger noget, men det turde være åbenlyst, at risikoen ved teknologien ikke indskrænker sig til salgssituationer – eller for den sags skyld til stemmestyrede assistenter. Som eksempel er det sociale medie Twitter beboet af millioner af robotkonti. Under det franske valg var det hovedsageligt Twitter-robotter, der forsøgte at gøre #MacronLeaks til en skandale. I sådanne situationer ville lovgivning, som stiller krav om at afsløre sig selv som en robot, være ubetinget demokratisk gavnlig.

Flyt fokus fra GDPR til anvendelse

Selvom problematikken med anonyme robotter således har eksisteret før Google Duplex, kan den nye assistent med de menneskelignende træk forhåbentlig fungere som en form for juridisk wake-up-call. Det handler ikke om at begrænse teknologien. Tværtimod handler det om at forhindre, at den misbruges i stort og småt, og at der på den baggrund opstår modvilje mod kunstig intelligens. Det er positivt, at tech-virksomheder som IBM, Google og Microsoft selv er opmærksomme på etiske og juridiske problematikker ved kunstig intelligens. Men lovgiverne må mere på banen. Herunder bør de fokusere mindre på persondata og mere på selve anvendelsen af kunstig intelligens. Vi skal ikke være bange for den teknologiske udvikling, men de første skridt til regulering skal tages, før teknologien er så moden, at det bliver svært at vende om.

 

Foredrag om etik, jura, filosofi og kunstig intelligens

Har du brug for et foredrag om kunstig intelligens? Så læs mere her!

2 kommentarer

Skriv et svar