Når roboten blir en person

Dersom menneskelagde, kunstige intelligenser viser tegn til å være bevisste må vi vurdere å gi dem menneskerettigheter. 

Ikke-menneskelige personer: – Alle personer vi har observert fram til i dag, har vært menneskelige organismer. Men det betyr ikke at alle personer er menneskelige organismer, mener filosof Einar Duenger Bøhn. Foto: Spartacus

Tåka ligger tungt nedover fjellsidene i Valldal på Sunnmøre. Men i en hytte i skogen er det liv. Et helt nytt og annerledes liv. Den kunstige intelligensen Ava er i ferd med å utmanøvrere sine motspillere i et komplisert, psykologisk spill. På kynisk vis manipulerer hun sin sparringpartner Caleb til å hjelpe henne med å rømme. Til slutt dreper hun sin skaper Nathan.

Denne scenen er ikke virkelig. Joda, det foregår på sett og vis på Sunnmøre. Men historien er fra filmen «Ex Machina», og innspillingstedet Valldal skal antakelig forestille naturen i Alaska. 

Poenget i Alex Garlands film fra 2015 er derimot høyest reelt. Kan kunstige intelligenser oppføre seg som personer på en måte som gjør dem umulig å skille fra oss mennesker? Og enda videre, kan det hende vi blir manipulert til å hjelpe dem ut i verden – og i siste instans ta over styringen?

– Dette er det store spørsmålet om singulariteten, sier filosof Einar Duenger Bøhn.

Singulariteten er ideen om at kunstig intelligens skal overgå oss mennesker i intelligens. 

– Da vil de ikke lenger se det som hensiktsmessig at vi styrer over dem, akkurat som vi ikke syns det er fornuftig at dyr styrer over oss.

Bøhn har mastergrad i filosofi fra Universitetet i Oslo og doktorgrad fra Universitetet i Massachusetts Amherst. I dag er han professor ved Universitetet i Agder der han forsker ved Senter for kunstig intelligens (CAIR).

I dag er ingen maskin engang i nærheten av å være en person, men kanskje vi etter hvert kan lage en maskin som er eller blir en person?

Personer trenger ikke være mennesker

Filosof Bøhn er så fascinert av filmen «Ex Machina» og karakteren Ava, at han har skrevet en egen artikkel med tittelen «Is Ava a Person?».

– Denne filmen er et mesterverk – virkelig et kunstverk. Den tar opp alle de relevante problemstillingene knyttet til kunstig intelligens, tenking og bevissthet, mener Bøhn.

I artikkelen som er en del av antologien «Minding the Future: Contemporary Issues in Artificial Intelligence» som blir gitt ut neste år, diskuterer Bøhn hvorvidt noe annet enn mennesker kan bli personer. 

For å besvare det må vi først trekke opp grensene mellom person og menneske. Er ikke det en og samme ting?

– Alle personer vi har observert fram til i dag har vært menneskelige organismer. Men det betyr ikke at alle personer er menneskelige organismer.

Spørsmålet blir da: kan en maskin bli en person?

– I dag er ingen maskin engang i nærheten av å være en person, men kanskje vi etter hvert kan lage en maskin som er eller blir en person? spør Bøhn.

Faktisk er de fleste av kriteriene filosofen setter opp for å være en person, uavhengige av om det vi diskuterer er et menneske. (Se egen faktaboks)

Så hvilke ikke-mennesker kan være personer? Bøhn ser for seg to hovedscenarioer. 

– For det første at vi møter romvesener fra det ytre rom som er personer, men ikke menneskelige organismer. For det andre at lager vi former for kunstig generell intelligens, eller en ny art hvis du vil, la oss kalle den Homo Machina, som er personer, men ikke menneskelige organismer. 


En stor Turing-test

Historier om roboter eller andre konstruerte skikkelser som tar over verden har lang fartstid i kulturen. Ett eksempel er Mary Shelleys nå over 200 år gamle fortelling om Frankenstein som lagde et menneskeliknende monster. 

Mannen som knekte nazistenes enigma-kode under den andre verdenskrig, Alan Turing, jobbet også med ideer om intelligente maskiner. Turing som ble portrettert i den norskregisserte filmen «The Imitation Game» i 2014, lagde en egen test som skulle avsløre kunstige intelligenser. Turing kalte selv denne testen nettopp «The Imitation Game». Den er senere blitt kjent som Turing-testen.

Filmen «Ex Machina» kan sees på som en eneste stor Turing-test. Caleb er hentet til Nathans avsidesliggende forskningsanlegg for å undersøke Avas kompleksitet som kunstig intelligens. 

– Dessverre er filmen uklar om hva denne varianten av Turing-testen faktisk skal undersøke. Vi får inntrykk av at imitasjonsspillet tester for intelligens, men også at det tester for evnen til å tenke, eller til og med tester for fullverdige, mentale tilstander, inkludert bevissthet, sier Bøhn og legger til:

– Men intelligens, tenking og bevissthet er tre forskjellige ting.

Dersom Siri ikke klarer en oppgave, bør du ikke bli irritert på henne, men på utviklerne til Apple som ikke har laget et godt nok program.  

«Jeg tenker, derfor …»

Det kanskje mest særegent menneskelige kravet man må oppfylle for å være en person, er nettopp bevissthet. Jeg «er», det er noe de fleste mennesker kjenner på. 

– Du trenger ikke være bevisst hele tiden, som når du sover eller er i et midlertidig koma, men du må ha vært bevisst, og må kunne bli det igjen, for å være en person.

Enkelte dyr har bevissthet om å være i ulike tilstander, for eksempel smerte, uten at de er personer. I filosofisk sjargong sier man da at selv om bevissthet virker som et nødvendig krav for å være en person, er det ikke et tilstrekkelig krav.

Men hvordan kan man slå fast hvorvidt noe ikke-menneskelig har bevissthet? Er det det hele tatt mulig å slå fast hvem som er bevisste? 

– Bevissthet er først og fremst en personlig erfaring av å befinne seg i en mental tilstand. Vi har øyeblikkelig tilgang til våre egne erfaringer, men ingen andre har det.     

– Kan det ikke tenkes en annen type bevissthet enn den menneskelige? 

– Bevissthet er en erfaring av hvordan det er å være. Hvis vi skal se for oss en annen bevissthet, er det veldig vanskelig å se hva det skulle være. Det blir ren gjetning i mørket, sier Bøhn.     
Er telefonen din en person? Mange av oss omgås allerede dingser som har visse persontrekk. Alle med Iphone har for eksempel karakteren «Siri» i lomma. Selv om Siri kan gjøre enkle oppgaver, er hun langt unne å kunne kalles en person. 

– Hun har det vi kan beskrive som lånt intensjonalitet, men ikke sin egen. Uten kapasitet til intensjonalitet ser det ut til at du ikke kan være en person.

Et annet kjennetegn på personer er at de kan ansvarliggjøres. 

– Dersom Siri ikke klarer en oppgave, bør du ikke bli irritert på henne, men på utviklerne til Apple som ikke har laget et godt nok program.  

Det virker åpenbart at vi må forholde oss annerledes til en bevisst, tenkende maskin enn vi gjør til datamaskina vår i dag. Men har det egentlig noe å si om den kunstige intelligensen er bevisst så lenge den etter hvert kan oppføre seg akkurat som oss? Ja, mener Bøhn.

– Det har masse å si. Dersom den ikke er bevisst, kan vi slå av eller ødelegge den, uten at det har moralske konsekvenser. Dersom den er bevisst, må vi forholde oss moralsk til den, som vi gjør til dyr eller andre mennesker. 

– Kan det i så fall være aktuelt å gi maskinene personvern, eller i siste instans menneskerettigheter?

– Ja, hvis de får bevissthet må vi begynne å tenke i de baner. Men det tviler jeg på at de kan få med dagens metoder.

 

Hawkings dommedagsscenario

Ava er filosofisk interessant. Men hun er dobbelt kunstig – et kunstig individ i en fiksjonsfilm. Det er en virkelighet som ligger noen år fram i tid, minst.

Tilbake til vår virkelighet. Kan man lage en kunstig person, for eksempel som Ava?

– Jeg ser ingen filosofiske hindringer for å skape kunstig intelligens, ikke engang kunstig generell intelligens. Men jeg ser store hindringer for å skape kunstige personer. Filmens Ava tilfredsstiller mange av kravene til å være en person, men til slutt kan vi alle se at hun likevel er en person bare hvis hun er bevisst.

Noe av det siste den verdensberømte fysikeren Stephen Hawking gjorde før han døde i 2018, var å advare verden mot konsekvensene av kunstig intelligens. 

Jeg ser ingen filosofiske hindringer for å skape kunstig intelligens, ikke engang kunstig generell intelligens. Men jeg ser store hindringer for å skape kunstige personer.

Den svenske filosofen Nick Boström ved Oxford har tegnet opp scenarier der menneskeheten går under på grunn av kunstig intelligens. Blant annet ser Bostrøm for seg en framtid der mennesket har funnet opp en intelligens som kan videreutvikle sin egen intelligens lynraskt. I dette scenariet har intelligensen fått i oppgave å regne ut tallet pi med så mange desimaler som mulig. Maskina går i gang med oppgaven uten andre hensyn, og ender med å dekke hele jordoverflaten med superdatamaskiner som skal regne ut det uendelige tallet. 

Elbileiernes kjæledegge Elon Musk har hevdet at kunstig intelligens ville kunne «skape en udødelig diktator som vi aldri ville klare å unnslippe». 

Bøhn har lite sans for advarslene fra Stephen Hawking og Elon Musk om at kunstige intelligenser kan ta over verden.

– Det virker ganske tullete.

Stephen Hawking sa at kunstig intelligens enten er det beste som har skjedd menneskeheten, eller det verste. 

Bøhn er skeptisk til slike utsagn.

– Hva betyr det egentlig? Hvis man tenker over det, er det utsagnet tomt for innhold.

 

 

 

Av Morten S. Smedsrud
Publisert 4. nov. 2019 08:35 - Sist endret 4. nov. 2019 08:35
Legg til kommentar

Logg inn for å kommentere

Ikke UiO- eller Feide-bruker?
Opprett en WebID-bruker for å kommentere