Einar Duenger Bøhn syns ikke det er nok med kunstig intelligens. Han vil gjerne ha kunstig moral også. Uten det blir det kaos:

— Å la kunstige intelligenser ta avgjørelser for oss er som å overlate beslutningene til intelligente psykopater, sier filosofen og professoren ved Universitetet i Agder.

Et intervju med professor Bøhn er som nyttårsaften: overalt spretter det fram overraskelser som flyr mot skyene og eksploderer i aha-opplevelser.

Ludditt og teknologientusiast

Han fremstår som en uvanlig kombinasjon av ludditt og teknologientusiast.

Det er jo strengt tatt en selvmotsigelse.

Men filosofien er jo full av selvmotsigelser, er den ikke?

— Jeg er mest opptatt av alt som går gæernt med teknologi, og særlig all denne kunstige intelligensen, sier han.

AI «skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting»

Einar Duenger Bøhn

— Når vi snakker om teknologi handler det gjerne om at det skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting. Snarere tvert imot, før vi innførte reiseregninger og kjørebok elektronisk kunne jeg fokusere på faget. Nå bruker jeg masse tid på administrativt arbeid. Det er den nye effektiviseringen. Man ender opp med å effektivisere fra ett ståsted og forvanske det fra et annet.

Han ser for seg hvor galt det kan gå når maskinene ikke bare gjør jobber, men også tar beslutninger basert på kunstig intelligens.

— Vi lar nå mange avgjørelser tas av kunstig intelligens. Det er galskap, det er som å overlate viktige beslutninger til intelligente psykopater. For i likhet med psykopater har ikke kunstige intelligenser moral. Derfor trenger vi ikke bare kunstig intelligente systemer, vi trenger i mange tilfelle også kunstig moralske systemer.

Einars kunstige moral

En slik kunstig moral har Einar Bøhn satt seg fôre å lage.

Første skritt er å lage et brettspill.

— Vi leter etter, eller skal selv lage et brettspill med en klar moralsk dimensjon, hvor det avgjørende ikke er hvor intelligent du er, men hvor moralsk du er. Intelligens i sjakk er strategisk. Ditt tap er min gevinst. I et moralsk spill er det ikke alltid vinn-tap eller uavgjort.

— Hva slags anvendelsesområder har en slik kunstig moral?

— Det kan for eksempel tenkes brukt i store bedrifter som skal foreta nedskjæringer. En kunstig intelligens vil ha fokus på hvem det er mest økonomisk å sparke. En kunstig moral vil fokusere på hva som er det mest moralske å gjøre. Så mister kanskje likevel ikke den single trebarnsmoren jobben sin, men markedsdirektøren må gå i stedet.

Ikke menneskelig moral

Mange av innvendingene han møter er at moral ikke kan gjenskapes maskinelt. For det første er moral et flytende begrep hvor ulike kulturer og individer har ulike verdier. For det andre er det for komplekst og individuelt.

— Men vi snakker ikke om en fullverdig menneskelig moral, like lite som vi snakker om fullverdige menneskelige intelligenser når vi snakker om kunstig intelligens. Det handler om å bruke teknologien til å fange opp moralske mønstre vi ikke kan se fordi datamaterialet er for stort. Vi kan Ikke forvente at en moralsk maskin skal løse moralske dilemmaer, men den kan hjelpe oss å se moralske dimensjoner i et større perspektiv, og hjelpe oss å ta de rette valgene når vi er emosjonelt ustabile.
Han vil heller ikke male et bilde av en kunstig moral som en superkraftig versjon av menneskelig moral.

— Kunstig intelligens er intelligent adferd i kunstig materiale. Det vil aldri være det samme som intelligent adferd i biologisk materiale. Å kritisere dagens kunstige intelligens for ikke å være menneskelig intelligens, er som å kritisere de tidlige flyene for ikke å være fugler, sier han. — Det samme gjelder for kunstig moral, avslutter Einar Duenger Bøhn.

En filosofs syn på digitaliseringen av Norge

Einar Duenger Bøhn har et av hovedforedragene på Software 2019. Foredraget sitt beskriver han blant annet slik:

«Intelligens er noe annet enn moral. Vi kjenner alle intelligente mennesker som ikke er særlig moralske, og moralske mennesker som ikke er særlig intelligente. Vi utvikler og anvender i dag fler og fler former for kunstig intelligens, men hvor ble det av moralen?»

Artikkelen er opprinnelig publisert på nettsidene til Dataforeningen.