«Å la AI ta avgjørelser er å overlate kontrollen til en intelligent psykopat»

Kunstig intelligens holder ikke, mener Einar Duenger Bøhn. Vi trenger kunstig moral også.
Paal Leveraas
Følg Paal

Einar Duenger Bøhn syns ikke det er nok med kunstig intelligens. Han vil gjerne ha kunstig moral også. Uten det blir det kaos:

— Å la kunstige intelligenser ta avgjørelser for oss er som å overlate beslutningene til intelligente psykopater, sier filosofen og professoren ved Universitetet i Agder.

Et intervju med professor Bøhn er som nyttårsaften: overalt spretter det fram overraskelser som flyr mot skyene og eksploderer i aha-opplevelser.

Ludditt og teknologientusiast

Han fremstår som en uvanlig kombinasjon av ludditt og teknologientusiast.

Det er jo strengt tatt en selvmotsigelse.

Men filosofien er jo full av selvmotsigelser, er den ikke?

— Jeg er mest opptatt av alt som går gæernt med teknologi, og særlig all denne kunstige intelligensen, sier han.

AI «skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting»

Einar Duenger Bøhn

— Når vi snakker om teknologi handler det gjerne om at det skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting. Snarere tvert imot, før vi innførte reiseregninger og kjørebok elektronisk kunne jeg fokusere på faget. Nå bruker jeg masse tid på administrativt arbeid. Det er den nye effektiviseringen. Man ender opp med å effektivisere fra ett ståsted og forvanske det fra et annet.

Han ser for seg hvor galt det kan gå når maskinene ikke bare gjør jobber, men også tar beslutninger basert på kunstig intelligens.

— Vi lar nå mange avgjørelser tas av kunstig intelligens. Det er galskap, det er som å overlate viktige beslutninger til intelligente psykopater. For i likhet med psykopater har ikke kunstige intelligenser moral. Derfor trenger vi ikke bare kunstig intelligente systemer, vi trenger i mange tilfelle også kunstig moralske systemer.

Einars kunstige moral

En slik kunstig moral har Einar Bøhn satt seg fôre å lage.

Første skritt er å lage et brettspill.

— Vi leter etter, eller skal selv lage et brettspill med en klar moralsk dimensjon, hvor det avgjørende ikke er hvor intelligent du er, men hvor moralsk du er. Intelligens i sjakk er strategisk. Ditt tap er min gevinst. I et moralsk spill er det ikke alltid vinn-tap eller uavgjort.

— Hva slags anvendelsesområder har en slik kunstig moral?

— Det kan for eksempel tenkes brukt i store bedrifter som skal foreta nedskjæringer. En kunstig intelligens vil ha fokus på hvem det er mest økonomisk å sparke. En kunstig moral vil fokusere på hva som er det mest moralske å gjøre. Så mister kanskje likevel ikke den single trebarnsmoren jobben sin, men markedsdirektøren må gå i stedet.

Ikke menneskelig moral

Mange av innvendingene han møter er at moral ikke kan gjenskapes maskinelt. For det første er moral et flytende begrep hvor ulike kulturer og individer har ulike verdier. For det andre er det for komplekst og individuelt.

— Men vi snakker ikke om en fullverdig menneskelig moral, like lite som vi snakker om fullverdige menneskelige intelligenser når vi snakker om kunstig intelligens. Det handler om å bruke teknologien til å fange opp moralske mønstre vi ikke kan se fordi datamaterialet er for stort. Vi kan Ikke forvente at en moralsk maskin skal løse moralske dilemmaer, men den kan hjelpe oss å se moralske dimensjoner i et større perspektiv, og hjelpe oss å ta de rette valgene når vi er emosjonelt ustabile.
Han vil heller ikke male et bilde av en kunstig moral som en superkraftig versjon av menneskelig moral.

— Kunstig intelligens er intelligent adferd i kunstig materiale. Det vil aldri være det samme som intelligent adferd i biologisk materiale. Å kritisere dagens kunstige intelligens for ikke å være menneskelig intelligens, er som å kritisere de tidlige flyene for ikke å være fugler, sier han. — Det samme gjelder for kunstig moral, avslutter Einar Duenger Bøhn.

En filosofs syn på digitaliseringen av Norge

Einar Duenger Bøhn har et av hovedforedragene på Software 2019. Foredraget sitt beskriver han blant annet slik:

«Intelligens er noe annet enn moral. Vi kjenner alle intelligente mennesker som ikke er særlig moralske, og moralske mennesker som ikke er særlig intelligente. Vi utvikler og anvender i dag fler og fler former for kunstig intelligens, men hvor ble det av moralen?»

Einar Duenger Bøhn

Filosofiprofessor, Universitetet i Agder

Utdanning: PhD, UMass Amherst, 2009<br>Bosted: Oslo og Lillesand<br>Spesialiteter: Metafysikk, kunstig intelligens, etikk, religionsfilosofi<br>Medlem av Agder Vitenskapsakademi<br>Medlem av Center of Artificial Intelligence Research<br>Medlem av The Young Academy of Norway<br>Vant nylig en formidlingspris ved Universitetet i Agder<br>Delt sjefredaktør Norsk Filosofisk Tidsskrift<br><a href=»http://www.einarduengerbohn.com/edb/Welcome.html» target=»_blank» rel=»noreferrer noopener»>Hjemmeside</a>

Artikkelen er opprinnelig publisert på nettsidene til Dataforeningen.

Paal Leveraas
Følg Paal

0 kommentarer

Trackback/Tilbaketråkk

  1. En helt alminnelig dag på jobben ... | Tirsdag morgen - […] Det er en presis beskrivelse. For selv om praktisk talt all verdiskapning og brorparten av alle beslutninger tas av…
  2. En helt alminnelig dag på jobben - tilt.work - […] Det er en presis beskrivelse. For selv om praktisk talt all verdiskapning og brorparten av alle beslutninger tas av…

Legg inn en kommentar

Relaterte saker

Våre ukebrev

Her kan du melde deg på et eller flere av våre ukebrev. Du kan melde deg av eller endre hva du mottar via lenker i epostene.

 

Navn*

Hva vil du lese?

På forsiden nå

SAS-streiken

Det SAS-styret trenger er MOT

|
SAS har i mange år hatt et betydelig tillitsproblem i egne rekker og dermed også i markedet.
lykke er

Lykken kan være fire mobiltelefoner

|
Det spiller ingen rolle hva du har. Det som betyr noe, er hvordan du opplever det du har.
meningsfull jobb

Bare 1 av 5 av oss opplever jobben som meningsfull

|
Har virksomheten en dårlig sjef, er du garantert å få ansatte som hater jobben.
Ett åt uten løgn

Utfordring: Ett år uten løgn

|
I ett år skal jeg ikke lyve. Aldri. Ikke en eneste hvit løgn.
Strekk deg litt lengre i sommer

Strekk deg litt lengre i sommer

|
Rick Salmon utfordrer deg til å gå ut av komfortsonen denne sommeren. «Ekte endring starter der komfortsonen slutter», fremholder han.
værekraft

Værekraft, eller prøve å finne meg sjæl

|
Vi har alle vært der, og ikke minst har vi tatt tak i venner, kunder, kjærester og kolleger når de slutter å puste med magen og fester øynene på et mål langt der borte i horisonten.  Når de slutter å være nærværende.
negativt fokus

Negativt fokus kan være positivt

|
Det kan være vel så motiverende å finne ut hva du ikke vil være, som å styre etter positive verdier.
Her er standarden som sier hva du kan forvente av en coach

Her er standarden som sier hva du kan forvente av en coach

|
Sjamanisme, healing, lederutvikling, beste versjon av deg selv? Coaching er så mye. Kanskje for mye. Vi trenger en standard, og nå er den her.
selvhøytidelighet

Den patetiske selvhøytideligheten

|
Min aversjon mot selvhøytidelighet er patetisk når jeg til stadighet tar meg selv i å være det.

Bli medlem

Bli medlem

Som medlem i tilt.work kan du delta på alle våre “Litt klokere” nettmøter. Du får også tilgang til en ressursbank under oppbygging, våre berømte 🤣morgentilt☕, og rabatter på tjenester, events og produkter.  Takk for at du støtter oss og bidrar til å tilte hoder mot et mer bærekraftig arbeidsliv.

%d bloggere liker dette: