tilt | Aktuelt | Samfunn | «Å la AI ta avgjørelser er å overlate kontrollen til en intelligent psykopat»

«Å la AI ta avgjørelser er å overlate kontrollen til en intelligent psykopat»

fredag 7. desember 2018 @ 09:03

Kunstig intelligens holder ikke, mener Einar Duenger Bøhn. Vi trenger kunstig moral også.
Av Paal Leveraas

Einar Duenger Bøhn syns ikke det er nok med kunstig intelligens. Han vil gjerne ha kunstig moral også. Uten det blir det kaos:

— Å la kunstige intelligenser ta avgjørelser for oss er som å overlate beslutningene til intelligente psykopater, sier filosofen og professoren ved Universitetet i Agder.

Et intervju med professor Bøhn er som nyttårsaften: overalt spretter det fram overraskelser som flyr mot skyene og eksploderer i aha-opplevelser.

Ludditt og teknologientusiast

Han fremstår som en uvanlig kombinasjon av ludditt og teknologientusiast.

Det er jo strengt tatt en selvmotsigelse.

Men filosofien er jo full av selvmotsigelser, er den ikke?

— Jeg er mest opptatt av alt som går gæernt med teknologi, og særlig all denne kunstige intelligensen, sier han.

AI «skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting»

Einar Duenger Bøhn

— Når vi snakker om teknologi handler det gjerne om at det skal frigjøre oss fra kjedelige jobber så vi kan gjøre mer nyttige ting. Men jeg ser ikke så mange som driver med nyttige ting. Snarere tvert imot, før vi innførte reiseregninger og kjørebok elektronisk kunne jeg fokusere på faget. Nå bruker jeg masse tid på administrativt arbeid. Det er den nye effektiviseringen. Man ender opp med å effektivisere fra ett ståsted og forvanske det fra et annet.

Han ser for seg hvor galt det kan gå når maskinene ikke bare gjør jobber, men også tar beslutninger basert på kunstig intelligens.

— Vi lar nå mange avgjørelser tas av kunstig intelligens. Det er galskap, det er som å overlate viktige beslutninger til intelligente psykopater. For i likhet med psykopater har ikke kunstige intelligenser moral. Derfor trenger vi ikke bare kunstig intelligente systemer, vi trenger i mange tilfelle også kunstig moralske systemer.

Einars kunstige moral

En slik kunstig moral har Einar Bøhn satt seg fôre å lage.

Første skritt er å lage et brettspill.

— Vi leter etter, eller skal selv lage et brettspill med en klar moralsk dimensjon, hvor det avgjørende ikke er hvor intelligent du er, men hvor moralsk du er. Intelligens i sjakk er strategisk. Ditt tap er min gevinst. I et moralsk spill er det ikke alltid vinn-tap eller uavgjort.

— Hva slags anvendelsesområder har en slik kunstig moral?

— Det kan for eksempel tenkes brukt i store bedrifter som skal foreta nedskjæringer. En kunstig intelligens vil ha fokus på hvem det er mest økonomisk å sparke. En kunstig moral vil fokusere på hva som er det mest moralske å gjøre. Så mister kanskje likevel ikke den single trebarnsmoren jobben sin, men markedsdirektøren må gå i stedet.

Ikke menneskelig moral

Mange av innvendingene han møter er at moral ikke kan gjenskapes maskinelt. For det første er moral et flytende begrep hvor ulike kulturer og individer har ulike verdier. For det andre er det for komplekst og individuelt.

— Men vi snakker ikke om en fullverdig menneskelig moral, like lite som vi snakker om fullverdige menneskelige intelligenser når vi snakker om kunstig intelligens. Det handler om å bruke teknologien til å fange opp moralske mønstre vi ikke kan se fordi datamaterialet er for stort. Vi kan Ikke forvente at en moralsk maskin skal løse moralske dilemmaer, men den kan hjelpe oss å se moralske dimensjoner i et større perspektiv, og hjelpe oss å ta de rette valgene når vi er emosjonelt ustabile.
Han vil heller ikke male et bilde av en kunstig moral som en superkraftig versjon av menneskelig moral.

— Kunstig intelligens er intelligent adferd i kunstig materiale. Det vil aldri være det samme som intelligent adferd i biologisk materiale. Å kritisere dagens kunstige intelligens for ikke å være menneskelig intelligens, er som å kritisere de tidlige flyene for ikke å være fugler, sier han. — Det samme gjelder for kunstig moral, avslutter Einar Duenger Bøhn.

En filosofs syn på digitaliseringen av Norge

Einar Duenger Bøhn har et av hovedforedragene på Software 2019. Foredraget sitt beskriver han blant annet slik:

«Intelligens er noe annet enn moral. Vi kjenner alle intelligente mennesker som ikke er særlig moralske, og moralske mennesker som ikke er særlig intelligente. Vi utvikler og anvender i dag fler og fler former for kunstig intelligens, men hvor ble det av moralen?»

Einar Duenger Bøhn

Filosofiprofessor, Universitetet i Agder

Utdanning: PhD, UMass Amherst, 2009<br>Bosted: Oslo og Lillesand<br>Spesialiteter: Metafysikk, kunstig intelligens, etikk, religionsfilosofi<br>Medlem av Agder Vitenskapsakademi<br>Medlem av Center of Artificial Intelligence Research<br>Medlem av The Young Academy of Norway<br>Vant nylig en formidlingspris ved Universitetet i Agder<br>Delt sjefredaktør Norsk Filosofisk Tidsskrift<br><a href=»http://www.einarduengerbohn.com/edb/Welcome.html» target=»_blank» rel=»noreferrer noopener»>Hjemmeside</a>

Artikkelen er opprinnelig publisert på nettsidene til Dataforeningen.

Kunstig intelligens

AI-AI, kaptein?

AI-AI, kaptein?

Er AI slutten eller begynnelsen? Dystopier og utopier snubler over hverandre for å ta ordet i den nye, feberhete AI-våren. Les mer
Den stille revolusjonen

Den stille revolusjonen

Den 4. industrielle revolusjon er en stille revolusjon. Ikke at den ikke har gitt lyd fra seg. Fra gater og torg, talerstoler og digitale kanaler, er det blitt ropt høyt og lenge. Noen roper varsko, andre roper i jubel. Les mer
Digitalisering: IT eller HR?

Digitalisering: IT eller HR?

Ryggmargsrefleksen vår når ordet «digital» nevnes er å tenke IT. Men det viktigste i «digital transformasjon» er ikke «digital», men «transformasjon». Endring og organisasjonsutvikling er først og fremst en HR-faglig jobb. Les mer

Abonnement på coaching

Abonnement på coaching

Gi dine medarbeidere tilgang på personlig og profesjonell vekst og utvikling med et fleksibelt abonnement på en eller flere av våre profesjonelle coacher.

Les mer

IdéCafé

IdéCafé med Nils Petter Nordskar

Lurer du også på hva tilt.work egentlig er? Du er ikke alene. 9. april får vi hjelp av selveste Nils Petter Nordskar – og kanskje deg? – til å finne oss sjæl.

Idéen bak IdéCafé er gratis innspill og idéer til småselskaper som ikke kan bruke store ressurser på profesjonelle i reklame og markedsføring.

Foruten praten mellom Nordskar og tilts Paal Leveraas, er deltakernes innspill hjertelig velkomne, og svært viktige. Mange har fulgt tilt.work og dets utspring – Tirsdag morgen – lenge. Nå har du sjansen til å bli med å forme vår fremtid.


Coaching-teknikker for prosjektledere

Coachende prosjektledelse

En coach-veteran avslører nyttige teknikker spesielt tilrettelagt for deg som leder prosjekter.

Dette kurset gir deg grunnleggende coaching-verktøy som er anvendelige i mange situasjoner. I kurset lærer du gjennom teori og øvelser som gir deg håndfast kroppslig læring. Kurset er et samarbeid mellom tilt.work og Computerworld Academy.


Våre nyhetsbrev

Her kan du melde deg på et eller flere av våre ukebrev.

"*" obligatorisk felt

Navn*

PrivacyTech

Som medlem i PrivacyTech-nettverket blir du en del av en gruppe likesinnede profesjonelle som er opptatt av GDPR, personvern, compliance og tech. Med Eva Jarbekk – en av Norges fremste eksperter på området – som fasilitator.

Partners in tilt

Vårt nettverk av «kloke hoder» (team tilt) med en bærekraftsagenda.

Del dine tanker om denne artikkelen

0 Comments

På forsiden nå

Bare 200 meter til: Små steg gjør store fremskritt

Bare 200 meter til: Små steg gjør store fremskritt

|
Hva er likheten mellom en polfarer, deg og dine ansatte?
Olivias verden

Olivias verden

|
KI er et fantastisk verktøy, og det blir mer fantastisk for hvert minutt. Fint for oss, stort sett. Men hvordan vil Olivia (8 måneder) sitt voksne liv se ut?
Darwin, dating og dommedag

Darwin, dating og dommedag

|
Det går en rød tråd fra Simen Velle til armageddon. Men det er ikke kvinnekampen som har skylda. Ei heller datingappene. Det er Darwin.
Snyltekapitalismen

Snyltekapitalismen

|
De har sugd seg inn i verdiskapningen i det meste som foregår på planeten. Nå begynner de å spise av velferdssamfunnets grunnmur også.
vektorgrafikk eldre i aktivitet

Farvel til alderismen. Eldre som livsbejaende, verdiskapende borgere

|
Den offentlige samtalen har et sterkt fokus på eldre som et problem og en kostnad. Skal vi snu samtalen til å handle om eldre som en livsbejaende ressurs, må det en holdningsendring til – også hos eldre.
Du skal få din lønn i vaffeljernet

Du skal få din lønn i vaffeljernet

|
Den ultimate lederutfordringen: Det eneste du kan tilby av motivasjon er vafler. Tusenvis står i det hver dag.
Kvinne holde en presentasjon foran et publikum.

Kunsten å skape engasjement i møter og på kurs

|
VIVA er en huskeregel for den som vil skape engasjerende kurs som huskes.
Utsikten fra elfenbenstårnet

Utsikten fra elfenbenstårnet

|
Å se det store bildet er bra, men hvis det er det eneste vi ser, mister vi kontakten med virkeligheten.
Nøkkelen til vekst: Lærdommer fra åkeren til kontoret

Nøkkelen til vekst: Lærdommer fra åkeren til kontoret

|
Visdommen jeg arvet fra min kjære bestefar, en visdom som strekker seg langt utover åkrene og inn i livets mange aspekter, er en uvurderlig guide i forståelsen av likhetene mellom lederskap og bondekunnskap.

Pin It on Pinterest

Share This

Del dette

Delt glede er dobbelt glede. Del dette med ditt nettverk.