top of page

Stop Loss!

Jon Arve Risan, Ex CEO NORSTELLA

Innen forsikring er det vanlig med gjenforsikring eller reassuranse dvs at man reduserer risiko ved å la andre være med og bære denne. Forholdet reguleres gjennom kontrakter. En av disse kontraktstypene heter Stop Loss. Vi kan kalle den hit, men ikke lenger.

Verden er full av høysang og forherligelse når det gjelder kunstig intelligens eller AI. Jeg sitter ofte og lurer på hvor AI ender og om vi trenger en stop loss. Kanskje er det mest hastigheten vi må begrense for å sikre kontroll med praktiske og etiske konsekvenser.

Sloan review hadde en artikkel med relevant tittel for en tid tilbake. Den het What Humans Lose When We Let AI Decide med undertittelen Why you should start worrying about artificial intelligence now.

Stop Loss.png

Av ovenstående årsaker ble denne lest med interesse og jeg skal prøve å gi et sammendrag her:

Artikkelen starter med å slå fast at det er mer enn 50 år siden datamaskinen Hal i filmen A Space Oddysey. Hal tok kontrollen over menneskene; en frykt vi har båret på siden. Dette har ikke hindret menneskene i å fortsette utviklingen innen en rekke forretningsområder slik som finans, verdipapiromsetning, CW jakt etter de beste menneskene. I privatlivet bærer vi monitorer som sjekker vår helse og vi ser fremveksten av smarte hus, særlig nå når strømmen er så dyr. I disse husene kontrolleres lys, lyd, varme og ulike former for hvitevarer ofte med hjelp fra Siri eller Alexia.

En ønsket utvikling, eller er det det? Noen kritiske røster peker på avhengigheter og redusert dømmekraft på de tilstandene som produseres. Noen peker også på moral og etikk i sakens anledning.

Reduseres vår dømmekraft gjennom redusert forestillingsevne, refleksjon, undersøkelse, vurdering, verdsettelse og sist, men ikke minst empati. Denne siste er fullstendig fraværende hos maskinene og AI programmene.

I artikkelen pekes det på en rekke eksempler på hvor det har gått galt. Som regel beror dette på mangelfull eller feilaktig (fordreid) input. Søppel

inn, søppel ut. For å unngå dette er det tatt i bruk sofistikerte teknikker og matematiske modeller.

Disse uheldige eller uønskede situasjonene burde ikke komme som en overraskelse. Kanskje for de helfrelste uten adekvate motforestillinger. Det manes til realistiske holdninger på hva en algoritme kan utføre og dens realistiske forutsetninger for å presentere et robust resultat som vi kan stole på.   

Publisert juli 2023

bottom of page