AI-systemer: Beskyttelse mod forvrængede algoritmer er en konkurrencefordel

Teknologisk udvikling fremmer velstand og velvære ud over væsentlighed. Det globale bruttonationalprodukt er 23 gange højere end før den første industrielle revolution, levealderen er steget 245 procent, og arbejdstiden er faldet 49 procent. Men den teknologiske udvikling medfører også nye risici, der skal løses lige.

Kunstig intelligens (AI) står af forskellige grunde, især under det brændende glas. Når et kreditkortselskab bruger AI-teknologi til at opdage svig i realtid og svare direkte, hjælper det kunder og virksomheder. Men hvad nu hvis algoritmen ikke fungerer som den skal? Hvad hvis han blokerer folk med bestemte navne, bopladser eller et bestemt køn meget hurtigere end andre? Konsekvenserne kan være alvorlige.

Deaktiver (ikke) bevidste fordomme

AI-systemer har to grundlæggende svagheder: de faktiske algoritmer og den database, som programmerne udvikler sig uafhængigt af. Begge er tilbøjelige til det samme problem: (u) bevidste fordomme og ubalance, såkaldte forudindtægter. Organisationer skal tackle denne udfordring med effektiv AI-risikostyring, hvis de ikke ønsker at overlade feltet til deres konkurrenter.

udstilling

De fleste ledere har ringe erfaring med, hvordan KI påvirker de forskellige elementer i deres organisation – fra softwaresiden til dataaktiverne til samarbejde mellem mennesker og tekniske systemer. På grund af dette har C-niveauer ofte svært ved at identificere potentielle risici og svagheder i deres AI-systemer. Dette kan have fatale følger. For at forhindre forvrængede algoritmer og forudindtægter i databasen er det nødvendigt med en ting over alt andet: En forståelse af, hvor komplekst, nuanceret og netværksmæssigt emnet er.

Masser af potentiale – i begge retninger

AI-systemer har potentialet til at gøre beslutningstagningen mere retfærdig og mere objektiv på alle niveauer. Dette er ikke kun teori: for eksempel fandt en undersøgelse fra 2018, at retsafgørelser truffet på grundlag af AI-systemer kan reducere hudfarveforskelle.

Men at AI-systemer forhindrer menneskelig fejl er ikke automatisk. AI-systemer kan gengive menneskelige og sociale fordomme, hvis de ikke er fri for forvrængninger – hurtigere end mennesker ville være i stand til. For at forhindre dette er strategisk risikostyring med hensyn til fordomme og fordomme inden for AI-systemer derfor vigtig.

Også interessant: Stop AI-bange!

Principper for AI-risikostyring

Direktører, eksperter og andre beslutningstagere bør først og fremmest klarlægge risikoen for forvrængede AI-systemer og deres konsekvenser – og identificere forventelige svagheder og fejlkilder på dette tidspunkt. Dette kræver en tværfaglig tilgang, der inkorporerer perspektiverne i alle relevante dele af organisationen.

For eksempel vises eksemplet på en fremtrædende – og i dette tilfælde anonymiseret – europæisk bank, der bruger AI-systemer til at optimere sit callcenter, realkreditudlån og økonomisk styring, hvordan dette kan fungere i praksis. Bankens COO samlede eksperter fra forretnings-, it-, sikkerheds- og risikosektoren for at vurdere og prioritere risici. Resultatet var en struktureret risikoidentifikation, der muliggjorde en meningsfuld fordeling af tid og ressourcer baseret på prioritering. Det er bare begyndelsen.

Tag hele organisationen med dig

Når der skabes klarhed om, hvilke presserende problemer der skal løses, er der behov for robuste kontrolsystemer – i hele organisationen. Udviklingen af ​​AI-systemer skal presserende ledes på forståelige og kontrollerbare måder – i kombination med interne retningslinjer, testprocedurer og beredskabsplaner samt passende trænings- og udviklingsmuligheder for medarbejderne.

Ovennævnte europæiske bank har fastlagt robuste beslutningsprincipper med et klart mål: at bestemme på hvilket tidspunkt og hvordan AI-systemer kan bruges, hvis de påvirker bankkundernes økonomiske situation. For eksempel kan en menneskelig medarbejder i visse situationer være nødt til at blive frigivet, før en anbefaling fra AI videresendes til kunderne. Derudover udsatte banken sin tidligere risikostyring for en dybdegående gennemgang for at eliminere mulige sårbarheder og for at etablere og styrke de nødvendige sikkerhedsforanstaltninger.

Det er vigtigt at skræddersy eventuelle risikobaserede bestemmelser mod forspændinger i AI-systemer til risikoen og trænge ind i emnet med den nødvendige dybde. Det afhænger af kompleksiteten af ​​de anvendte algoritmer, hvor omfattende og forskellige de anvendte data er, og også hvor og hvordan folk griber ind. Følgelig skal forholdsreglerne altid individualiseres, hvilket yderligere demonstrerer kravet til strategisk planlægning af en sådan risikoanalyse.

Forebyggelse af partiske fordele bliver en konkurrencefordel

I sidste ende er der stadig meget at lære om effektiv risikostyring for AI-systemer – og det vil forblive sådan i øjeblikket. Teknologien er stadig relativt ny og er i konstant udvikling. En ting er imidlertid allerede overskuelig: At sikre, at resultaterne af AI-systemer er afbalancerede, retfærdige og fri for partiske fordele, vil være en af ​​de vigtigste succesfaktorer for virksomheder i det 21. århundrede. De følgende seks trin kan give første, effektive impulser:

  • Integrer muligheder og risici ved AI-systemer i strategiske overvejelser lige fra starten.
  • Etablere processer og foranstaltninger til test af AI-systemer for forspændinger og foretage de nødvendige justeringer.
  • At stimulere faktuelle diskussioner om partier i menneskelig beslutningstagning.
  • Diskuter, hvordan mennesker og maskiner kan arbejde sammen på den bedst mulige måde.
  • Invester mere i tværfaglig undersøgelse af fordomme og gør flere data tilgængelige.
  • Opmuntrer mangfoldighed i AI-sektoren til at afspejle den sociale mangfoldighed og derved mere effektivt forhindre bias og fordomme.

Organisationer bør ikke tøve med at vie sig til dette emne. Jo dyrere konsekvenserne af fejlbehæftede AI-systemer bliver, og jo flere organisationer der er nødt til at håndtere risiciene, desto mere bliver evnen til at genkende og forhindre forfordeling en ny konkurrencefordel. Der er intet alternativ til at tage dette strategisk.

Du er måske også interesseret i dette: Kunstig intelligens har brug for kreativ intelligens

Peter Breuer er Senior Partner på virksomheds- og strategikonsulent McKinsey. Som en fremragende ekspert i big data-analyse hjælper han klienter med at opnå fremragende egenskaber i hele værdikæden.

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *