Magma topp logo Til forsiden Econa

Digital etikk er grunnleggende for tillit

figur-authorfigur-author

Teknologiutvikling skjer så raskt at lovgivere og myndigheter ofte blir hengende etter. Dette kan føre til både mangel på regulering og utdaterte regelverk. Uten tilstrekkelige føringer fra regelverket blir det desto viktigere at ledere tar ansvar for bedriftens teknologiske utvikling. Vi tror at ledere og bedrifter som tar beslutninger om sin bruk av teknologi basert på digital etikk, vil oppnå tillit og dermed få et konkurransefortrinn.

Kundens forventninger

Kunder bryr seg i økende grad om hvordan deres personopplysninger og andre data som omhandler dem blir behandlet, og de blir mer oppmerksomme på betydningen av sikkerhet i tjenestene de bruker (KPMG UK, 2019). Samtidig blir kunstig intelligens i økende grad brukt til å fatte beslutninger som mennesker tidligere foretok. Lånekassen har for eksempel tatt i bruk kunstig intelligens i sin bokontroll, der støttemottakerne blir bedt om å bekrefte at de ikke bor sammen med foreldrene sine. Basert på kunnskap fra tidligere gjennomførte kontroller kan Lånekassen mer effektivt målrette kontrollen og finne de studentene som har oppgitt uriktige opplysninger (Lånekassen, 2019).

Forventningene til hva teknologi kan løse, øker i takt med utviklingen innen og kunnskapen om teknologi. Vi kan trekke paralleller til miljøbevissthet og bærekraftig utvikling – jo mer kunden vet om skadene ved ikke-miljøvennlig produksjon, jo mer forventer de av bærekraftig produksjon. Tilsvarende gjelder personvern og sikkerhet i tjenestene. De siste årene, i forbindelse med at General Data Protection Regulation (GDPR) ble innført, har vi sett at kundene forventer stadig mer på dette området. De har blitt mer bevisst sine rettigheter. Vi tror kunder også i økende grad vil vektlegge og bry seg om hvilke etiske implikasjoner ny teknologi kan ha.

Digital etikk

Digital etikk handler om hva teknologi er og bør være, hvordan ny teknologi bør utvikles, og hvilke sosiale påvirkninger den har (Moor, 1985; Bergsjø, 2019).

Analysebyrået Gartner spådde digital etikk og personvern som én av topp ti strategiske teknologitrender for 2019 (Gartner, 2018). De hevder at samtalene rundt personvern må endres fra «Overholder vi reglene?» til «Gjør vi det riktige?» (Gartner, 2018). Etikk er fortsatt en del av de teknologiske spådommene for 2020 (Gartner 2019), noe som tyder på at det er blitt et varig element i teknologiutviklingen.

Vi ser også at stadig flere store institusjoner i Europa, så som det britiske datatilsynet (ICO) og EUs ekspertgruppe High-Level Expert Group on Artificial Intelligence, ønsker å vektlegge digital etikk. I Norge har vi nylig fått en nasjonal strategi for kunstig intelligens hvor problemstillinger rundt etikk også blir løftet frem.

I konkurransen om å være fremst på kunstig intelligens er det et fortrinn å utvikle pålitelig kunstig intelligens som skaper og opprettholder tillit. EUs ekspertgruppe og den norske regjeringen har begge oppstilt de samme syv prinsippene for kunstig intelligens:

  • menneskets selvbestemmelse
  • teknisk robusthet og sikkerhet
  • personvern og databeskyttelse
  • transparens
  • mangfold (ikke-diskriminering og rettferdighet)
  • nytte for samfunnet og miljø
  • ansvarlighet

Disse kan og bør i stor grad også overføres til annen teknologi, for eksempel programvareutvikling.

Innebygd digital etikk

I personvernretten gjelder det et krav om innebygd personvern (privacy by design). Innebygd personvern går ut på at mekanismer (organisatoriske og tekniske) for ivaretakelse av personvernet må bygges inn i løsninger og tjenester som utvikles. Virksomheten må altså gjennom hele prosessen, fra utvikling til drift, påse at personvernet blir ivaretatt. Det er ikke lenger nok å bygge løsningen og i etterkant påse at den etterlever regelverkskrav – personvern skal være en del av utviklingsarbeidet.

På samme måte som personvern skal være en del av hele utviklingen, mener vi – som regjeringen (Regjeringen, 2020) – at også etiske vurderinger bør bygges inn for å ivareta digital etikk i hele prosessen: innebygd digital etikk. Ved innebygd digital etikk vil bedrifter kunne sikre etterlevelse av lovverk, gode etiske refleksjoner rundt hvordan teknologien bør brukes og blir brukt, samt hvilke sosiale påvirkninger den har.

I systemutvikling vil utviklere ofte møte på situasjoner og dilemmaer der lovregler finnes, er uklare eller ikke eksisterer. I alle disse tilfellene er etiske refleksjoner og beslutninger svært viktig. Og spørsmålet «Gjør vi det riktige?» bør stilles.

Innebygd digital etikk i alle ledd vil føre til at kunder lettere kan stole på tjenesten, og bedriften vil enklere kunne gjøre seg fortjent til kundenes tillit.

Fem råd til ledere om digital etikk

For å konkretisere hva innebygd digital etikk er, og kan være, har vi valgt å trekke frem noen etiske vurderinger ledere i alle bedrifter bør gjøre knyttet til bedriftens bruk av teknologi.

• Teknologiens sosiale påvirkning

Teknologi åpner for mange muligheter, og disse er ikke alltid like gode. Et grunnleggende prinsipp ved utvikling og bruk av teknologi bør være teknologiens sosiale påvirkning. Alle som utvikler og anvender teknologi, må tenke gjennom om det er etisk riktig å påvirke mennesker ubevisst eller bruke teknologi som har negativ sosial innvirkning på mennesket.

• Rettferdig og nyttig

Teknologien bør være rettferdig i den forstand at den ikke diskriminerer, den bør legge til rette for alle brukergrupper. I tillegg bør teknologien være samfunnsnyttig, ikke påføre skade og ta hensyn til miljøet.

• Transparens og åpenhet

For å kunne etterprøve at teknologien er rettferdig og respekterer menneskets autonomi, må teknologien være åpen og transparent. Det vil si at det må være mulig å forstå hvordan teknologien er bygd opp, og hvordan den kommer frem til et gitt resultat.

• Sikkerhet

Teknologien må være sikker og beskyttet mot sårbarheter. Det skal altså være svært vanskelig å påvirke dens konfidensialitet, tilgjengelighet og integritet.

• Ansvarlighet

Alle bedrifter må ta eierskap til den etiske siden av teknologi, og stå til ansvar for sine valg overfor kunder og samfunnet for øvrig.

Digital etikk skaper fremtidens vinnere

Digital etikk er kritisk for virksomheter som vil gjøre seg fortjent til tillit fra kundene sine. Dersom kunden mister tillit til tjenesten eller produktet, er det enkelt å bytte til en annen leverandør. Tilliten er med andre ord forretningskritisk, og et steg i riktig retning er å sette digital etikk inn som et eget mål i bedriftens styringsdokumenter på lik linje med øvrige etterlevelseskrav. Vår påstand er at de virksomhetene som allerede nå satser på digital etikk, vil være fremtidens vinnere.


Econa er foreningen for høyt utdannede innen økonomi og administrasjon. Er du ikke medlem?
Sjekk medlemstilbudene og meld deg inn i dag.

© Econas Informasjonsservice AS, Rosenkrantz' gate 22 Postboks 1869 Vika N-0124 OSLO
E-post: post@econa.no.  Telefon: 22 82 80 00.  Org. nr 937 747 187. ISSN 1500-0788.

RSS