Ny rapport: Generativ KI setter grunnleggende rettigheter i spill

20. juni, 2023

Det har vært en eksplosjon av tjenester drevet av kunstig intelligens det siste halvåret. Forbrukerrådet legger nå frem en rekke anbefalinger og krav for å sikre at forbrukernes rettigheter blir ivaretatt.

Generativ kunstig intelligens (KI) gjør det enkelt å genere tekst, bilder, lyd og video som ligner på menneskeskapt innhold. Tjenestene er også integrert i plattformer som for eksempel Bing og Snapchat. Samtidig skaper utviklingen store utfordringer for både forbrukere og samfunnet som helhet.

– Bruken av generativ KI skaper en rekke forbrukerutfordringer knyttet til personvern, manipulasjon, personlig integritet, svindel og desinformasjon. Tjenestene er også svært energikrevende, noe som har stor innvirkning på miljø og bærekraft, sier direktør Inger Lise Blyverket i Forbrukerrådet.

– Vi må sikre at utvikling og bruk av generativ kunstig intelligens er trygg, pålitelig og rettferdig. Dessverre har historien vist oss at vi ikke kan ha tiltro til at teknologigigantene ordner dette selv, og at det er behov for regulering som sikrer at våre rettigheter blir ivaretatt.

Ber norske myndigheter komme på banen

Forbrukerrådet og 14 forbrukerorganisasjoner i EU og USA sender rapporten «Ghost in the machine – Addressing the consumer harms of generative AI» og medfølgende krav til nasjonale og europeiske myndigheter og tilsyn.

– Mange av utfordringene vi står ovenfor kan møtes med allerede eksisterende lovgivning. Samtidig forutsetter dette at myndighetene er på ballen, og sikrer at vi har robuste og kompetente tilsyn som følger opp, sier Inger Lise Blyverket.

Europaparlamentet ble den 14. juni enige om forslag til regulering av kunstig intelligens. Saken skal nå videre til forhandlinger med EU-kommisjonen og Ministerrådet.

– Her er det viktig at norske myndigheter ikke blir sittende på gjerdet, og engasjerer seg aktivt i de internasjonale prosessene som pågår. Dette regelverket vil ha stor innvirkning på hvordan denne teknologien blir tatt i bruk.

Anbefalinger for trygg, pålitelig og rettferdig bruk

I rapporten legger Forbrukerrådet frem en rekke anbefalinger og krav for å sikre trygg, pålitelig og rettferdig bruk av generativ KI.

• Gjeldende lover og regler må håndheves
  Mange av utfordringene er omfattet av eksisterende lovverk. Myndigheten må se til at disse lovene håndheves effektivt og til forbrukernes beste
• Tilsynene må sikres tilstrekkelige ressurser
  Tilsynsmyndighetene må ha tilstrekkelige ressurser og kompetanse til å følge utviklingen og føre tilsyn med selskapene som bruker KI. 
• Forbrukerbeskyttelsen må styrkes
  Forbrukere skal ikke være testkaniner for ny teknologi. Det må sikres at bruken av generativ KI er trygg, pålitelig og rettferdig.
• Strategier for KI må sette grunnleggende rettigheter i sentrum
  Den nasjonale KI-strategien må oppdateres med den siste utviklingen innen KI, og må sette grunnleggende rettigheter i sentrum. Det bør også legges strenge føringer for bruk av generativ kunstig intelligens i offentlig sektor.
• Det må utarbeides tilpasset og fremtidsrettet lovverk
  Det må utvikles nye regelverk som ivaretar forbrukernes rettigheter i de tilfellene der eksisterende lover ikke er tilstrekkelige.