Hvis din virksomhed anvender eller overvejer at anvende løsninger baseret på kunstig intelligens enten in-house eller fra en leverandør, er det en god ide at tage stilling til, om I har styr på sikkerheden omkring disse løsninger. Brugen af kunstig kan nemlig introducere nye sårbarheder og øge antallet af angrebsflader. Dette kan ændre virksomhedens overordnede risikoprofil, og bør derfor afspejles i jeres risikovurderinger af projekter, hvor der indgår løsninger baseret på kunstig intelligens.
Hvad er kunstig intelligens?
Kunstig intelligens systemer er baseret på algoritmer, dvs. matematiske formler, der ved at analysere og finde mønstre i data kan identificere den mest hensigtsmæssige løsning. Langt de fleste systemer varetager specifikke opgaver på afgrænsede områder til fx kontrol, forudsigelse og vejledning. Teknologien kan udformes til at tilpasse sin adfærd ved at observere, hvordan omgivelserne påvirkes af tidligere handlinger.
Når I tager stilling til sikkerheden i jeres brug af kunstig intelligens, er der et par vigtige spørgsmål, som I bør stille jer selv:
- Har vi udarbejdet løsningsspecifikke risikovurderinger for alle de projekter, hvor vi anvender løsninger baseret på kunstig intelligens
- Har vi i vores risikovurderinger taget højde for nye typer af angreb rettet mod vores løsninger baseret på kunstig intelligens (fx forgiftning af data)?
- Har eventuelle leverandører af løsninger baseret på kunstig intelligens været inddraget ifm. udarbejdelsen af risikovurderinger?
- Har vi en form for kvalitetskontrol af output fra vores algoritmer, vores brug af kunstig intelligens bygger på?
- Har vi en plan B i tilfælde af, at vores løsning baseret på kunstig intelligens pludselig ikke skulle være tilgængelig?