Idag ser vi en bred tillämpning av AI, i allt från kundinteraktioner till utveckling av nya läkemedel. Samtidigt ökar antalet regleringar och säkerhetskontroller snabbt. Vissa regeringar och organ, som EU med sin AI Act, agerar skyndsamt, men många organisationer saknar fortfarande tydliga ramverk för AI-användning. Det ökar risken för integritetsbrott, partiska beslut och skadat förtroende. Det skriver Andreas Gotthardsson, Director, Systems Engineering på Fortinet.
Den pågående demokrati-seringen av AI gör frågan akut. Det är inte längre bara it som utvecklar och använder systemen, utan även sälj, HR och ekonomi, för att nämna några. I takt med att fler avdelningar bygger eller beställer AI-lösningar ökar komplexiteten – och därmed riskerna. För att möta dessa utmaningar och säkerställa en ansvarsfull utveckling är en tydlig AI-styrning nödvändig. Att invänta lagstiftning är inte ett alternativ. Denna styrning ska fungera som skyddsräcken, inte som bromskloss, och skapa förutsättningar för hållbar innovation.
Medarbetare behöver relevant AI-kunskap för att förstå resultat, se begränsningar och för att kunna utgöra den mänskliga kontrollen. Ett AI-baserat verktyg kan vara ett stöd, exempelvis vid misstänkta finansiella transaktioner. Men utan mänsklig handpåläggning riskerar besluten att bli förenklade och felaktiga. Med rätt utbildning kan medarbetare upptäcka snedvridningar, ifrågasätta resultat och använda AI ansvarsfullt. Detta stärker i sin tur både organisationens motståndskraft och kundernas förtroende
Tydlig ansvarsfördelning
Just därför är det så viktigt för CISO:n att säkerställa tydliga ramverk. Detta omfattar dataskydd, att skapa transparens och spårbarhet, och att informera styrelse och chefer om risker med AI.
Tidigt införd styrning ger konkreta resultat: bättre beredskap för regleringar, färre säkerhetsproblem och färre snedvridna beslut. Dessutom leder det till högre förtroende hos kunder, partners och medarbetare. Motsatsen behöver vi inte leta länge efter – det finns gott om exempel på allt från dataläckor till partiska rekryteringsalgoritmer, där risken för skada på organisationens rykte är hög.
För att säkerställa en framgångsrik AI-styrning är det nödvändigt att säkerställa en tydlig ansvarsfördelning över it, säkerhet, efterlevnad och juridik, där ägare, mandat och uppföljning av beslut är fastställda för att undvika att ansvaret faller mellan stolarna.
Dynamisk styrning
Lika viktigt är att införa erkända standarder som ISO 42001:2023, NIST AI Risk Management Framework och EU AI Act som grund, då de ger en gemensam struktur för transparenta processer och förenklar efterlevnad. Vidare bör man involvera HR, utbildning och affärsledning tidigt i processen så att ramverken stödjer organisationens mål. Styrning som implementeras först efter driftsättning riskerar nämligen att både bli dyrt och ineffektivt.
Slutligen måste styrningen vara dynamisk. När AI går från mindre till breda och mer autonoma tillämpningar behöver ramverken utvecklas. Det kräver uppdaterade regelverk, bevakning av nya regler och en kontinuerlig dialog med verksamheten.
Ansvarsfull AI-styrning är nyckeln till hållbar, etisk och säker innovation. CISO är en central aktör när det kommer till att strategiskt integrera styrning, säkerställa mänsklig kontroll och bygga robusta skyddsräcken.
