Varför AI-resan kräver strukturerad styrning

För de flesta företag är artificiell intelligens (AI) ett av dagens mest aktuella ämnen, och många utforskar de möjligheter som tekniken erbjuder. Samtidigt finns det utmaningar och risker kopplade till AI som behöver hanteras för att säkerställa en säker, ansvarsfull, tillförlitlig och etisk utveckling, implementering och användning. Här spelar standarden ISO/IEC 42001 för ledningssystem för artificiell intelligens en viktig roll som ett erkänt ramverk för att styra utvecklingen och skapa förtroende för AI-lösningar.

Trots att AI har funnits under en längre tid är det först under de senaste åren som tekniken har fått ett brett genomslag. En ViewPoint-undersökning från DNV visar att 58 % av företagen ännu inte har implementerat AI-teknik och att mer än 70 % fortfarande befinner sig i början av sin AI-resa. Resultaten tyder på att AI ännu inte är en strategisk prioritet för majoriteten av företagen.

Samtidigt är många av dessa organisationer långt ifrån nybörjare när det gäller verksamhetsutveckling och styrning. De har redan etablerade arbetssätt och erfarenhet av att arbeta enligt ledningssystem. Många är dessutom certifierade enligt en eller flera ISO-standarder, exempelvis ISO 9001 (kvalitet), ISO 14001 (miljö) eller ISO/IEC 27001 (informationssäkerhet). För många, särskilt de som befinner sig i ett tidigt skede av sin AI-resa, återstår dock att se värdet av att tillämpa samma strukturerade arbetssätt även på AI.

Det växande behovet av styrning

De företag som befinner sig i början av sin AI-resa fokuserar främst på att använda AI för att öka effektiviteten och förbättra interna processer. Det är ofta ett naturligt första steg eftersom lösningar som Copilot och ChatGPT är relativt enkla att införa och använda.

När organisationer mognar i sitt AI-arbete sker ofta en förflyttning mot mer avancerade och externa AI-initiativ som syftar till att skapa nya affärsmöjligheter och generera intäkter. I takt med denna utveckling ökar också behovet av strukturerad styrning för att hantera risker och säkerställa en säker, tillförlitlig och etisk utveckling, implementering och användning av AI.

Regleringen av AI utvecklas snabbt och företag kommer i allt större utsträckning att behöva kunna visa att de uppfyller relevanta krav. Samtidigt finns en viss skepsis kring AI, och för att kunna dra nytta av teknikens möjligheter krävs ökat förtroende för hur AI utvecklas, används och styrs. För att kunna lita på och dra nytta av en teknik behöver vi förstå hur den fungerar och kunna bedöma dess säkerhet, tillförlitlighet och transparens.

Denna utmaning lyfts fram i rapporten AI Governance and Assurance Global Trends 2023–24, som publicerades av AI Assurance Club i mars 2024. Rapporten beskriver globala trender och utvecklingen av AI-relaterad lagstiftning världen över. När det gäller förtroende konstaterar rapporten:

"I centrum för AI-styrning ligger frågan om förtroende. När AI-system blir en allt mer integrerad del av våra liv – i infrastruktur, affärsprocesser, offentliga tjänster och konsumentprodukter – behöver användarna känna sig trygga med att systemen fungerar som avsett, konsekvent och utan att orsaka skada."

Bygga förtroende för AI

Förtroende för AI handlar om att användare och andra intressenter kan känna sig trygga med att AI-baserade produkter och tjänster är säkra, tillförlitliga och transparenta. Om ett sjukhus exempelvis använder AI-baserad diagnostik, kan jag som patient lita på att bedömningen är lika bra eller bättre än den som en läkare skulle göra på egen hand?

För att bygga och stärka detta förtroende krävs en strukturerad och tydlig styrning av AI-systemens utveckling, implementering och användning.

Att bygga förtroende är en grundläggande princip i alla ISO-standarder för ledningssystem. Därför är det naturligt att samma arbetssätt kan tillämpas även inom AI. ViewPoint-undersökningen visar att många av de företag som ligger längst fram inom AI-utveckling och AI-användning redan överväger att implementera ett AI-ledningssystem för att säkerställa en strukturerad och effektiv styrning. De känner dessutom redan till standarden ISO/IEC 42001.

Det finns idag flera ramverk och kompletterande standarder för AI, bland annat NIST AI Risk Management Framework, ISO/IEC 23894 för riskhantering inom AI, ISO/IEC 5338 för AI-systemets livscykel samt ISO/IEC TS 25058.

I december 2023 publicerade ISO standarden ISO/IEC 42001 för ledningssystem för artificiell intelligens (AIMS). Det är den första certifierbara standarden för AI-ledningssystem och den erbjuder ett robust arbetssätt för att hantera både möjligheterna och riskerna med AI i organisationen.

Genom att uppfylla kraven i standarden och certifiera sitt ledningssystem kan företag ta ytterligare ett steg för att stärka förtroendet för sina AI-lösningar. Certifikatet utfärdas av ett oberoende certifieringsorgan, såsom DNV, vilket ger ett externt bevis på att verksamheten arbetar systematiskt med AI-styrning.

Eftersom standarden bygger på ISO:s harmoniserade struktur (High Level Structure, HLS) kan den dessutom enkelt integreras med andra ledningssystem.

ISO/IEC 42001 följer samma övergripande struktur som andra ISO-standarder för ledningssystem och känns därför igen av organisationer som redan arbetar enligt exempelvis ISO 9001, ISO 14001 eller ISO/IEC 27001. Standarden bygger på principen Plan-Do-Check-Act (PDCA) och ställer krav på att etablera, införa, underhålla och kontinuerligt förbättra ett AI-ledningssystem.

Eftersom samtliga deltagare i ViewPoint-undersökningen identifierade cybersäkerhet som ett av de främsta hoten mot AI-användning kan det vara särskilt värdefullt att integrera AI-ledningssystemet med ett ledningssystem för informationssäkerhet enligt ISO/IEC 27001.

Att bygga förtroende

ISO/IEC 42001 kommer sannolikt att få en allt viktigare roll i takt med att regelverken kring AI utvecklas världen över. Redan idag finns lagar och policyramverk för AI i bland annat USA och Kina, och i Europa har världens första heltäckande AI-lagstiftning, EU AI Act, nyligen trätt i kraft.

Syftet med lagen är att främja en säker, tillförlitlig och etisk utveckling och användning av AI-system. Att etablera en tydlig styrning av AI inom organisationen blir därför en central del i arbetet med att uppfylla regulatoriska krav och bygga förtroende.

För att säkerställa effektiv AI-styrning krävs en central funktion som samlar kompetens kring AI-teknik, användningsområden och leverantörer över olika delar av verksamheten. Eftersom AI utvecklas snabbt och det regulatoriska landskapet ständigt förändras behöver också styrningsmodeller och arbetssätt ses över och uppdateras regelbundet av ansvariga funktioner och intressenter.

Det är också här ett AI-ledningssystem enligt ISO/IEC 42001 visar sitt värde.

Att arbeta strukturerat med styrning och ansvarsfull användning av AI kan i längden skapa konkurrensfördelar. Det hjälper organisationer att visa för både interna och externa intressenter att de har ett systematiskt arbetssätt för att skydda användare, hantera risker och driva kontinuerliga förbättringar.

Ett certifierat ledningssystem är ett tydligt bevis på organisationens åtagande och det dagliga arbete som genomförs för att säkerställa en säker, tillförlitlig och etisk utveckling, implementering och användning av AI i verksamhetens processer, produkter och tjänsteerbjudanden. 

2026-08-28 10:00:00