Jag använder AI mycket i mitt arbete. För att bearbeta information, ta fram beslutsunderlag, korrekturläsa texter och som stöd när jag löser problem eller utvecklar. Hittills har det framför allt varit ett verktyg som jag själv använder. Men efter möten med några av våra kunder, och efter många samtal med våra ISO-konsulter, ville jag ta nästa steg. Lösa verksamhetens problem och inte bara mina. Då föddes Riski, en AI-agent som ska hjälpa oss med riskhanteringen på Tripnet. På vägen blev det också en hel del funderande kring information, behörigheter och vad vi människor behöver fortsätta ta ansvar för.
Gör riskbedömningen möjlig att använda
Min inspirationen kommer från samtalen med människor omkring mig. Kollegor, kunder, leverantörer och konsulter som delar med sig av sådant de har provat, problem de har fastnat i och lösningar som har fungerat. Jag uppskattar det utbytet oerhört mycket. Ibland har jag själv något att bidra med, men minst lika ofta går jag från ett möte med en ny tanke och lust att sätta mig ner och prova.
AI är ett område där det finns mycket att prata om just nu. Många testar, några har kommit långt och andra försöker förstå var de ska börja. För egen del tycker jag att samtalen blir mest givande när vi kommer in på konkreta arbetsuppgifter. Vad har du gjort? Vad fungerade? Vad blev svårare än du trodde? Det var också sådana samtal som fick mig att fundera vidare på vårt eget arbete. Ett område som återkom flera gånger var riskhantering.
Börja med problemet – inte med AI
Jag tycker att en bra utgångspunkt är frågan: vilket problem försöker vi lösa, och vilka verktyg har vi till vårt förfogande? AI kan vara ett av dem. Ibland kommer man längre med en tydligare instruktion, en förbättrad process eller en vanlig systemintegration. Vi behöver förstå vad som är svårt i arbetet för att kunna välja ett stöd som faktiskt hjälper.
På Tripnet arbetar vi med scenariobaserad riskhantering. Vi beskriver vad som skulle kunna hända, vilka sårbarheter som finns, vilka hot som kan utnyttja dem och vilka konsekvenser det skulle få. Det låter ganska enkelt när man säger det så. Men om man inte dokumenterar risker särskilt ofta är det inte självklart hur man ska formulera sig. Vad hör hemma i scenariot? Vad är en sårbarhet och vad är ett hot? Hur mycket behöver man skriva för att någon annan ska förstå?
För många år sedan drev vår tidigare kollega Göran Sjöberg Tripnets certifieringsprojekt och höll utbildningar i riskhantering. Jag går fortfarande tillbaka till anteckningarna från de utbildningarna, både för att hämta inspiration och för att påminna mig om hur delarna hänger ihop. Under hösten har jag arbetat vidare med våra instruktioner och utbildat mina kollegor. Men även med tydligare instruktioner finns det frågor som kräver en del arbete att besvara.
Vi har omkring 400 registrerade risker. När någon upptäcker något behöver vi därför ganska snart fråga oss om vi redan har hanterat det. Är det en ny risk, en variant av en befintlig risk eller samma problem som dykt upp i en annan del av verksamheten? Att hitta rätt med traditionella sökningar kan vara svårt. Man behöver komma på vilka ord någon annan använde, trots att samma bakomliggande problem kan beskrivas på flera olika sätt.
Här såg jag en uppgift för en AI-agent. Användaren kan beskriva sin observation med egna ord och föra ett samtal om den. Agenten kan leta fram liknande risker och hjälpa till att jämföra med det som redan finns. Då blir det lättare att undersöka vad som är nytt, vad som behöver kompletteras och vad vi redan har tagit hand om.
Nästa fråga handlar om våra kontroller, alltså de skyddsåtgärder som ska minska sannolikheten för att något inträffar eller begränsa konsekvenserna om det ändå händer. Vilka kontroller finns kopplade till liknande risker? Kan vi använda dem även här? Behöver en befintlig kontroll tillämpas på fler ställen, eller behöver vi skapa ett åtgärdsprogram för att förbättra skyddet? Agenten kan hjälpa oss att hitta och förstå underlaget så att vi kan bygga vidare på det arbete som redan är gjort.
Det var den vägen jag ville göra enklare: från en kollegas observation till ett genomarbetat riskunderlag.
En AI-agent kräver också riskhantering
Att bygga en AI-agent för riskhantering innebär förstås att man också behöver riskhantera agenten. När information rör sig mellan dokument, AI-tjänster, integrationer och verksamhetssystem behöver vi veta vad agenten får läsa, vilka system den får kommunicera med och vad den får ändra. Vi behöver också bestämma hur vi kontrollerar resultatet och var människan måste vara med.
För Riski har jag därför utgått från principen om minsta möjliga behörighet. Agenten får tillgång till de operationer den behöver för sin uppgift. Läsning och skrivning hålls isär, och den har ingen generell åtkomst till databasen. Informationen hämtas och registreras genom avgränsade API-operationer, med ett bestämt syfte för varje operation.
Innan något registreras ska användaren få se det kompletta underlaget och uttryckligen bekräfta att det ska skrivas. Därefter hämtas informationen på nytt och jämförs med det som skulle registreras. Ett tekniskt svar om att ett anrop lyckades räcker inte för att agenten ska säga att arbetet är klart. Vi behöver kontrollera att informationen faktiskt blev den avsedda.
Det här är en del av själva lösningen. Att agenten kan utföra en uppgift är bara en av frågorna. Vi måste också förstå under vilka förutsättningar vi vill låta den göra det.
Människan måste fortsätta tänka
Den viktigaste gränsdragningen handlar ändå om ansvar. Hur mycket ska agenten göra, och vad behöver vi människor göra själva? Jag vill att den som använder Riski ska vara delaktig i resonemanget och förstå underlaget. Om arbetet till slut bara består av att godkänna en välformulerad text har vi tappat något väsentligt.
– Riski kan hjälpa till att formulera ett riskscenario, hitta relaterade risker och presentera tänkbara skyddsåtgärder. Däremot får agenten inte bestämma sannolikhet, konsekvens eller risknivå. Den formella riskbedömningen ska göras av en människa. Vi behöver väga in vår kunskap om verksamheten, ifrågasätta förslagen och avgöra om beskrivningen stämmer med de förhållanden som faktiskt råder.
För mig är det här en viktig del av hur vi använder AI. Vi kan få mycket hjälp med att söka, sammanställa och jämföra, men vi behöver fortfarande förstå vad vi fattar beslut om. AI är artificiellt intelligent. Vi människor måste fortsätta vara intelligenta på riktigt.
En AI-policy behöver fungera i vardagen
Samma resonemang behöver finnas på företagsnivå. Vilka AI-tjänster har vi godkänt, och vilken information får behandlas i dem? Vilka leverantörer och programvaror väljer vi att lita på, och på vilka grunder? Och stämmer vårt faktiska arbetssätt med den policy vi har beslutat om?
– För mig behöver en AI-policy hjälpa medarbetarna att besvara sådana frågor i det dagliga arbetet. Det ska gå att förstå vilket verktyg man får använda för en viss uppgift och vilken information man kan lämna till det. När något är oklart behöver det också finnas ett sätt att reda ut frågan.
Ett användbart verktyg kan vara lämpligt för vissa arbetsuppgifter och olämpligt för andra. Därför behöver valet av tjänst, informationsklassningen, behörigheterna och uppföljningen finnas med redan när vi utformar lösningen. Det är också en del av vad som gör verktyget trovärdigt. Vi behöver veta vad det får göra, vilken information det använder och hur vi kan kontrollera det som kommer tillbaka.
Från arbetssätt till teknisk lösning
De här principerna gav också riktning åt det tekniska arbetet. Riski behöver kombinera två olika typer av information. I SharePoint finns våra styrande dokument, som beskriver hur riskhanteringen ska gå till. I ledningssystemet finns den strukturerade informationen om registrerade risker, kontroller och krav, tillsammans med de identifierare som behövs för att koppla ihop rätt uppgifter.
Lösningen blev en agent i Microsoft Copilot Studio, med SharePoint som kunskapskälla och avgränsade API-integrationer mot ledningssystemet. Dokumenten ger stöd för hur vi ska arbeta, medan integrationerna gör det möjligt att hämta de uppgifter som finns registrerade. Agenten behöver båda delarna för att kunna sätta en ny observation i sitt sammanhang.
För de moment där information får registreras använder Riski ett kontrollerat Power Automate-flöde. Där ingår validering, användarens uttryckliga bekräftelse och återläsningen efter att informationen har skrivits. På så sätt får kraven på granskning och kontroll en konkret plats i arbetsflödet.
Nästa steg tar vi tillsammans
Det som började med en önskan att göra riskhanteringen lite enklare blev en praktisk övning i AI, integrationer, informationssäkerhet och mänskligt beslutsfattande. Resultatet är Riski, med uppgiften att hjälpa oss från en observation till ett underlag som vi kan granska och bedöma. Nästa steg är att följa hur stödet fungerar i vardagen och vad vi behöver förbättra.
Det är också därför jag vill dela med mig av arbetet. Idén växte fram genom samtal med andra, och jag tror att nästa omgång samtal kan vara minst lika värdefull. När kollegor börjar använda stödet och kunder eller andra kontakter delar sina erfarenheter får vi fler perspektiv på både möjligheterna och begränsningarna.
Har du provat något liknande, eller brottas du med samma frågor i din verksamhet? Jag hör gärna hur du har tänkt. Det var så det här arbetet började.
