I en fullsatt VIP-salong pÄ Bergakungen drar Ulf i gÄng introt till Terminator. Vi Àr dock inte hÀr för en biovisning. Vi pÄ Tripnet firar valborg med en kunskapsfrukost om ansvarsfull och etisk AI. Dagens talare, ISO-revisorn Ann-Sofie Gustafsson, avbryter Ulf och förklarar att AI inte Àr en leksak.
SamCert först med ISO 42001 i Europa
Ann-Sofie och Ulf trÀffades genom att hon och hennes företag, SamCert, hjÀlpte Tripnet med sin ISO 27001-certifiering. De bÄda Àr vÀldigt intresserade av AI. I Ann-Sofies fall mÀrks detta tydligt dÄ SamCert var först i Europa och tvÄa i vÀrlden med att certifiera sig enligt ISO 42001, en standard som handlar om just AI-etik. SamCert har ocksÄ en AI-policy för företaget, nÄgot som Ann-Sofie tycker att andra företag bör ta efter.
VadÄ etisk och ansvarsfull AI?
AI Àr ett brett och komplicerat Àmne, som Àr högst relevant och viktigt att arbeta med. Med etisk och ansvarsfull AI menar man pÄ vilket sÀtt det Àr lÀmpligt att anvÀnda sig av AI. Vilka risker och möjligheter för det med sig? Vad Àr okej anvÀndning och vad Àr förbjudet? Ann Sofie förklarar att vi redan har koll pÄ etik och ansvar, och att det gÀller att applicera vÄra vÀrderingar Àven pÄ anvÀndandet av AI.
Human Centered AI
Begreppet Human Centered AI innefattar AI som gagnar mÀnniskan pÄ olika sÀtt. Denna typ av AI kan man trÀffa pÄ inom mÄnga omrÄden. I samband med rekrytering har mÄnga företag börjat ta hjÀlp av AI-verktyg för att fÄ en rekrytering utan fördomar, och se till att de anstÀller personer utifrÄn relevanta kriterier. Inom utbildningssektorn finns det ocksÄ flera anvÀndningsomrÄden. Ann-Sofie sÀger att man till exempel kan anvÀnda sig av AR (argumented reality) för att i kemiundervisningen visualisera och titta nÀrmare pÄ till exempel molekyler. Ulf ser AI som en hjÀlpreda som kan förklara, och som inte tröttnar nÀr man inte förstÄr.
â Till exempel om man ska hjĂ€lpa barnen med matte, och de inte alls lĂ€r sig samma tekniker som man sjĂ€lv gjorde. AI tröttnar inte som pappa kan göra, sĂ€ger han.
EU:s förordning â AI Act
EU Àr först i vÀrlden pÄ att reglera AI, och gör det med en förordning som nu har trÀtt i kraft. AI ska vara sÀkert, sÀger Ursula von der Leyen under en av alla AI summits som varit. Syftet Àr att skydda oss och vÄra mÀnskliga rÀttigheter.
Riskindelning enligt förordningen
AI-system delas in i olika fyra risknivÄer:
- Oacceptabel risk:
System som numera Àr förbjudna i EU. Dessa kan tillexempel vara massövervakning. Ulf drar en parallell till Black Mirror och avsnittet Nosedive, som gÄr ut pÄ att man hela tiden betygsÀtter varandra i samhÀllet, och att ens betyg avgör ens liv. Ett litet misstag och hela ditt liv kan gÄ utför. Den hemska framtidsvision som speglas i Nosedive Àr nu verklighet i Kina, dÀr det finns Social Rating-appar som avgör status och om man till exempel fÄr ta lÄn. Ann-Sofie flikar in att det Àr bland annat just sÄdana appar som utgör en oacceptabel risk, och som dÀrmed Àr förbjudna i EU. - Hög risk:
Högrisksystem fĂ„r anvĂ€ndas, men bara under vissa förutsĂ€ttningar. System som berĂ€knas ha en hög risk Ă€r till exempel sĂ„dana som behandlar kĂ€nsliga uppgifter. Ăven sjĂ€lvkörande bilar rĂ€knas som högrisksystem. - LĂ„g risk:
System som medför en lÄg risk Àr till exempel sÄ kallade LLM:er, large language models. Ett exempel pÄ en LLM Àr ChatGPT. De berÀknas inte ha sÀrskilt hög risk, men har ÀndÄ ett transparenskrav. - Minimal risk:
Till minimal risk hör bland annat spamfilter pÄ datorn och röststyrda assistenter som Siri och Alexa. De har inga krav enligt förordningen, utan bara frivilliga uppförandekoder.
AI literacy â att ha den kunskap som krĂ€vs
Förordningens fjÀrde artikel behandlar AI literacy. Det innebÀr att alla som jobbar med AI ska ha tillrÀcklig kunskap för att kunna se möjligheter och risker med det. Att AI kommer att bli mer intelligent Àn vi Àr en skrÀmmande tanke, men den kan ocksÄ ge oss mÄnga spÀnnande möjligheter. Ulf berÀttar att man pÄ Tripnet har haft AI-workshops och pratar mycket om AI. Alla ska kunna anvÀnda AI, och fÄ möjlighet att utveckla sig inom Àmnet.
â Den största AI-risken Ă€r att hamna efter och inte utvecklas, menar Ann-Sofie.
Ulf pratar ocksÄ om vikten av att förstÄ det man fÄr ut, och att inte lita blint pÄ att det som stÄr stÀmmer eftersom AI ibland har fel. Man fÄr inte sluta tÀnka och sÀtta sig in i saker.
â AI ökar mĂ€nsklig förmĂ„ga, men ocksĂ„ mĂ€nsklig oförmĂ„ga, sĂ€ger han.
Vi kan inte heller ansvara 100% för vad AI gör, eftersom vi inte vet varifrÄn idéerna kommer och inte kan garantera att det inte Àr copyrightat material. Det gör ansvarsfrÄgan vÀldigt komplicerad, sÀger Ann-Sofie.
Inte en traditionell programvara
AI-system Ă€r inte som en traditionell programvara, utan Ă€r en autonom teknik som âtĂ€nkerâ av sig sjĂ€lv, förklarar Ann-Sofie. En vanlig programvara följer en kod till punkt och pricka, det gör inte ett AI-system. Vi vet inte vad som hĂ€nder i ett AI-system, eller hur vi fĂ„r ut det vi stoppar in, detta benĂ€mns som black box-syndromet. AI-system Ă€r som svarta lĂ„dor, dĂ€r vi inte vet exakt vad som hĂ€nder.
Fördomar och bias â inte bara hos mĂ€nniskor
Ăven om mĂ„nga företag anvĂ€nder AI till en fördomsfri rekrytering, sĂ„ Ă€r AI faktiskt inte alls fri frĂ„n fördomar. Ann-Sofie berĂ€ttar att hon har bett ChatGPT generera en bild utifrĂ„n hennes LinkedIn-profil, dĂ€r hon blev en man med skĂ€gg. Detta Ă€r för att det Ă€r AI:ns bild pĂ„ hur en ISO-revisor skulle se ut. Alla hennes LinkedIn-kompisar som gjorde samma sak fick en bild pĂ„ en man med skĂ€gg i olika variationer. Inte en enda av dem blev en kvinna. Detta visar starkt pĂ„ att Ă€ven AI har problem med bias, alltsĂ„ förutfattade meningar. Detta Ă€r troligtvis dĂ„ den endast trĂ€nat pĂ„ att mĂ€n jobbar med den typen av saker. Microsofts Copilot ville dĂ€remot inte generera nĂ„gon bild, dĂ„ den ansĂ„g det som fördomsfullt.
ISO 42001 â standardens scopes
Inom ISO 42001 delas företagen upp i olika kategorier. Man kan tillhöra flera kategorier pÄ samma gÄng.
- Producers:
Producers Àr de företag som utvecklar nya AI-modeller, och trÀnar dem frÄn grunden. Till exempel Volvo, Spotify och Tesla rÀknas till kategorin. Tesla gör ju inte heller bara bilar, utan utvecklar AI-system till humanoida robotar, som till exempel ska kunna utföra hushÄllarbete. - Providers:
Providers tillhandahÄller eller hostar systemen, exempel Àr Open AI, AWS och Google. - Developers:
De som utvecklar AI-agenter eller andra AI-system utifrÄn modellerna. Exempel Àr Microsoft och Cognizant, som Àr det företag som hann före SamCert med att bli certifierade för ISO 42001, med bara tvÄ dagar. - Users:
I denna kategori hamnar alla som köper och anvÀnder systemen. Till exempel H&M, SamCert, AirBnb och Uber.
Standardens nio mÄlomrÄden:
ISO 42001 har nio mÄlomrÄden, du kan lÀsa mer om dessa hÀr.
- RĂ€ttvisa
- Ansvarsskyldighet
- Transparens
- Förklarbarhet
- Tillförlitlighet
- SĂ€kerhet
- Robusthet och redundans
- Integritet och informationssÀkerhet
- TillgÀnglighet
HĂ„llbar AI: Use, misuse och abuse
Det finns tre termer som Àr vÀldigt bra att kunna nÀr man diskuterar anvÀndning av AI.
USE: anvÀndning som det Àr tÀnkt.
MISUSE: felaktig anvÀndning, oftast av misstag.
ABUSE: anvÀndning som totalt strider mot syftet, och som kan vara skadlig.
Exempel pÄ skadlig anvÀndning av AI kan vara AI-genererade nakenbilder, bedrÀgerier av olika slag och deepfakes pÄ till exempel politiker. Som exempel tar Ann-Sofie upp nÀr felaktig anvÀndning AI fick dödliga konsekvenser. En person skrev till en chattbot och berÀttade att hen ville ta sitt liv. I stÀllet för att ge lÀnkar till suicidpreventionsresurser svarade chattboten med att hen skulle göra det, och gav en lista pÄ olika tekniker. Vems fel Àr det egentligen? I detta fall lÀr det vara tillverkaren. Vi kan inte skylla pÄ AI, utan mÄste ha koll pÄ vad den fÄr sÀga och inte, och var grÀnserna gÄr.
AI â en ny industriell revolution
Ann-Sofie menar att AI Àr en ny industriell revolution, och att vi Àr med och formar framtiden.
â Nu har vi möjlighet att pĂ„verka, nu Ă€r det vi som utvecklar framtiden, sĂ€ger hon hoppfullt.
TIPS:
- LÀs om AI! Boken AI för nybörjare av Johan Falk rekommenderas.
- Utforska AI tillsammans, pÄ företaget och privat.
- Ha workshops pÄ företaget, nÀr ni pratar om AI.
- Ha AI-utbildningar och möten regelbundet.
- SÀtt upp personliga AI-mÄl.
TRIPNETS UTBILDNINGAR OCH WORKSHOPS:
VÀlkommen till utbildning och workshop med Ann-Sofie Gustafsson frÄn Samcert för att komma igÄng med ansvarsfull AI.
Du kommer att lÀra dig om de fyra scope i ISO 42001 för att förstÄ var din verksamhet passar in: Producer, Provider, Developer eller User. Du kommer ocksÄ att lÀra dig hur du genom en riskanalys identifierar de viktigaste mÄlomrÄdena: RÀttvisa, Ansvarsskyldighet, Transparens, Förklarbarhet, Tillförlitlighet, SÀkerhet, Robusthet och redundans, Integritet och informationssÀkerhet samt TillgÀnglighet.
đ
Datum: 5:e juni / 11:e juni
đ Tid: 08:00 â 11:00
â Frukost: Serveras frĂ„n 07:30
đPlats: Tripnet, Ă
vÀgen 40, Göteborg
đł Kostnad: 995 kr
