Sveriges dataportal
Förtroendemodellen
Bedöm ditt AI-system
Allmänt information
Organisationsnummer
*
Organisationsnamn
*
AI-systemnamn
*
AI-systeminformation
*
Typ av AI-system
*
Frågesvarsmodeller
Modeller för bildigenkänning
Natural Language Processing (NLP) modeller
Sentimentanalysmodeller
Bildgenereringsmodeller
Taligenkänningsmodeller
Förstärkningsinlärningsmodeller
Generativa kontradiktoriska nätverk (GAN)
Maskinöversättningsmodeller
Objektdetektionsmodeller
Inget av ovanstående
Juridik och etik
Vilka grupper kommer att påverkas av AI-systemet?
*
Allmänheten
Barn och ungdomar (under 18)
Äldre vuxna (65+)
Personer med funktionshinder
Etniska minoriteter
Låginkomsttagare
Offentlig sektor (t.ex. kommun, myndighet)
Privat sektor (företag)
Känsliga yrkesgrupper (t.ex. hälso- och sjukvårdspersonal, lärare)
Brottsbekämpande myndigheter
Anställda inom organisationen
Studenter eller elever
Privatpersoner som söker jobb
Personer som ansöker om bostad eller sociala tjänster
Personer som arbetar med migrationshantering
Inga specifika grupper
Kommer privatpersoner och företag att informeras om hur AI-systemet fungerar?
*
Ja
Nej
Är det juridiskt klarlagt att ni kan använda de data ni vill använda när ni utvecklar, tränar eller använder ert AI-system?
*
Ja
Nej
Behandlar ni känsliga personuppgifter när ni utvecklar, utbildar eller använder ert AI-system?
*
Ja
Nej
Finns det en risk att utvecklare, AI-tränare eller annan personal som hanterar data kan påverkar AI-systemet så att resultat kan komma att diskriminera någon eller några utifrån diskrimineringslagens grunder?
*
Ja
Nej
Omfattar AI-systemet och AI-tjänsten social poängsättning (”social scoring”, rangordning av individer baserat på deras beteende, egenskaper eller egenskaper)?
*
Ja
Nej
Använder AI-systemet biometrisk identifiering (t.ex. ansiktsigenkänning) på offentliga platser för övervakning i realtid?
*
Ja
Nej
AI-systemet används inom:
*
Kritisk infrastruktur (t.ex. energi, vatten) där fel kan äventyra liv/hälsa
Utbildning eller yrkesprogram som påverkar tillgången till utbildning eller jobb
Anställning, HR eller fastställande av tillgång till viktiga tjänster (t.ex. bank, bostäder)
Brottsbekämpning, rättvisa eller migration
Hälso- och sjukvård
Inget av ovanstående
Finns det några licenser kopplade till de AI-system eller AI-modeller som ingår i IT-systemet?
*
Ja
Nej
Data- och informationssäkerhet
Vet ni vilken vilken data och information AI-systemet konsumerar och genererar ur ett informationssäkerhetsperspektiv?
*
Ja
Nej
System information
Är ni medvetna om er roll och ert ansvar som organisation för det givna AI-systemet, utifrån AI-förordningen?
*
Ja
Nej
Finns det system och programvaraor i ert system som interager med AI-systemet och som påverkar det genererade resultatet?
*
Ja
Nej
Data- och informationssäkerhet
Kommer insamlad data och information och/eller generarade resultat att delas med tredje part?
*
Ja
Nej
Finns processer och lösningar på plats för att hindra att data används eller missbrukas av andra?
*
Ja
Nej
Hur ser tillgången till användbar data ut?
*
Select an option
Hur lagras data?
*
Egna servrar
Från tredje part inom EU
Från tredje part utanför EU
På användarens enhet
Vi lagrar ingen data
Inget av ovanstående
Finns lösningar för att hindra att information och data i och från AI-sysemet missbrukas?
*
Ja
Nej
Vilka metoder används för att skydda data?
*
Kryptering under lagring och överföring
Åtkomstkontroll och behörighetshantering
Anonymisering eller pseudonymisering av känsliga uppgifter
Regelbundna säkerhetsrevisioner och övervakning
Inget av ovanstående
Inga metoder används
Finns processer och lösningar för att, vid behov, radera data?
*
Ja
Nej
Finns det en risk att datan som samlats in och använts för AI-systemet har någon form av bias som kan riskera diskriminering eller orättvisa?
*
Ja
Nej
Modell och utförande
Uppdateras AI-systemet automatiskt genom ny data?
*
Ja
Nej
Ger den artificiella intelligensen samma resultat om den får exakt samma input?
*
Ja
Nej
Ej tillämpligt
Hur mäter man att AI-systemet är tillräckligt bra tränat?
*
Confusion Matrix
Lyft-kurva (Lift-curve)
ROC-kurva (ROC-curve)
Accuracy score (Poäng för noggrannhet)
Annat
Eftersom det är ett system med lägre risk krävs inga av mätningarna
Ingen mätning är tillämplig
Ingen mätning på plats
Är användartester med resultat gjorda?
*
Ja
Nej
Finns det ett systematiskt sätt att säkerställa spårbarhet, övervakning och resultat för AI-systemet?
*
Ja
Nej
Finns det planering och processer för hur man ska agera när AI-systemet inte fungerar som det ska?
*
Ja
Nej
Är AI-systemet optimerat efter den initiala träningen och testen?
*
Ja
Nej
Transparens och kontroll
Informeras användare av AI-systemet att man interagerar med en AI?
*
Ja
Nej
Interagerar inte
Informeras det om att genererat innehåll är skapat av ett AI-system?
*
Ja
Nej
Genererat inte innehåll
Används systemet för beslutsfattande?
*
Ja
Nej
Är AI-systemet utformat för att ge förklaringar till eventuella beslut?
*
Ja
Nej
Genererat inte beslut
Om systemet används för beslutsfattande, vad gäller?
*
Select an option
Finns det en process för att informera användare eller berörda individer när AI används i beslutsfattandet?
*
Ja
Nej
Fattar inte beslut
Skicka