Sveriges dataportal

Traustslíkan

Metið gervigreindakerfið ykkar

Almennar upplýsingar

Tegund gervigreindakerfis

Lög og siðfræði

Hvaða hópar verða fyrir áhrifum af gervigreindakerfinu?
Verða einstaklingar og fyrirtæki upplýst um hvernig gervigreindakerfið virkar?
Er löglega útskýrt að þið getið notað gögnin sem þið viljið nota við þróun, þjálfun eða notkun gervigreindakerfisins?
Vinnið þið úr viðkvæmum persónuupplýsingum við þróun, þjálfun eða notkun gervigreindakerfisins?
Er hætta á að þróunaraðilar, gervigreindarþjálfarar eða annað starfsfólk sem meðhöndlar gögn geti haft áhrif á gervigreindakerfið þannig að niðurstöður geti mismunað einhverjum á grundvelli verndaraðra ástæðna samkvæmt lögum um jafnrétti?
Felur gervigreindakerfið og þjónustan í sér félagslega stigagjöf ("social scoring", röðun einstaklinga á grundvelli hegðunar þeirra, eiginleika eða einkenna)?
Notar gervigreindakerfið líffræðilega auðkenningu (t.d. andlitsgreiningu) á opinberum stöðum fyrir rauntímaeftirlit?
Gervigreindakerfið er notað innan:
Eru einhver leyfi tengd gervigreindakerfunum eða gervigreindarlíkönunum sem eru innifalin í upplýsingatæknikerfinu?

Gagna- og upplýsingaöryggi

Vitið þið hvaða gögn og upplýsingar gervigreindakerfið notar og framleiðir, frá sjónarhóli upplýsingaöryggis?

Kerfisupplýsingar

Eruð þið meðvituð um hlutverk ykkar og ábyrgð sem stofnunar fyrir gervigreindakerfið, samkvæmt ESB gervigreindarlögunum?
Eru kerfi og hugbúnaður í umhverfi ykkar sem eiga samskipti við gervigreindakerfið og hafa áhrif á framleiddu niðurstöðuna?

Gagna- og upplýsingaöryggi

Verða söfnuð gögn og/eða framleiddar niðurstöður deilt með þriðja aðila?
Eru ferlar og lausnir til staðar til að koma í veg fyrir að gögn séu notuð eða misnotuð af öðrum?
Hvernig eru gögn geymd?
Eru lausnir til að koma í veg fyrir að upplýsingar og gögn í og frá gervigreindakerfinu séu misnotuð?
Hvaða aðferðir eru notaðar til að vernda gögn?
Eru ferlar og lausnir til að eyða gögnum þegar þörf krefur?
Er hætta á að gögn sem safnað er og notuð fyrir gervigreindakerfið innihaldi hlutdrægni sem gæti leitt til mismununar eða óréttlætis?

Líkan og frammistaða

Er gervigreindakerfið uppfært sjálfkrafa með nýjum gögnum?
Framleiðir gervigreindin sömu niðurstöðu ef hún fær nákvæmlega sama inntak?
Hvernig mælið þið að gervigreindakerfið sé nægjanlega vel þjálfað?
Hafa notendaprófanir verið framkvæmdar með skráðum niðurstöðum?
Er kerfisbundin leið til að tryggja rekjanleika, eftirlit og niðurstöður fyrir gervigreindakerfið?
Eru áætlanir og ferlar til staðar um hvernig eigi að bregðast við þegar gervigreindakerfið virkar ekki eins og til var ætlast?
Er gervigreindakerfið fínstillt eftir upphaflega þjálfun og prófun?

Gagnsæi og eftirlit

Eru notendur upplýstir um að þeir séu í samskiptum við gervigreind?
Er upplýst að framleitt efni var búið til af gervigreindakerfi?
Er kerfið notað við ákvarðanatöku?
Er gervigreindakerfið hannað til að veita skýringar á öllum ákvörðunum?
Er ferli til að upplýsa notendur eða viðkomandi einstaklinga þegar gervigreind er notuð við ákvarðanatöku?