Organisaation on varmistettava, että jokainen suuren riskin tekoälyjärjestelmä suunnitellaan ja dokumentoidaan niin, että se on riittävän avoin, jotta käyttäjät voivat tulkita sen tuotoksia oikein ja käyttää sitä asianmukaisesti.

Avoimuuden tason on oltava oikeassa suhteessa järjestelmän käyttötarkoitukseen ja riskiprofiiliin, ja sen on tuettava sekä toimittajan että käyttöönottajan 3 jakson mukaisten velvoitteiden noudattamista. Avoimuustoimenpiteisiin olisi sisällyttävä vähintään seuraavat:

• selkeä kuvaus järjestelmän tarkoituksesta, soveltamisalasta ja kohdekäyttäjistä.
• Selvitys siitä, miten tuotokset tuotetaan, mukaan lukien keskeiset oletukset ja tarvittaessa inhimillisen valvonnan rooli.
• Ohjeet siitä, miten tuotoksia tulkitaan, mukaan lukien luottamuspisteet, todennäköisyystasot tai epävarmuusindikaattorit, jos ne ovat tarpeen.
• Kuvaus tunnetuista rajoituksista, suorituskykyrajoituksista ja tilanteista, joissa tuotokset voivat olla epäluotettavia.
• Ohjeet järjestelmän asianmukaisesta ja sopimattomasta käytöstä.
• Korkean tason tiedot koulutus-, validointi- ja testausaineistosta, mukaan lukien tiedossa olevat harhojen tai edustavuuden riskit.

Organisaation olisi varmistettava, että nämä tiedot pidetään ajan tasalla ja että ne ovat käyttöönottajien saatavilla selkeässä ja helppokäyttöisessä muodossa.