Mänsklig tillsyn är ett av de begrepp i AI Act som låter tyngst och betyder minst krångligt. Det handlar inte om övervakning eller om att någon ska sitta och titta på en skärm. Det handlar om att en människa ska kunna gripa in.
Kravet gäller högrisksystem, och det ligger på två håll samtidigt. Leverantören ska bygga in möjligheten. Ni som använder systemet ska se till att någon faktiskt utnyttjar den.
Vem gör vad
| Leverantören (artikel 14) | Tillhandahållaren (artikel 26) | |
|---|---|---|
| Ansvar | Utforma systemet så att människor effektivt kan utöva tillsyn | Utse personer med rätt kompetens och befogenhet |
| I praktiken | Stoppknapp, möjlighet att åsidosätta, tydlig information om systemets gränser | Peka ut vem det är, ge personen tid och mandat att säga nej |
| Er kontroll | Fråga hur tillsynen är inbyggd och spara svaret | Skriv ner namnet och vad personen får besluta |
Tre saker som gör tillsynen verklig
- En utpekad person. Inte en avdelning, inte "alla". Ett namn. Den som ansvarar ska veta om det, och det ska stå skrivet någonstans.
- Befogenhet att gå emot systemet. Tillsyn utan mandat är en formalitet. Personen måste kunna åsidosätta ett förslag utan att behöva försvara sig.
- Förståelse för när systemet brukar ha fel. Den som inte vet vad verktyget är dåligt på kan inte upptäcka när det är dåligt. Här möts mänsklig tillsyn och AI-kunnighet.
En tillsyn som aldrig säger nej är ingen tillsyn. Den är en underskrift.
Fällan som kallas automationsbias
Människor litar på maskiner mer än de borde, särskilt när svaret ser prydligt ut. Ett system som rangordnar tio kandidater med decimaler känns exakt, även när det bygger på tunna underlag.
Det är därför förordningen särskilt nämner att den som utövar tillsyn ska vara medveten om risken att förlita sig för mycket på systemets utdata. Motmedlet är enkelt: låt personen ta ställning innan den ser systemets förslag, åtminstone ibland.
Loggarna hör ihop med det här
Som tillhandahållare av ett högrisksystem ska ni bevara de loggar systemet genererar, i den mån de ligger under er kontroll, i minst sex månader. Skälet är praktiskt: utan logg går det inte att i efterhand visa vad systemet föreslog och vad människan bestämde.
Ni ska också informera arbetstagare innan ett högrisksystem tas i bruk på arbetsplatsen, och informera de personer som berörs av beslut som systemet fattar eller stödjer.
Om ni inte har högrisksystem
Då gäller inget av det här formellt. Men principen håller ändå: någon bör läsa AI-texten innan den går ut, och någon bör kontrollera sammanställningen innan den blir ett beslut.
Det är inte efterlevnad, det är bara klokt. Och det kostar mindre än att rätta till något i efterhand.
Texten är allmän vägledning, inte juridisk rådgivning. Varje AI-system bedöms för sig.