De flesta småföretag är tillhandahållare. Ni använder verktyg som någon annan byggt, och det tunga ansvaret ligger där det hör hemma: hos den som bestämt hur systemet fungerar.
Men rollen kan byta plats. Artikel 25 pekar ut tre situationer där en tillhandahållare blir leverantör, med allt vad det innebär. Det sker automatiskt, utan beslut och utan besked.
De tre situationerna
| Situation | Vad som händer | Så kan det se ut |
|---|---|---|
| Ni sätter ert namn på systemet | Ni blir leverantör av ett högrisksystem som redan finns på marknaden | En byrå säljer ett vidaremärkt rekryteringsverktyg under eget varumärke |
| Ni gör en väsentlig modifiering | Systemet förändras men är fortfarande högrisk, och ansvaret övergår till er | Ni tränar om en modell på egna data så att den bedömer på ett nytt sätt |
| Ni ändrar vad systemet ska användas till | Ett system som inte var högrisk blir det, och ni står som leverantör | Ni riktar ett allmänt textverktyg mot att rangordna jobbansökningar |
Den tredje är den farliga
De två första kräver ett aktivt beslut. Man sätter inte sitt varumärke på något av misstag, och man tränar inte om en modell utan att märka det.
Den tredje är annorlunda. Den kräver ingen teknisk förändring alls. Det räcker att ni börjar använda ett verktyg till något annat än det var tänkt för.
Ett textverktyg som sammanfattar dokument är på minimal risknivå. Börjar ni mata in jobbansökningar och be det rangordna kandidaterna har ni gett systemet ett nytt ändamål, och det ändamålet ligger i Annex III. Verktyget är detsamma. Rollen och risknivån är nya.
Ni behöver inte ändra en rad kod för att bli leverantör. Det räcker att ni ändrar vad ni använder verktyget till.
Vad som händer när rollen byter
Den ursprungliga leverantören lämnar över ansvaret till er, men är skyldig att samarbeta och lämna den dokumentation och tekniska åtkomst ni behöver. Ni står alltså inte helt ensamma, men det är ni som bär kraven.
Ett undantag finns: har leverantören uttryckligen angett att systemet inte får användas på ett sätt som gör det till högrisk, faller den skyldigheten bort för dem. Det är ett skäl att läsa villkoren innan ni börjar använda ett verktyg till något nytt.
Hur ni undviker att hamna där av misstag
- Skriv ner vad varje verktyg används till, inte bara vad det heter. Det är ändamålet som styr, och ändamål glöms bort när bara namnet står i listan.
- Ta upp frågan när någon vill använda ett befintligt verktyg på ett nytt sätt. Det är då rollen kan byta, och det är ett samtal på fem minuter.
- Var särskilt uppmärksamma på allt som börjar bedöma människor. Rekrytering, kredit, urval och bedömning i utbildning är de områden där ett nytt ändamål får störst konsekvenser.
Det här är inget skäl att sluta experimentera med AI. Det är ett skäl att veta när ett experiment gått från att spara tid till att bedöma människor. Den gränsen är värd att hålla ögonen på.
Texten är allmän vägledning, inte juridisk rådgivning. Varje AI-system bedöms för sig.