AP ziet privacyrisico’s door toenemend gebruik AI en algoritmes op werkvloer

Steeds meer bedrijven en organisaties gebruiken of experimenteren met algoritmes en artificiële intelligentie (AI) op de werkvloer, wat grote privacyrisico’s met zich kan meebrengen, zo waarschuwt de Autoriteit Persoonsgegevens (AP). Zo worden AI en algoritmes ingezet om werkprocessen te verbeteren, de productie te verhogen of de werving en selectie van potentiële nieuwe medewerkers te vergemakkelijken.

“Het gebruik van algoritmes in het sollicitatieproces (pre-employment screening) kan leiden tot discriminatie en profilering. Algoritmes en AI-toepassingen zijn vaak niet transparant en accuraat, wat bijvoorbeeld het risico met zich meebrengt van vooringenomenheid”, aldus de AP. De toezichthouder voegt toe dat sollicitanten of werknemers meestal niet weten dat er algoritmes worden gebruikt. “Dit schuurt onder andere met het recht op informatie en het recht om niet onderworpen te worden aan geautomatiseerde individuele besluitvorming.”

De Autoriteit Persoonsgegevens merkt verder op dat als organisaties sollicitanten screenen hun persoonsgegevens worden verwerkt en dan de AVG van toepassing is. “Als werkgever bent u er verantwoordelijk voor dat screening aan alle eisen van de AVG voldoet.” Tevens adviseert de privacytoezichthouder aan organisaties om zich af te vragen of het gebruik van AI of een algoritme in bestaande werkprocessen noodzakelijk is. Wanneer er wordt besloten een algoritme voor het sollicitatieproces in te zetten moet worden gecontroleerd of het algoritme inhoudelijk is getoetst, vooral op non-discriminatoire en AVG-aspecten.