Il pregiudizio nei sistemi automatici
Un sistema addestrato su dati storici riproduce le disparità di quei dati. Cosa significa concretamente.
Da dove nasce
Se un sistema impara a selezionare curriculum da dieci anni di assunzioni passate, impara anche chi in quei dieci anni non è stato assunto, e per quali motivi, inclusi quelli che nessuno avrebbe messo per iscritto.
Dove serve attenzione
Il rischio è concentrato dove il sistema decide su persone: selezione del personale, credito, valutazioni. Sono anche le aree su cui la normativa europea è più severa, e non è un caso.
Per gli usi più comuni in azienda, come scrivere e riassumere, il problema esiste ma le conseguenze sono di tutt'altro ordine.
