Plus nous devons prouver notre identité, plus l’IA trouvera des moyens de la falsifier. Plus nous donnons d’informations à l’IA, plus ces informations peuvent être utilisées contre nous.

Par exemple, Amazon utilise la surveillance pour comptabiliser les secondes de la pause toilette de chaque travailleur ou chronométrer chaque étape de son travail. Et en fait, les travailleurs sont formés pour le faire eux-mêmes avec leurs appareils Fitbit enregistrant leurs pas en une journée. Dans certains lieux de travail, l’IA écoute chaque conversation, répertorie chaque mot, qui l’a dit et comment, puis note chaque agent.

« Dans le travail à bas salaire, nous constatons que beaucoup plus de décisions prises par un cadre intermédiaire sont sous-traitées à un algorithme », déclare Aiha Nguyen de l’organisme de recherche Data & Society.

De plus en plus d’entreprises collectent des données pour augmenter la production et former des machines pour imiter les humains. Aux États-Unis, des caméras ont été installées au-dessus de la tête de chaque travailleur dans les chaînes de montage lors de l’assemblage de pièces automobiles ou de composants électroniques.

Le résultat est que les humains sont tenus de se comporter davantage comme des robots, aucune spontanéité de pensée ou d’action, aucune excuse pour les erreurs, tandis que les machines apprennent à se comporter davantage comme des humains.

« La plupart des gens dans le monde ne sont même pas au courant des protocoles de preuve de personnalité, et si vous leur dites de tenir un code QR et de scanner leurs yeux pour 30 $, ils le feront. »

Vitalik Buterin

accéder à l'article