Le président de Microsoft avertit que 1984, d’Orwell, pourrait devenir une réalité dès 2024

Le scénario décrit par Orwell dans son roman d’anticipation « pourrait se réaliser » à courte échéance, selon Brad Smith, président de Microsoft.

« Je me souviens constamment », dit-il, « des leçons de George Orwell dans son livre 1984. Vous savez que l’histoire fondamentale était celle d’un gouvernement qui pouvait voir tout ce que chacun disait, tout le temps. Eh bien, si nous ne faisons pas attention, cela pourrait se produire en 2024. »

Celui-ci s’est exprimé sur les ondes de la BBC, évoquant le pouvoir croissant de la Chine en matière d’intelligence artificielle et ses conséquences sur les droits de l’homme et la démocratie. En 2019, la Chine aurait battu le record du nombre de brevets obtenus pour l’innovation en matière de technologie numérique, devançant les USA.

Smith a indiqué que la Chine recourt de plus en plus massivement aux technologies de surveillance numérique, en particulier la reconnaissance faciale. 54 % de l’ensemble des caméras du monde seraient concentrées en Chine, selon une étude de Comparitech, soit environ 600 millions de caméras « intelligentes ». Le régime chinois est en passe de généraliser le « crédit social », système qui récompense ou pénalise les habitants selon leur niveau de vertu.

Le Daily Mail rapporte que la Chine utilise déjà l’intelligence artificielle pour surveiller sa population, et elle aurait développé une technologie lui permettant de « reconnaître les émotions », en particulier, selon le journaliste, « la culpabilité » - celle-ci serait utilisée dans les commissariats de police pour établir, croient-ils, une preuve de culpabilité dans des affaires de délinquance…

Ces utilisations pourraient, à terme, générer de nombreuses dérives en matière de respect des droits de l’homme, ce qui inquiète particulièrement le président de Microsoft. Il craint que l’utilisation de ces technologies ne serve des ambitions totalitaires et appelle le législateur à protéger les citoyens.

« Si nous ne promulguons pas les lois qui protégeront le public à l’avenir, nous allons constater que la technologie avance à toute allure, et il sera très difficile de la rattraper », a-t-il déclaré.

L’Union européenne a d’ores et déjà annoncé vouloir lutter contre les effets pervers de l’intelligence artificielle par un projet de régulation comportant, en particulier, le bannissement des crédits sociaux (juger de la fiabilité d’une personne en fonction de son comportement social ou des traits de sa personnalité) et l’encadrement de la reconnaissance faciale, sans toutefois fermer la porte aux systèmes d’identification biométrique à distance.

Si même l’Union européenne semble hésiter à verrouiller totalement l’intelligence artificielle dans l’identification numérique collective, on voit mal sur quels critères elle pourra juger, à l’avenir, du caractère attentatoire à la liberté du citoyen de l’utilisations de ces techniques. La mise sous algorithme de la vie privée des citoyens a de beaux jours devant elle.

Imprimer, enregistrer ou envoyer cet article