Actualités High Tech

Vie privée : Clearview renforce son inquiétant arsenal de


En plus de collecter et d’identifier des milliards de photos, l’inquiétante entreprise de reconnaissance faciale serait désormais capable de fonctionner avec des portraits flous ou masqués.

Depuis sa fondation en 2017, l’entreprise Clearview AI a suscité de vives controverses en moissonnant des photos sur le web, et notamment les réseaux sociaux, afin d’alimenter un gigantesque système de reconnaissance faciale. Dans une interview à Wired, son PDG Hoan Ton-That a affirmé que la firme aurait passé plus de 10 milliards d’images au crible, et développerait en ce moment de nouveaux outils basés sur l’IA pour les exploiter.

En l’occurrence, il s’agirait d’outils de “défloutage” à la Blade Runner et de “suppression de masque”. Deux concepts qui présentent un point commun : il s’agit d’extrapolations basées sur des données incomplètes. Concrètement, il s’agit donc de jouer (partiellement) aux devinettes; tout sauf idéal pour un système qui revendique haut et fort sa volonté d’assister les forces de l’ordre…

Un cocktail potentiellement détonnant en termes de vie privée. Il est de notoriété publique que ces algorithmes peuvent non seulement être imprécis, mais aussi sujets à de nombreux biais. Une situation qui inquiète Aleksander Madry, professeur au MIT interviewé par Wired. “Je m’attends à ce que la précision soit assez mauvaise”, explique-t-il. “Et même au-delà de la précision, sans contrôle sur les jeux de données et le processus d’entraînement, je m’attends à ce qu’une pléthore de biais inattendus montre le bout de son nez”.

Achever la confidentialité telle qu’on la connaît

Avec ces nouveaux outils basés, ClearviewIA semble donc plus intrusif que jamais, mais aussi moins fiable, paradoxalement. Une situation qui sent le syndrome Skynet à plein nez, et vient encore renforcer une réputation déjà malsaine au possible. Pour rappel, en janvier dernier, le New York Times a réalisé un portrait aussi glaçant qu’éloquent de la firme. Son titre : “L’entreprise qui pourrait achever la confidentialité telle qu’on la connaît”, rien que ça. Un choix de mot qui en dit long sur le malaise éthique qu’elle génère, et qui lui a déjà valu plusieurs procès. Comble de l’ironie : selon Wired, même Facebook aurait demandé à ce que Clearview cesse de piller son site…

En revanche, ce service a été une vraie aubaine pour certaines institutions qui ont fait appel à leurs services depuis. Parmi elles, on compte notamment des agences fédérales américaines et des forces de police, leur cœur de cible original… mais aussi des compagnies privées comme Walmart, la NBA ou des opérateurs télécoms majeurs. Reste à voir comment ces acteurs en feront usage. Il conviendra aussi de garder un œil sur les procès en cours. Mais surtout, il sera intéressant d’observer comment les différentes législations réagiront à la montée en puissance de Clearview AI. Il semble en effet de plus en plus urgent de mettre en place un cadre légal clair, uniforme et global pour anticiper certains des scénarios terrifiants qui semblent se préciser à chaque jour qui passe.



Source link

You may also like

Leave a reply

Votre adresse e-mail ne sera pas publiée.