LE PARTAGE QUI JOINT L'UTILE A L'AGREABLE

Des photos intimes partagées sur le web sans aucune précaution

C'est le cas d'un modèle de développement conçu par la marque iRobot, le leader du secteur toutes gammes confondues, et racheté récemment par Amazon. Ce Roomba j7 a été envoyé à plusieurs testeurs en 2020, afin d'obtenir le maximum de données possibles sur les habitudes d'utilisation, mais aussi pour collecter les images servant à entrainer le modèle d'apprentissage de la machine.

Malheureusement pour les testeurs, plusieurs images partagées sur les réseaux sociaux ont été découvertes par MIT Technology Review, et parmi les clichés, certains très intimes.

Entre différentes vues de l'intérieur des possesseurs du robot et des pièces de chaque maison, on peut voir la photo d'une utilisatrice assise sur ses WC, le pantalon baissé.

L'entraînement des systèmes d'analyse d'images peut conduire à des dérives

Comment ces clichés ont-ils pu se retrouver sur le Web ? iRobot ne traite pas seul ses données. La marque travaille avec une entreprise américaine spécialisée, Scale AI, qui assure le traitement des images et permet d'entrainer le moteur de reconnaissance d'images.

Pour catégoriser les différents objets détectés par le robot aspirateur (une table, une paire de chaussures, un jouet…), Scale AI fait appel de son côté à des prestataires, chargés de consulter l'ensemble des images manuellement et de nommer chaque élément de l'image repéré par l'appareil avec un label.

Scale AI et ses sous-traitants sont tenus de respecter des engagements de confidentialité, mais tous ne semblent pas les respecter. Si les photos intimes trouvées ici ont été partagées sur des salons Discord ou des groupes Facebook privés, les images peuvent rapidement sortir de ces cercles fermés. iRobot de son côté se retranche derrière ces accords de confidentialité, et rappelle que les testeurs pouvaient supprimer les images qu'ils ne désiraient pas voir partagées lors du test.

D'autres constructeurs ont été interrogés quant à la collecte des données de leurs aspirateurs robot équipés de caméra et se retranchent derrière leurs CGU. En effet, même après commercialisation, ces appareils continuent à envoyer des données, rendues anonymes, pour améliorer encore la reconnaissance et l'intelligence artificielle.

S'ils affirment que les images comportant de la nudité sont automatiquement supprimées lors de l'analyse, les visages ne sont pas considérés comme des données sensibles et sont partagés, afin de permettre aux robots de reconnaitre plus facilement un humain dans le champ de la caméra. Dans l'exemple d'iRobot et de son aspirateur de test, les images d'un enfant ne sont jamais floutées. Un professeur de technologie assure pourtant au MIT Technology Review que la silhouette suffit et que l'analyse de visage est inutile aujourd'hui.

Faites donc bien attention lorsque vous acceptez d'« améliorer les services » de votre appareil en cochant la case lors de la validation des CGU pour éviter au maximum le partage de vos informations personnelles sur les serveurs des différents constructeurs. iRobot a quant à lui indiqué avoir mis fin à sa collaboration avec Scale AI.

Source : MIT Technology Review ET https://www.clubic.com/