Apple est au cœur d'une polémique depuis quelques jours. En cause, un dispositif visant à combattre la pédopornographie.
La société américaine Apple a créé un nouveau dispositif visant à lutter contre la pédopornographie. Une intelligence artificielle scanne les photos de tous les iPhone, sans qu'aucune action pour l'en empêcher soit possible. L'IA compare ensuite les fichiers à la base de données de médias illicites du National Center for Missing and Exploited Children (NCMEC), avant de dénoncer les contrevenants aux autorités.
Bien que l'objectif soit louable, cela inquiète fortement les spécialistes de la sécurité informatique.
Les risques d'un tel dispositif
En effet, en créant cette technologie, il y a deux grandes dérives possibles :
- Une faille de sécurité avec un risque d'accès à des images ou des informations autres que celles initialement recherchées.
- Un développement des critères de contrôle qui seraient décidés par l'entreprise ou exigés par un gouvernement.
Face aux nombreuses critiques, Apple va dans un premier temps scanner uniquement les photos déposées sur ses serveurs iCloud.
L'entreprise a également indiqué prévoir un seuil de correspondance d'images entre des bases de données gérées par différents États avant d'agir. Il faudra compter 30 images correspondantes sur le téléphone ou le compte d'un utilisateur pour qu'un humain prenne le relais et analyse le tout afin de procéder à un éventuel signalement aux autorités. Ce nombre pourrait diminuer au fil du temps et à mesure des améliorations apportées au système.
De plus, la recherche d'image ne concernera que les images qui ont été signalées par "deux ou plusieurs organisations de sécurité de l'enfant provenant de juridictions souveraines distinctes". Cela permettra ainsi d'éviter qu'un gouvernement n'inclut d'autres contenus dans la base de données dédiée, par exemple à des fins de surveillance.
Apple a reconnu avoir mal géré la communication autour de ses nouvelles fonctionnalités. Pour l'heure, la société a refusé de confirmer si l'élan de critiques avait conduit à ces modifications. Elle a seulement indiqué que le projet était toujours en cours de développement et que des changements sont à prévoir.
L'annonce de cet outil a toutefois divisé les rangs d'Apple. Certains employés travaillant dans les équipes d’intelligence artificielle, iCloud et santé auraient récemment décidé de quitter l’entreprise.