Il prend des photos de son fils pour une téléconsultation médicale, Google le dénonce pour pédocriminalité

Jusqu’où l’intelligence artificielle peut-elle aller ? Un père de famille américain a vu son compte Google supprimé définitivement et a été signalé à la police pour avoir pris des photos du sexe de son bébé dans un but médical, rapporte le New York Times.

En février 2021, Mark, un père au foyer vivant à San Francisco (Californie) remarque que le pénis de son nouveau-né est gonflé et lui fait mal. Il décide alors de prendre des photos avec son smartphone Android (le système d’exploitation pour mobiles de Google, NDLR) pour surveiller l’évolution. Plus tard, la femme de Mark appelle une infirmière pour prendre rendez-vous avec un médecin mais en raison du Covid, il est établi que ce sera une téléconsultation vidéo. L’infirmière leur conseille d’envoyer en amont des photos au médecin pour qu’il puisse les étudier. Sauf que deux jours après la prise des photos, Mark reçoit un mail de Google l’informant que son compte a été supprimé en raison de “contenus offensant” consistant en une “violation sévère de la politique de Google et pouvant être illégaux”.

En réalité, les services de Google – comme ceux d’Apple – disposent d’un système d’analyse des photos permettant de reconnaître ce qui est représenté sur l’image. Si le système détecte un contenu illicite, une seconde vérification est réalisée par un humain. Mais dans le cas de Mark, la personne en charge de vérifier la photo a approuvé le jugement de l’algorithme. Et comme la loi américaine oblige Google à signaler les contenus pouvant relever de pédocriminalité à la cellule du centre national des enfants disparus et exploités CyberTipline, la police a ouvert une enquête contre le père de famille.

Finalement, Mark n’a pas été inquiété par les autorités et a même reçu un courrier en décembre dernier lui indiquant que l’affaire était classée. En revanche, toutes ses demandes de réactivation de son compte auprès de Google se sont soldées par des refus.

Toujours selon le New York Times, l’histoire de Mark ne serait pas un cas isolé puisqu’un résident du Texas aurait lui aussi vécu la même mésaventure. Avec là encore un classement sans suite par la police mais une suppression définitive de la part de Google.

Info LM / AFP