La IA de Google encargada de revisar las imágenes que los usuarios envían a través de la aplicación de mensajes en Android, y cuyo objetivo es detectar y denunciar aquellos medios multimedia que contienen material de abuso sexual infantil (CSAM), ha bloqueado la cuenta de un padre después de que este tomara una foto de una infección en la ingle de su hijo para enviársela a su médico, según ha denunciado el propio progenitor a The New York Times.

El Padre, llamado Mark, envío la imagen a petición de una enfermera en febrero de 2021. Fecha en la que algunos centros de salud de Estados Unidos mantenían las visitas telemáticas pese a que las restricciones a causa de la pandemia habían disminuido.

La enfermera, tras valorar la imagen y realizar una visita a través de videollamada con el adulto, pudo recetar antibióticos destinados a curar la infección. Esta, en concreto, estaba en la zona genital que el pequeño.

Google, en cambio, envío una notificación a Mark dos días después de la captura de la foto. En esta, la compañía advertía de haber detectado «contenido perjudicial» que, además, era «una grave violación de las políticas de Google y podría ser ilegal«. Las cuentas del padre se bloquearon de inmediato después del aviso. Google, automáticamente, envío el reporte al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) para su posterior investigación.

Mark asegura a TNY que el bloqueo de su cuenta por parte de Google hizo que perdiera acceso a todos los servicios y plataformas enlazados con su usuario. Entre ellos, a su correo electrónico, contactos, imágenes o, incluso, número de teléfono, pues el padre utilizaba Google Fi, la OMV de la compañía.

Mark también fue investigado por la Policía de San Francisco en diciembre de 2021. El caso, sin embargo, se cerró después de que la Policía, con las pruebas presentadas, concluyera que no se cometió ningún delito.