Ponte en la situación de que en Febrero de 2021 un padre, preocupado por el estado de su hijo, decidió sacar unas fotos de la ingle del menor, para poder enviárselas al médico y que decidiese qué tratamiento debía tomar, lo cual se detecto como un falso positivo de pornografía infantil en google.
Piensa que hablamos de febrero del 2021, y por tanto, época de COVID y confinamientos. De hecho fueron los propios sanitarios del centro al que llamó el padre quienes pidieron que le enviase dichas fotos.
El médico las revisó, y llegó a la conclusión de que el menor tenía X problema, recetándole de forma telemática un tratamiento que, en efecto, solucionó el probema.
Esto debería ser un final feliz.
Pero aquí no acaba la cosa.
Índice de contenido
Con la iglesia Google hemos «topao»
El móvil del padre desde donde había sacado las fotos envío dichas fotos al servicio en la nube de Google Photos, y sus sistemas de IA automatizados las catalogaron como pornografía infantil, cancelando súbitamente su cuenta de Google, y alertando a las autoridades.
Además del susto de recibir un buen día a la policía en casa, este hombre tenía contratado el servicio de Google Fi, por lo que el bloqueo de su cuenta hizo que, de la noche a la mañana, no solo no pudiera acceder a los servicios de Google, sino que tampoco pudiera acceder a Internet o realizar llamadas.
Sencilla y llanamente, fue borrado de todo sistema de comunicación digital por culpa de un falso positivo en pornografía infantil en google.
Desde entonces, una lucha que cuentan por este especial de The New York Times (EN) por intentar limpiar su nombre, y recuperar la cuenta.
Desde Google comprenden que ha sido un error, pero se escudan en la típica de que el fin justifica los medios.
Que esto solo ha sido un caso entre los miles en los que el sistema de IA funciona a la perfección, y en efecto, ayuda a cazar a pederastas y demás ciberdelincuentes.
Y el National Center for Missing and Exploited Children (NCMEC) aseguró en un comunicado que cuando se sacan este tipo de imágenes lo mejor es no compartirlas en la nube.
¿El problema? Pues que Google Photos funciona AUTOMÁTICAMENTE. Al igual que el mismo sistema pero en dispositivos de Apple. Basta con que tengas acceso a la red para esas fotos que tienes en tu galería pasen a la nube privada de la plataforma, y por tanto, sea analizada.
Es más, en dispositivos iOS este análisis inicial (Neuralmatch) se hace en local, lo que aún complica más las cosas.
Por detrás, un tema que me parece mucho más importante:
¿Tiene sentido entregar privacidad a cambio de seguridad?
Sobre esto podríamos debatir durante párrafos y párrafos, pero al menos, bajo mi criterio personal, el fin NO justifica los medios.
Sobre todo teniendo en cuenta que no obtenemos un beneficio 1 a 1 (no por entregar privacidad obtenemos más seguridad), y que, de hecho, a la pruebas nos podemos remitir con casos como este para darnos cuenta de que a veces es hasta contraproducente.
Tanto Apple como Google tienen interés de analizar el contenido que alojamos en sus servidores. No solo eso, sino que están obligados por ley a hacerlo.
Pero debido a la cantidad ingente de usuarios, este scrapping se hace de forma automática por algoritmos que deberían, como mucho, alertar, y no tomar decisiones, recurriendo para ello a un operario de carne y hueso (un analista).
El problema, no obstante, es que aunque en efecto contasen con moderadores suficientes para realizar este trabajo, les faltaría aún así algo tan crítico como es el contexto.
Esa foto de la ingle de un menor podría, en efecto, ser parte de un álbum de un pederasta, o como ocurría en este caso en particular, una foto tomada rápida por un padre a su hijo tras la petición expresa del médico, en un contexto de confinamiento forzado, para poder tratar la salud del menor.
La imagen es la misma. El contexto claramente no.
¿Dónde ponemos los límites?
Y tirando aún más del hilo, entrevemos ese problema de fondo que es el saber dónde establecer los límites.
Porque quizás sí tenga sentido que el análisis se realice cuando dicho contenido es compartido públicamente. Pero, ¿y cuando ese contenido se publica de forma privada con algún conocido?
Más aún, ¿cuándo ese contenido no se comparte con nadie? Como fue el caso de la foto de este padre, subida automáticamente al servicio de almacenamiento en la nube PRIVADO de Google…
Ya conoces mi punto de vista. Hay límites donde la búsqueda de mayor seguridad social no debería contraponerse a la privacidad del individuo, y cuando hablamos de contenido privado que alojamos en nuestro dispositivo, o en una nube personal privada, esto debería ser incuestionable.
¿Que con ello hay diez o quince pederastas más en el mundo? ¿O que gracias a ello tal grupo terrorista puede seguir operando?
Sinceramente, la alternativa es que todos paguemos por pecadores, considerándonos de base incapaces de tomar decisiones éticas, y aceptando que hay entidades supranacionales, como es el caso de estas multinacionales, que son más maduras que nosotros, y que por ende deben decidir qué es ético y moral y qué no unilateralmente.
No me gustaría pensar que vivo en una sociedad así.
Y si a ti tampoco, es nuestro deber quejarnos y exigir que sistemas como estos no operen a tal nivel.
El riesgo del control centralizado en grandes empresas como Google o Apple
Y por último, cabe hablar del riesgo que asumimos al usar cada vez menos servicios con mayor poder (centralización de Internet).
Sin ir más lejos, en el momento de escribir este artículo acabo de recibir una notificación de Google (automática también) que ha considerado cerrar mi perfil de Google My Business.
¿La razón? Incumple la política de uso de la plataforma. Pero no sé el qué.
La única opción que tengo es darle en un formulario a que quiero que revisen el caso. Sin poder escribir ninguna alegación, sin saber cuál es el motivo real.
Por supuesto, se trata de un error, pero ahora tendré que esperar a que en efecto un operario lo revise, si es que lo llega a hacer.
Mientras tanto, tengo el perfil de uno de mis negocios suspendido, y de seguir con más supuestas infracciones de estas, podrían también cerrarme la cuenta de Google, como le pasó a este padre, perdiendo entonces acceso a mis correos y el resto de servicios asociados a ellos.
En CyberBrainers ayudamos a empresas y usuarios a prevenir, monitorizar y minimizar los daños de un ataque informático o una crisis reputacional. Si estás en esta situación, o si quieres evitar estarlo el día de mañana, escríbenos y te preparamos una serie de acciones para remediarlo.
Monitorización y escucha activa
Ponemos nuestras máquinas a escuchar para identificar potenciales fugas de información, campañas de fraude/extorsión y usurpación de identidad que estén en activo, y/o datos expuestos de ti o de tu organización.
Planes de autoridad y Presencia Digital
Ayudamos a organizaciones y particulares a definir la estrategia e implementar acciones digitales que mitiguen los posibles daños reputacionales que pueda sufrir en el futuro.
Gestión de crisis reputacionales
Cuando el mal ya está hecho, establecemos un calendario de acciones para reducir su duración e impacto, y que la organización y/o persona pueda volver a la normalidad lo antes posible.
Pablo F. Iglesias es un empresario e inversor español especializado en la Consultoría de Presencia Digital y Reputación Online, fundador de la agencia de reputación CyberBrainers, de la startup EliminamosContenido, y del sello editorial Ediciones PY. Además, es un reconocido escritor con su saga de ciencia ficción "25+1 Relatos Distópicos" y "Historias Conectadas", y la colección de fantasía épica "Memorias de Árganon". Dedica sus "horas libres" a concienciar sobre las oportunidades y riesgos del entorno digital, ya sea en charlas, talleres, sus escritos en blogs y las colaboraciones con medios de comunicación.
