El derecho a saber cómo funcionan los algoritmos pagados con dinero público

Estos días conocíamos que el Juzgado Central de lo Contencioso-Administrativo desestima el recurso presentado por Civio en el que reclamaba acceso al código fuente del programa BOSCO (ES), que gestiona el bono social en España. Hablamos sobre si tenemos derecho a saber cómo funcionan los algoritmos pagados con dinero público.

Para que nos entendamos, dicho programa fue financiado con fondos españoles, y es lo que utilizan las eléctricas para saber si un usuario, en situación de vulnerabilidad, puede recibir descuentos en su factura de la luz.

El Gobierno, para rechazar su apertura, alegó durante el juicio que difundir este código supondría problemas tanto de seguridad pública, como defensa nacional y propiedad intelectual. Lo hizo, además, cuando la resolución del Consejo de Transparencia, el acto recurrido por Civio, solo se centraba en la propiedad intelectual. Sin embargo, el magistrado ha dado por buenos los postulados del Gobierno.

Asegurar que de liberar el código fuente de dicho programa podría ponerse en peligro la seguridad pública y la defensa nacional, ya de por sí, parece muy cogido por pinzas.

Pero el tercer punto, que a fin de cuentas es el verdaderamente importante, es además el que más debería preocuparnos (EN/PDF).

Recordemos de que todo esto viene tras encontrarse pruebas de que BOSCO fallaba negativamente en algunos casos de ciudadanos que cumplían los requisitos para recibir el bono social, y por eso, se pedía acceder a dicho código para poder auditarlo.

Con la negativa judicial, y a falta de ver en qué queda la reclamación (ya interpuesta) de CIVIO, entramos en la ya clásica disyuntiva de los derechos a saber cómo funcionan los algoritmos pagados con dinero público.

Algoritmos que hoy en día están decidiendo el acceso o no de ayudas estatales, para más inri.

Exactamente lo mismo vivido con la aplicación COVID Radar, un encargo del gobierno a una consultora líder del sector, que debía gestionar todos los ratos referentes a potenciales contactos de COVID nacionales, y cuyo código de rastreo sólo era público el que dependía directamente de las APIs públicas de Google y Apple. En aquel caso, curiosamente, y tras la petición judicial, al gobierno no le pareció que ponía en peligro «la Seguridad Pública, la defensa nacional y la propiedad intelectual».

Nuestro compromiso es liberar el código de #RadarCOVID

❓ Cómo: bajo licencia Mozilla Public License 2.0

❓ Por qué: por transparencia y para que la comunidad pueda ayudarnos a mejorar la app

❓ Cuándo: desde el día 9 de septiembre#EsteVirusLoParamosUnidos

— S.E. Digitalización e Inteligencia Artificial (@SEDIAgob) September 1, 2020

Es decir, que este otro caso, al final, el ciudadano debe fiarse de que en efecto:

• El servicio funciona correctamente: Cosa que, como decía, no está del todo clara.
• El servicio no hace nada más con esos datos que lo estrictamente necesario para la funcionalidad principal.

Si esto ya escama en entornos privados, imagínate cuando ese desarrollo se ha pagado con los impuestos del contribuyente.

¿No deberíamos poder exigir conocer la parte del código del programa que gestiona quién accede a dicho bono y quien no?

¿Tiene sentido que se esgrima, entre otras cosas, derechos de propiedad intelectual, seguridad púbica y hasta defensa nacional, para negar el acceso al ciudadano a dicha información?

Sinceramente, hay cosas en este mundo que sigo sin comprender.

Y el corolario de todo esto con el que deberíamos quedarnos es si queremos vivir en un mundo en el que los algoritmos, públicos y privados, sean opacos al ciudadano, u otro en el que tengamos el derecho de poder auditar aunque sea la parte que directamente le afecta al usuario.

Que cada uno tome sus propias decisiones.

En CyberBrainers hacemos informes, tutoriales y análisis de mercado en temas candentes para nuestros clientes, ya sean de negocio o puramente reputacionales. Si necesitas conocer cómo le va a la competencia, a tu propia empresa, o simplemente conocer qué opina la gente sobre algún tema en particular, escríbenos y ponemos nuestras máquinas y analistas a escuchar.