Pensamiento Administrativo: La gobernanza algorítmica (II): Los algoritmos predictivos y la seguridad.

Gobernanza algorítmica (II): más ejemplos y políticas que ya están aquí
Por Antonio Galindo.
Administración Beta.

La gobernanza algorítmica (II): Los algoritmos predictivos y la seguridad.

Para terminar el repaso por iniciativas interesantes de este tipo, que iniciamos en el post anterior, Gobernanza Algorítmica, debemos citar un estudio de Cardiff University y Sky News según el cual al menos 53 ciudades de Reino Unido utilizan modelos informáticos para para detectar problemas antes de que ocurran.

Los algoritmos predictivos, donde los ordenadores procesan estadísticas para asesorar sobre posibles resultados futuros, son cada vez más comunes.

Su investigación sobre estos algoritmos revela una revolución oculta que tiene lugar en los servicios públicos de Reino Unido. Hay muy poca supervisión de este nuevo campo, ya que ni el gobierno central ni el local de Reino Unido proporcionan listas de dónde se están introduciendo estos sistemas, cómo se utilizan y cómo se comparten los datos de los ciudadanos.

Muy a menudo, comentan, las personas afectadas no saben que su vida ha sido víctima de una predicción algorítmica. La investigación encontró algoritmos predictivos que se utilizan para aplicaciones tan diversas como la gestión del tráfico, subsidios de vivienda y la identificación de niños en riesgo de abandono o abuso.

Pero hay una verdad oculta dentro de toda esta revolución, y es que la utilización de estos algoritmos son menos un signo de incorporación de nuevas tecnologías y más una señal de la llegada de la siguiente etapa de austeridad. El potencial de los algoritmos para reducir costes es demasiado atractivo como para resistirse.

Para terminar, estos artículos realizan unas reflexiones entorno a la privacidad, en el debate surgido en este propio medio, que indica que las autoridades, sin supervisión y con fondos insuficientes, han estado experimentando con nuevas herramientas que pretenden ayudar a resolver problemas complejos, que van desde el abuso infantil, los problemas familiares, el embarazo en la adolescencia, las pandillas juveniles y el derecho a la asistencia social.

Por lo que si las funciones del gobierno digital se vuelven más invasivas, opacas, crípticas y sin nadie que las cuestione, nuestra capacidad para hacer frente a esas decisiones se convertirá en poco más que una ficción.

Otra noticia que viene a ahondar en el debate, y que se ha publicado recientemente indica que según el estudio «European Tech Insights 2019» de IE University, desarrollado por el nuevo Center for the Governance of Change (CGC), uno de cada cuatro europeos estaría a favor de que un dispositivo de inteligencia artificial tomara decisiones importantes sobre cuestiones que atañan a la administración de su país.

Pero si bien los ciudadanos demuestran una preferencia para que sea la IA la que sustituya en sus funciones a los responsables políticos, los europeos, a su vez, manifiestan un claro temor a los avances tecnológicos, sobre todo ante el impulso de la automatización de procesos, por la pérdida de puestos de trabajo que puede suponer.

Por otra parte, entre las iniciativas españolas hay poco que contar. Entre las que podemos citar, haciendo una simple búsqueda en internet, destacan las siguientes:

Un algoritmo para reducir la pobreza. El ayuntamiento de Madrid encargó a expertos de la Carlos III, el diseño de un algoritmo de la vulnerabilidad. Les dio 12 datos como paro, esperanza de vida, renta, vivienda y los agruparon en cinco indices. Y así analizaron los 128 barrios. Los datos los tiene en cuenta el Ayuntamiento para repartir los fondos de reequilibrio territorial. El algoritmo se actualiza con datos nuevos y permite evaluar los cambios aunque desde el ayuntamiento insiste que es una política a largo plazo.

¿Cuánto odio hay en Twitter? No mucho, pero es constante y hay para todos. Un algoritmo que ha empezado a usar el Ministerio del Interior sirve de termómetro de la red social. El algoritmo rastrea unos 6 millones de tuits en 24 horas con un filtro que incluye más de 500 palabras vinculadas a insultos y a grupos de víctimas de odio: política, género, etnicidad, discapacidad, religión y deportes.
La aplicación está instalada en la Oficina Nacional de Lucha contra Delitos de Odio, del Ministerio del Interior.

El algoritmo Euphemia fija el precio de la luz en España y en otros 22 países europeos. El operador del mercado mayorista afirma que Euphemia es un sistema que calcula los precios de la electricidad «de manera eficiente» y que se utiliza de manera común y sincronizada con los demás mercados europeos de la electricidad. Algunos sectores cuestionan el modelo porque la energía más cara, el gas, es la que determina el coste final del megavatio.

Accenture y Metro de Madrid equilibran eficiencia energética y confort gracias a la Inteligencia Artificial. Durante el último año, el sistema, diseñado por ambas compañías redujo un 25% los costes de energía y 1.800 toneladas de emisiones de CO2. El sistema utiliza un algoritmo de optimización capaz de movilizar grandes cantidades de datos para obtener todas las combinaciones posibles en cuanto a temperatura del aire, arquitectura de la estación, frecuencia de trenes, carga de pasajeros y precio de la electricidad a lo largo del día.

Y hablando de políticas y planes tenemos la Estrategia Española de I+D+I en Inteligencia Artificial, del Ministerio de Ciencia, Innovación y Universidades, que indica también los riesgos que debemos prevenir y solventar incluyendo transparencia en los algoritmos y modelos, evitando la manipulación de comportamientos, tomando medidas ante la automatización del trabajo, abordando la equidad de los modelos y promoviendo un uso honesto de la tecnología.

Afirma que aunque los algoritmos actuales son todavía deficientes, cabe esperar que en un futuro mejoren sus capacidades predictivas: el análisis de imágenes procedentes de cámaras de vídeo o el análisis de las redes sociales mediante tecnologías del lenguaje y el diseño de perfiles basados en el análisis de secuencias temporales de datos... Estas son áreas en las que deben realizarse avances para predecir comportamientos y potenciales incidentes manteniendo el respeto a las cuestiones éticas que plantean.

El ámbito de la seguridad incluye otros campos como es el aspecto asistencial a colectivos en riesgo de exclusión. La IA puede intervenir para mejorar la seguridad de estos colectivos mediante el análisis de patrones sociales para la prevención.

Y claro con esto mimbres surgen noticias que nos avanzan que el Gobierno diseña un 'Gran Hermano' con los datos de los ciudadanos, que planea la creación del Instituto Nacional de Datos, organismo que analizaría la información de los españoles con Inteligencia Artificial. Evidentemente la propuesta se recoge dentro de la mencionada estrategia de I+D+i en Inteligencia Artificial, pero creo que no en esos términos, pero evidentemente podría ser usada para eso.

Entre las pocas políticas municipales tenemos, dentro del Plan digital del Ayuntamiento de Barcelona, de mayo del 2018, la Medida de gobierno de gestión ética y responsable de datos: Barcelona Data Commons, la cual, entre otros aspectos indica:

Las diferencias entre el diseño y la operación de estos algoritmos y nuestra comprensión de lo que implican pueden tener consecuencias éticas graves que afecten tanto a personas individuales como a grupos de ciudadanos y ciudadanas. Es esencial que las decisiones que tome el Ayuntamiento utilizando algoritmos basados en nuestros datos sean accountable (aplicando el concepto de algorítmico accountability) y garanticen los principios éticos del respeto por los derechos, la justicia, el concepto de fairness, el bienestar y la virtud.

Como vemos el tema es muy interesante y todavía hay muchos aspectos para abordar. Podemos tener la sensación de que en España nuestras administraciones están muy lejos de otras, tanto europeas como de otros continentes, pero la verdad es que debemos comenzar a estar atentos, porque todo llega, tanto en la toma de decisiones, como en la automatización de tareas. Pero eso lo dejaremos para otra ocasión.

Publicado por Antonio Galindo
3 de abril de 2019

Licencia:
No especificada.

----------------------

Antonio Galindo Galindo

Responsable de unidad Concejalía Sociedad de la Información Ayuntamiento de Lorca
Murcia y alrededores, España
https://www.linkedin.com/in/antonio-galindo-galindo-3079b214/
https://www.blogger.com/profile/17227940945054225149
https://twitter.com/antoniogalindog