Pensamiento Administrativo: El lado oscuro de la tecnología: El ser humano se transformó en algoritmo.

2019-05-03

El lado oscuro de la tecnología: El ser humano se transformó en algoritmo.

El ser humano se transformó en algoritmo.

Por Andy Stalman.

AndyStalman

El lado oscuro de la tecnología: El ser humano se transformó en algoritmo.

La línea que separa al usuario, consumidor, cliente del algoritmo es cada vez más delgada. Vayamos antes que nada a la fuente. Si el mundo es una máquina, la vida es un algoritmo. Los algoritmos, en su origen, existen prácticamente desde el origen de nuestra civilización, hace más de 2.000 años.

La palabra algoritmo etimológicamente proviene del griego y latín, algorithmus y arithmos, que significa «número». O quizá con influencia del nombre del matemático persa Al-Juarismi. El algoritmo más conocido de entonces proviene del griego Euclides.

Más de veinte siglos después de Euclídes, las fórmulas matemáticas desarrolladas –no sólo- por las mayores empresas tecnológicas del mundo mueven los principales servicios digitales que ya forman parte esencial de la existencia humana. Al punto que algunos tratan de confundir a personas con eso llamado algoritmo.

Vivimos en el desierto de la post modernidad en el que los espejismos de las redes sociales y las aplicaciones no lavan tu cerebro sino que lo programan. Somos algoritmos, somos los granos de arena que configuran el desierto post moderno. La economía de esta era necesita que todos consumamos para funcionar; a la vez que necesita que todos generemos data. Suena absurdo, pero está pasando.

El consumidor post moderno queda retratado por los datos que el mismo genera. Lo interesante de este nuevo escenario es que se dan los datos se dan por buenos, sin tener en cuenta que las personas mienten, y pueden auto engañarse, generando una información no necesariamente cierta. Somos lo que fingimos.

Sucede que en esta nueva era conceptos como persona y data se transforman en sinónimos. Sabemos que las personas no son datos, sino emoción y circunstancia, pero no resulta tan sencillo. El nuevo sistema de puntaje personal en China hace quedar a Black Mirror como un capítulo de Bambi.

El Sistema de Crédito Social (SCS) que China comenzó a probar en una docena de ciudades, y que espera que alcance a sus 1.386 billones de ciudadanos en 2020, establece un puntaje para cada persona.

Según sea alto o bajo, y según oscile, ese número determina aspectos íntimos de la vida privada —como el acceso a descuentos para los servicios públicos o la negativa a inscribir a un hijo en una escuela de calidad—, con la forma de un mecanismo de premios y castigos.

El uso combinado de los algoritmos y de las máquinas es lo que está cambiando el desierto post moderno. Pero las máquinas no entienden, aún, conceptos como mentir o engañar, y mientras ellas no puedan filtrar la verdad de la mentira, los datos estarán inevitablemente contaminados, y serán menos útiles de lo esperado.

Los mecanismos modernos de manipulación son cada vez más sofisticados.

Y tan complejos que se camuflan también detrás de la algarabía de los “likes” que potencian tu excitación y tu felicidad.

Se ha demostrado que las redes sociales provocan cambios en los neurotransmisores como la serotonina, la oxitocina, la testosterona la adrenalina y la dopamina. Esta última se libera cuando se recibe un ‘like’. De esta manera se activan los centros de recompensa y se incrementa la sensación de felicidad.

Cuando el Pew Research Center se dispuso a examinar los datos que se utilizan para permitir que los anunciantes dirijan anuncios a las personas que probablemente hagan clic en ellos, descubrió que el 74 por ciento de los estadounidenses ni siquiera sabía que eso existía, hasta la encuesta.

Casi 9 de cada 10 (88 %) de los estadounidenses descubrieron que Facebook había generado material para ellos en la página de preferencias de anuncios, y 6 de cada 10 tenían 10 o más intereses listados para ellos.

Una vez que tuvieron la oportunidad de ver esta lista, una pequeña mayoría, el 51 por ciento, no se sentía cómoda con que Facebook recopilara esta información sobre ellos, según el informe. «Siempre encontramos que hay una paradoja en el centro de la investigación generalizada de la privacidad», dijo Lee Rainie, director de investigación de tecnología e Internet en Pew.

Casi todos los usuarios en el mundo dicen que la privacidad es importante, pero se comportan de una manera que indica lo contrario.

En este asunto aparece la realidad de que todos, cada uno, tienen su propia línea roja cuando se trata de cuestiones de privacidad. Hay una especie de acuerdo no tácito de intercambio constante y fluido entre la privacidad (la data que ofrece y genera el usuario) y el beneficio que obtiene a cambio.

Mientras debatimos en ámbitos muy específicos nuestra relación con las nuevas tecnologías todo parece híper normalizado. Apenas si hay cuestionamientos acerca de un sistema que asume con naturalidad la entrega indiscriminada de información, de intimidad y de privacidad. Todo sea por poder usar las redes gratuitamente, por acceder a la comodidad de lo online sin importar a que precio.

La tecnología se nos ha montado encima y es la que lleva las riendas de nuestra sociedad. El problema es que lo permitimos, lo aceptamos, lo asumimos como “normal”. Mientras la tecnología nos domine viviremos en unas circunstancias que el propio hombre ha creado, y hasta que el hombre no vuelva a llevar las riendas de su propio presente y de su destino el futuro seguirá siendo un desierto de números.

Creamos máquinas para que nos ayuden a pensar, y ahora las máquinas piensan por nosotros (Ken Liu). En medio de la apasionante era digital ha surgido una realidad que se nos escapa de nuestra imaginación.

En el libro «Armas de destrucción matemática», la matemática y la científicaCathy O’Neil pone de relieve que las decisiones que toman los algoritmos provocan que sean las máquinas quienes concedan o no un préstamo, evalúen a los empleados, monitoricen la salud de los ciudadanos y, además, lleguen a influir en el criterio de los potenciales votantes en unas elecciones.

¿Debemos depositar toda la responsabilidad es una máquina?

Un algoritmo también decide, en función de una serie de parámetros y registros de actividad de sus usuarios, el contenido recomendado que, se supone, más nos interesa en los servicios de contenido como Spotify, Amazon Primer o Netflix. Así en vez de expandir nuestras posibilidades de conocer más, los algoritmos cada vez nos centrarán más en nuestros gustos y afinidades limitando nuestra apertura.

Si vivimos dentro de la modalidad “verdad a la carta“, la mayor parte de las plataformas no tiene entre sus objetivos que el usuario cambie de opinión y amplíe sus horizontes, sino que se sienta cómodo entre aquellos que piensan igual. Aunque los usuarios creen que eligen lo que van a consumir son las empresas las que deciden qué opciones tenemos de menú.

Una gran parte de esta sociedad post moderna vive en estado de alienación casi constante.

Como vacunada contra el virus del libre albedrío, el pensamiento crítico y la duda. Deseamos un futuro que nunca fue, añoramos un pasado que nunca sera e ignoramos el presente que nunca existió.
Vivimos programados para lograr la maxima producción, el máximo consumo, la mayor eficiencia y la menor conciencia sobre lo anterior.

El mundo es un complejo entramado de intereses y el hombre crea sistemas tan intrincados que el sólo hecho de pensar en cambiarlos desalienta al más osado.

Indudablemente ha llegado el tiempo de cuestionarlo todo. Las pocas voces valientes que provienen de los titanes tecnológicos denuncian lo que ellos mismos crearon: un espacio de manipulación en el que se abduce a los usuarios como si de una droga poderosa se tratara. Desengancharse es prácticamente improbable.

Cuestionar y si fuese necesario re interpretar y re pensar qué tipo de sociedad ambicionamos y volver a establecer una nueva relación con la tecnología resulta indispensable. Al hombre de hoy le atrae más lo mecánico, lo empantallado, que la vida misma, aquello que se enmarca fuera de un dispositivo.

¿Seremos capaces de huir del auto engaño en el que estamos atrapados?

¿Seremos lo suficientemente audaces como para rebelarnos contra esta tiranía de los datos?
Ya no alcanza con compartir, debemos unirnos y lograr que chisporroteen una vez más nuestras neuronas y así salir de este estado de anestesia colectiva.

Las redes sociales, los medios, los influenciadores, los influenciados, las plataformas de contenido, las apps, todo forma parte de un inmenso y eficaz proceso de distracción masiva. La pregunta es: ¿Distraernos de qué?

En las redes sociales el tsunami #10YearChallenge #2009vs2019, se ha vuelto tan viral que es raro no ver a alguna celebridad, familiar o amigo o conocido compartiendo un fotografía de cómo era entonces y de cómo es ahora. Presente en Instagram, Facebook y Twitter, la consecuencia que nadie podría pensar es que esta “campaña”, acabe utilizándose para el aprendizaje de la inteligencia artificial.

Esta es la teoría que baraja Kate O´Neill en Wired donde explica cuáles serían las consecuencias intencionadas de un meme como este.

La idea con la que O’Neill elabora en su pensamiento está basada en esta pregunta: ¿Qué podría hacer una empresa como Facebook, especialmente interesada en crear algoritmos para el reconocimiento de las personas, para crear un sistema que tenga en consideración los cambios asociados a la edad? Es decir, un algoritmo que tomando una foto de una persona pueda saber cómo será dentro de diez años.

La sociedad habita en un espacio de tiempo cada vez más relativo en el que los antiguos conceptos se confunden, la vejez rejuvenece, la adolescencia se adelanta, las edades se contraen y se expanden, se entremezclan y se relativiza la edad. Somos hijos adoptivos de la velocidad, estamos hechos de instantaneidad y el ya en nuestro ADN marca el ritmo del futuro que se convierte en un sustantivo común.

Dentro de nada los dispositivos estarán implantados en nuestra propia piel o incluso en nuestro cerebro.

La imprenta impulsó la capacitación lectora; el cine, la televisión e Internet han educado nuestra vista. La creación de un escenario de imágenes (entre reales y virtuales) entre auténticas y manipuladas han expandido la posibilidad de ver más allá.

Dentro del sistema post modernos el ser humano mira azorado como la incertidumbre se viste de titular de telediario. El buen funcionamiento de un sistema necesita del buen funcionamiento de cada una de sus partes. Es por ello que sólo puede transformarse un sistema si se acometen cambios en todo el sistema y no en una parte u otra.

Desde la crisis, incluso antes, empezamos a buscar nuevas normas y una nueva ética a la vez que observamos como viejas normas y una vieja ética se diluían en ácido pero no a la velocidad que la post modernidad establece.

La gran mayoría de ciudadanos eligen evitar el riesgo de crear algo nuevo, de tener una nueva realidad, y deberíamos asumir ese riesgo como parte del proceso evolutivo de este nuevo ser humano. El avance de la humanidad, el progreso “per se”, empuja hacia el futuro con la fuerza de lo obvio, pero no tanto por mérito de unos u otros, sino porque es la ley casi natural.

Antes que llegue la nueva crisis, es tiempo de empezar a reflexionar sobre el sistema que creamos y en el que creemos, y contrastar si de verdad es el idóneo, el menos malo, el que nos hace bien y nos sirve. Cualquier similitud entre el sistema offline y el nuevo ecosistema online no parece ser mera coincidencia.

Necesitamos, como sociedad, una reflexión más profunda.

¿Qué valores buscamos o queremos, o necesitamos? ¿Qué prioridades buscamos como sociedad? ¿Qué futuro estamos construyendo y hacia dónde nos dirigimos? ¿Qué tipo de progreso buscamos?
El ritmo sin precedentes del cambio tecnológico significa que nuestros sistemas de trabajo, transporte, educación, salud, comunicación, producción, distribución, seguridad y energía, por nombrar algunos, se transformarán por completo.

Gestionar ese cambio requerirá no solo nuevos marcos para la cooperación nacional y multinacional, colaboración público-privada, sino también un nuevo modelo de educación, completo con programas específicos para enseñar nuevas habilidades, más blandas que duras, a los trabajadores. Con los avances que se avecinan en máquinas, robótica e inteligencia artificial tendremos que pasar de una mentalidad de producción y consumo a una de compartir y cuidar.

Hemos creado un ecosistema que devora datos y los transforma en beneficio, manipulación y moneda de cambio, para unos pocos. Pero todos lo sabíamos. Facebook es un monstruo, pero es un monstruo más entre tantos.

Pero no podemos achacar la culpa o la responsabilidad de nuestro presente post moderno a Facebook o al resto de titanes datalógicos porque mientras hablamos de futuro, casi nadie sabe dónde va, nadie explica o detalla cómo se va y mucho menos hay metas claras de porque ir en dicha dirección.

Es por esto que necesitamos volver a despertar nuestra conciencia, recuperar el pensamiento de quiénes somos, qué es lo que buscamos, lo qué pretendemos y adónde queremos ir. Solamente haciéndonos conscientes de esto, podremos tomar las decisiones que creamos más acertadas de adónde y cómo queremos ir.

Las capacidades humanas (pensamiento crítico, empatía, entendimiento, etc.) nunca fueron tan necesarias para atravesar este desierto post moderno. El hombre es imperfecto, ya lo sabemos, y tendemos a depositar nuestra esperanza en la perfección de las máquinas, de los algoritmos.

Sobre esta nueva realidad en la que depositamos nuestro futuro, nuestras decisiones, nuestros gustos, hábitos y conductas en las máquinas, hace tiempo que vengo haciéndome la misma pregunta: ¿Qué nos pasará como sociedad si el algoritmo se equivoca?

Andy Stalman
enero 24º, 2019

Licencia:
No especificada.

-------------------------