¿Dónde está la ética en cierta tecnología?

A veces decimos que la vida se nos pasa rápido y no hemos hecho muchas cosas que querríamos hacer. Desde hace muchas décadas, se nos ha vendido a la mayoría de los ciudadanos del mundo, que gracias a la tecnología, las máquinas nos quitarían de hacer trabajos rutinarios y gravosos, y eso nos permitiría dedicarnos más a leer, pensar y hacer aficiones para las que siempre hemos querido dedicar tiempo. Pero década tras década, la tecnología ha ido avanzando y nuestro tiempo ha seguido estando ocupado. Eso sí, una cosa es que el tiempo lo ocupemos en nuestros quehaceres diarios y otro que lo malgastemos. Pero en todo este tiempo, hay una cosa que me da mucha rabia. ¿Por qué una parte de la tecnología que tanto nos gusta, queremos y amamos, que nos permite conectarnos, ver otros mundos y culturas, aprender cualquier cosa, y divertirnos, ha acabado siendo nuestra perdición en el dominio de nuestro tiempo?

El rapidísimo auge de la tecnología 

La semana pasada, un muy buen amigo, Edu, me recomendó encarecidamente que viera un documental-película “El dilema de las redes sociales”, apostillando “Te va a gustar”. Cuando me puse a verlo confieso que pensé que sería el típico documental en el que te muestran cómo las grandes tecnológicas consiguen los datos y los utilizan. Pues sí, iba de eso, pero no se queda en la superficie. A mi entender, entran en la raíz del problema. Me explico.

La tecnología lleva mucho tiempo estando adherida al poder y quizás sea ese punto el que ha hecho, que nos encontremos en esta situación, y dicha situación es una auténtica lucha de poder, por captar la atención de millones y millones de personas, sin importar nada más.

Cuando surge el universo internet para el gran público, muchos fuimos conscientes que algo grandioso había surgido, lleno de idealismo, lleno de oportunidades sin importar en qué dirección. Vimos un campo silvestre, sin pisar y donde surgían iniciativas a cada cual más original, pero también inocentes. Paralelamente, otras formas de cultura que habían existido anteriormente, comenzaban a desaparecer o empezaban a vivir un retiro nostálgico. Se había implantado otra forma de cultura digital, pero su característica principal es que iba muy deprisa, y aunque parezca que estoy hablando de décadas atrás, lo cierto es que sólo lo estoy haciendo de 2 décadas y media. Pero, ¿a que parece que ha pasado muchísimo tiempo?

Ese ha sido el problema, el tiempo. Porque con la tecnología ese tiempo ha pasado muy rápido y porque con la tecnología ese tiempo de alguna manera, lo hemos perdido ¿Por qué?

La lucha por captar nuestra atención

En El dilema de las redes sociales, Tristan Harris, que ha trabajado para Google como Diseñador Ético, habla del concepto “tecnología persuasiva”, en el que hace referencia a como desde lo que él llama salas de control, no se actúa de forma casual, porque el único objetivo es captar nuestra atención. Todos sabemos que hay distintas formas de persuadir, desde la seducción, la elegancia, el razonamiento y la argumentación, pero también desde un aspecto más visceral y podríamos llamar primitivo o atávico. Todo lo que aparece desde el momento en que nos conectamos a internet no evoluciona por azar, sino que hay un claro objetivo en la forma en que se diseñan y programan los contenidos, para captar nuestra atención, y aquí viene la clave…. con el fin de estar conectados a esos contenidos, el mayor tiempo posible.

Estremece reflexionar acerca de que grandes plataformas tecnológicas sean capaces de controlar los pensamientos de millones de personas, e incluso saber lo que están pensando ahora mismo, pero eso que puede parecer que lo tenemos claro, lo dejamos de lado, sin reflexionarlo bien. Porque en este mundo digital, se establece una competencia atroz por captar nuestra atención, pero como ésta es limitada, han tenido que preocuparse por saber cómo funciona la mente humana y así, optimizar la captación. Mucha gente habla de adicción a la tecnología, pero Jaron Lanier un pionero en el campo de la Realidad Virtual, ha venido reflexionando tiempo atrás que se trata de algo más subliminal, que manipula nuestro comportamiento más profundo. Saben cómo funciona nuestra psicología y orquestan los vínculos que los adolescentes establecen por ejemplo, en Snapchat.

Por otro lado, Tristán Harris, tiene claro que la indignación es una muy buena manera de captar nuestra atención, lo hacen Twitter y Facebook con la sección de noticias o hashtags, beneficiándose mucho cuando hay indignación, la cual está programando una reacción emocional en el espacio/tiempo, dedicando muchas energías y tiempo a compartir esa indignación con otros. En cambio, la tranquilidad no les funciona tan bien, no es tan rentable. Si no te quedas y gastas tu tiempo en las plataformas, a los anunciantes no les interesa. Los anunciantes son los clientes que pagan por un producto, que somos nosotros. Y la plataforma de turno se encarga de programar en nuestras mentes, los pensamientos que los anunciantes quieren.

Las líneas de la tecnología que traspasan la ética

Sin embargo, hay líneas que ya se han traspasado. Se miente indiscriminadamente para captar la atención de las personas más susceptibles. Mientras este negocio sea rentable así, no sólo no se va a acabar, sino que va a empeorar. Ya existe una fuerte preocupación por las “fake news” y este mundo de la post-verdad que puede hacer temblar la confianza en el sistema democrático. Pero mientras tanto, se está atacando nuestra voluntad directamente de vivir la vida que queremos vivir, porque todo cambia. Cambia la forma en la que tenemos conversaciones, como nos estamos relacionando de cara a la galería, y quizás lo más grave, es que están cambiando nuestros valores, nuestra democracia e incluso nuestras habilidades de tener pensamientos.

Pero este sistema, ¿cómo funciona realmente en nuestro interior?. Cuando recibimos una notificación, ésta nos programa para que tengamos los llamados pensamientos en bloque, que quizás no teníamos la intención de tener, antes de la notificación. Si pulsamos en esa notificación, ésta ya nos está programando para que pasemos un poco de tiempo en la plataforma de turno. Cuando hablamos de pensamientos en bloque o fragmentos, se trata de pequeños paquetes compactos de información a los que nuestra mente accede con mucha facilidad. En ese proceso mental, que es una unidad lógica, unimos los fragmentos de información a través del significado, que es la forma más fácil de recordar, y forma parte de una imagen mucho más grande. Esto por sí solo se quedaría cojo, pero si enfocamos la atención, ya estamos conectando partes del cerebro uniendo ideas. En este punto, la clave es cómo mantener nuestra atención.

Estos diseñadores nos conocen muy bien y saben que nuestro cerebro cuenta con un sistema de neuromoduladores, que son químicos que influyen en cómo una neurona responde a otras, generando sinapsis. Uno de esos químicos es la acetilcolina que activa circuitos que controlan la plasticidad sináptica. Ojo, porque este neuromodulador tiene un fuerte impacto en nuestra mente inconsciente. Otro químico sobre el que actúan es la dopamina, que controla nuestra motivación y que nuestras neuronas liberan, de acuerdo a un sistema de recompensa inesperada. Estamos siendo influenciados en nuestro sistema de toma de decisiones y entradas sensoriales. Pero es que la dopamina, y con eso es con lo que juegan y más adelante veremos, no sólo predice recompensas inmediatas, sino también futuras. Es el mismo efecto de antojos y dependencias que provocan las drogas adictivas y también actúa en la parte inconsciente de nuestro cerebro. Y por último, el neuromodulador de carácter más social sobre el que actúan es la serotonina. Si entrásemos en fases depresivas por insatisfacción en las recompensas, tendemos a bajar los niveles de serotonina, y ahí es cuando mostramos curiosamente los comportamientos más arriesgados. Queremos jugar, queremos seguir conectados, pero no sabemos ya lo que de verdad buscamos.

Poco a poco nos han ido modificando nuestro comportamiento en una especie de conductismo gigante con castigos y recompensas simbólicas, no como hacía Pavlov en sus experimentos con animales donde las recompensas eran tangibles, pero “salibamos” de otra manera, ante una notificación, un like o una suscripción ¿El peligro? pues las conductas de carácter negativo, ante un rechazo, un unlike o la falta de notificaciones ¿Cómo está repercutiendo eso en los más jóvenes?

Aunque siempre he podido tener claro para qué podía usar Google nuestros datos, nunca me he parado a pensar cómo lo hacía y qué utilidad sacaba de ello. Esta parte fue la que más me llamó la atención del documental-película. La confección de modelos predictivos que experimentan y ajustan las reacciones a las emociones y comportamientos, de forma tan precisa que llegan a predecir nuestra siguiente decisión. Cada día, todos somos un poco más conscientes que estamos rodeados de sistemas que analizan todos nuestros gestos, pulsaciones, comentarios, tiempos de reacción y todo ello, sin todavía estar implantadas masivamente un gran número de tecnologías con un poder tremendo y además de forma transversal que en breve usaremos todos. Pero, ¿somos conscientes todo el tiempo?. Para nada, nos volveríamos paranoicos.

Mejorar la cultura tecnológica 

¿Qué solución se puede plantear una vez llegados a este punto? Jaron Lanier hace tiempo que ha propuesto:

“Crear una cultura tecnológica que sea tan bella y significativa con un potencial tan infinito y un futuro tan atractivo, que nos aleje de cometer suicidio en masa. Es la alternativa de la creatividad, frente a la alternativa de la muerte. Algo parecido a lo que ocurrió cuando surgió el lenguaje con nuevas formas de conectar, coordinar, crear, imaginar, educar, pero teniendo claro el lado oscuro que puede surgir.” Para Jaron Lanier, “El error se ha producido a principios de la década 2000, al conjugar el espíritu empresarial tecnológico de personajes míticos con el todo es gratis. Y la solución que se dio fue el modelo publicitario. Pero los algoritmos mejoraron y se pasó de la publicidad a una modificación de la conducta. Ya no deberíamos hablar de redes sociales, sino de imperios de modificación de la conducta. Ha sido un error global y ridículo, más que una ola de maldad. Habría que pagar por los contenidos, por uso?. Quizás el modelo a seguir nos lo ha traído Netflix, HBO y Amazon?”

Tristan Harris viene defendiendo desde hace tiempo que “debemos reconocer que nos pueden persuadir y que nuestra mente puede ser programada con esos bloques de tiempo o fragmentos. Es necesario cambiar el negocio publicitario. Todo el tiempo perdido en una línea de tiempo que a lo mejor no queremos vivir, nos aparta de los debates cruciales y nos polariza”. Y añade “al final, todo lo que tenemos en nuestras vidas es atención y tiempo. Debemos invertir en tiempo, en vez de que un algoritmo bucee por nuestro cerebro reptiliano, buscando la mejor forma de, impulsivamente, lograr cosas pequeñas y vacías con nuestro tiempo. La tecnología nos debe ayudar a ser más éticos, educados, honrados y felices.”

Es posible que nos encontremos en un sistema donde todas estas consecuencias no deseadas, se han salido de control en la carrera frenética por la atención y por intentar tensar las emociones y las indignaciones al máximo, llegando cada vez a lo más profundo de nuestro interior. La pregunta es: ¿y ahora qué? ¿queremos resolverlo?. Nadie está en contra de la tecnología, se trata de regularla. Se trata de aportar valores y ética humanas en una colaboración positiva. ¿Estamos a tiempo de desliar la madeja?.

Tenemos que seguir haciéndonos éstas y otras preguntas que nos ayuden a reflexionar sobre algo que puede afectar muy seriamente a la Humanidad.

Más artículos de Luis López