The Glass Cage: sobre autómatas y pantallas

"El problema con la automatización es que a menudo nos da lo que no necesitamos al costo de lo que hacemos."

"The Glass Cage" es un libro imprescindible. Debería ser leído y debatido en universidades e institutos de todo el mundo como parte del programa de estudios. Su importancia radica en que los problemas expuestos están íntimamente relacionados con nuestras rutinas y los objetos que diariamente utilizamos como herramientas. Presenta un análisis agudo y equilibrado sobre los efectos de la tecnología en nuestros procesos cognitivos y las actividades que realizamos.

Cada vez que interactuamos con una computadora personal, un teléfono inteligente o una aplicación, experimentamos cómo se ha transformado el modo en que nos relacionamos con el mundo. Por lo general esa experiencia es definida por la velocidad y la comodidad que nos ofrecen las nuevas versiones de estos productos. Pero aunque los efectos que percibimos como positivos suelen ser lo más notorios, no son necesariamente los únicos ni los más determinantes.

El argumento del autor, Nicholas Carr, es que la elección del adjetivo "smart" para calificar estos dispositivos no es únicamente una estrategia de marketing. Pertenece a una tradición que históricamente ha definido nuestra relación con las máquinas y el espacio que ocupan en nuestras vidas.

"La computadora se está convirtiendo en nuestra herramienta de todo uso para navegar, manipular, y entender el mundo, tanto en sus manifestaciones físicas como sociales. Sólo piensa en lo que sucede actualmente cuando la gente extravía sus smartphones o pierde su conexión a la red."

Con la llegada de la revolución industrial en el siglo XVIII las máquinas comenzaron a reemplazar la labor manual de los trabajadores. Aunque inicialmente fueron diseñadas como herramientas para mejorar la productividad, con el tiempo empezaron a realizar tareas cada vez más complejas que desplazaron las habilidades técnicas de los seres humanos, convirtiéndolos en supervisores de instrumentos.

La promesa inicial de una liberación de la carga operativa que les permitiría a los empleados dedicar su tiempo a tareas más interesantes y complejas no ha pudo realizarse. A medida que la tecnología informática produjo software cada vez más sofisticado los límites entre el trabajo manual y el intelectual comenzaron a desaparecer. Las máquinas ya no solo aportaban fuerza bruta, también eran capaces de procesar y analizar datos. Todo esto sin distraerse, exigir aumentos de salario ni enfermarse, cumpliendo sus tareas con porcentajes de error mínimos.

La paradoja es evidente, la utopía de una civilización sustentada por el trabajo de máquinas y robots inteligentes que imaginamos en el pasado hoy parece inalcanzable. Los seres humanos, en mayor o menor medida, están destinados a competir por puestos de trabajo con aparatos y algoritmos que son más fuertes, rápidos y efectivos que ellos. La automatización, desde sus inicios, estaba destinada a trascender las fronteras de las fábricas. Disciplinas como el diseño, la medicina, la arquitectura y la aviación ya han sido transformadas, generando consecuencias que aún no terminamos de comprender.

"Los artilleros pronto se encontraron a sí mismos sentados frente a pantallas en camiones oscurecidos, seleccionando objetivos desde las visualizaciones del radar. Sus identidades cambiaron junto a sus trabajos. Ya no eran vistos , escribe un historiador, sino <como técnicos leyendo y manipulando representaciones del mundo>."

A pesar de algunas voces de advertencia, la tendencia hacia una automatización ubicua parece irreversible. En los próximos años la realidad será digitalizada y aumentada. En gran parte la explicación se encuentra en el hecho de que la eficiencia derivada de los avances tecnológicos es uno de los ejes de la economía moderna y uno de los valores fundamentales del capitalismo. Frente a esta realidad, Carr advierte que si la optimización de procesos, la reducción de costos y la maximización de la rentabilidad continúan siendo los objetivos principales de los gobiernos y las corporaciones, los seres humanos ocuparán espacios cada vez más prescindibles y reducidos.

Esto sin duda tiene un enorme impacto en nuestra estructura socioeconómica, pero también sobre nuestras habilidades. La relación entre el nivel de desempeño y la práctica ha sido documentada por investigaciones independientes de múltiples disciplinas. Artistas, pilotos y atletas, entre otros profesionales, se han sometido a pruebas técnicas para determinar cómo el ejercicio constante de sus habilidades incrementa su capacidad y destreza.

Todos hemos vivido la experiencia de aprender algo nuevo: tocar un instrumento, manejar un auto o andar en bicicleta. Hemos observado cómo la repetición va transformando el proceso. Después de un período determinado superamos la curva de aprendizaje y somos capaces de tocar una canción, cambiar la velocidad de la caja sin que el auto se apague y mantener el equilibrio sin utilizar las manos. Sabemos que hay una relación directa entre el tiempo que invertimos realizando una actividad y nuestro nivel de maestría.

Uno de los casos más documentados es el de los pilotos comerciales. Actualmente los aviones cuentan con un sistema automatizado de vuelo que solo requiere supervisión por parte de los pilotos. En condiciones normales toman el mando de los controles por aproximadamente 4 minutos, durante el despegue y el aterrizaje. El resto del tiempo lo dedican a verificar las lecturas de los instrumentos, introducir datos y comunicarse con el operador aéreo. En los últimos treinta años la automatización pasó de ser un instrumento de apoyo para el piloto a convertirse en el sistema primario de vuelo. Este hecho implicó que el piloto fuese relevado progresivamente de los procedimientos de control de la aeronave para transformarse en un supervisor de la automatización.

"La cantidad de evidencia acumulada sobre la erosión de las habilidades, el embotamiento de las percepciones, y la ralentización de las reacciones debería darnos una pausa."

En enero de 2013, la FAA (Federal Aviation Administration) publicó una alerta de seguridad para operadores en la que recomendaba incentivar el vuelo manual cuando lo consideraran apropiado. La alerta fue el resultado de evidencia recolectada en investigaciones de accidentes y estudios en cabinas de simulación. Los reportes sugerían que la excesiva dependencia en la automatización podía "producir la degradación de las habilidades del piloto para recuperar rápidamente una aeronave de un estado no deseado". Es decir, cuando se presentaron emergencias quedó expuesto el deterioro en la capacidad de respuesta de los pilotos por la pérdida de su maestría.

Nicholas Carr presenta un argumento muy contundente apoyándose en datos y testimonios multidisciplinarios, recabados durante cientos de ejercicios, entrevistas, simulaciones y experimentos, que demuestran que los incidentes registrados en la aviación están sucediendo en otras áreas con altos niveles de automatización. Los programas de diagnóstico médico, los algoritmos que realizan transacciones en la bolsa y los programas de diseño 3D (CAD) son algunos de los ejemplos más conocidos pero no son los únicos.

La pregunta clave es: ¿por qué todo esto es tan importante?

Porque la tecnología ha transformado nuestras vidas. Muchos de sus efectos son maravillosos, ha simplificado tareas que en el pasado requerían demasiado tiempo y esfuerzo. Nos brinda entretenimiento instantáneo y nos mantiene conectados a personas y lugares que se encuentran a miles de kilómetros de distancia. Estamos tan compenetrados con la tecnología que ya no podemos concebir un mundo sin Google, Youtube y Facebook, aunque hace apenas veinte años no existían.

"Una de las grandes ironías de nuestro tiempo es que a pesar de que la ciencia descubre más sobre los roles esenciales que la actividad física y la percepción sensorial juegan en el desarrollo de nuestros pensamientos, memorias y habilidades, estamos pasando menos tiempo actuando en el mundo y más tiempo viviendo y trabajando a través del medio abstracto de una pantalla de computador."

A escala global, en lo político y lo económico, personajes influyentes esperan que los avances tecnológicos nos permitan entrar en una nueva etapa de la evolución humana. Raymond Kurzweil (Google) y Jason Silva, por ejemplo, han anunciado que en los próximos treinta años la biotecnología producirá los primeros híbridos y herramientas para dirigir nuestra propia evolución. Seres humanos conectados a consciencias virtuales y avatares digitales, nanorobots diseñados para tratar y prevenir enfermedades, manipulación atómica para convertir cualquier cosa en otra cosa.

Todo está sucediendo mientras hay oncólogos que aplican quimioterapias a pacientes con falsos positivos que fueron diagnosticados siguiendo las sugerencias de un asistente digital. Algoritmos que realizan miles de transacciones erróneas en pocos segundos, generando millones de dólares en pérdidas. Conductores involucrados en accidentes mortales por seguir las instrucciones de un GPS y pilotos que no logran estabilizar un Boing porque han olvidado cómo. El exceso de confianza y dependencia en la automatización ha producido un presente de contrastes en el que sin duda hemos ganado, pero al precio de perder aptitudes esenciales en el proceso.

"Si el sistema computacional es invisible y al mismo tiempo extenso, resulta difícil saber qué está controlando qué, qué está conectado con qué, a dónde está fluyendo la información, y cómo se está usando. Tenemos que depositar mucha confianza en las personas y las compañías que manejan los sistemas."

Los cambios se presentan en tales cantidades y con tanta velocidad que nos resulta casi imposible detenernos a reflexionar sobre un hecho evidente: la tecnología tiene consecuencias sobre nuestros procesos cognitivos y capacidades motoras. Las dinámicas de la inmediatez y el multitasking nos impiden anticipar las implicaciones ocultas. 

Sin embargo, las críticas no deben convertirse en una cruzada contra la tecnología, pues la salida no es un vuelta al primitivismo. Reducir la discusión a una oposición binaria entre tradición y modernidad (atraso y progreso) es otra de las amenazas que tenemos la obligación de evitar. Pero sí es necesario un cambio de actitud frente a un futuro que, aunque a veces parece inevitable, estamos construyendo ahora mismo. Es fundamental reconocer la abrumadora complejidad del ser humano y su relación con el mundo que habita. La tecnología debe ser un medio para servir a la humanidad, no una variable para reducir costos y multiplicar la rentabilidad. Esa diferencia es la que separa las utopías de las distopías. Sería una gran ironía que una cultura obsesionada con las pesadillas futuristas de la ciencia ficción termine realizando sus peores profecías.