Tenue rey, sesgo alfil, encarnizada
reina, torre directa y peón ladino
sobre lo negro y blanco del camino
buscan y libran su batalla armada.
No saben que la mano señalada
del jugador gobierna su destino,
no saben que un rigor adamantino
sujeta su albedrío y su jornada
.
También el jugador es prisionero
(la sentencia es de Omar) de otro tablero
de negras noches y blancos días.
Dios mueve al jugador, y éste, la pieza.
¿Qué Dios detrás de Dios la trama empieza
de polvo y tiempo y sueño y agonías?
Ajedrez- Jorge Luis Borges
Por María Solans
¿Qué Dios detrás de Dios la trama empieza?
Al poema borgeano lo traje a mi recuerdo tras la lectura de un libro sobre inteligencia artificial y, si bien lo utilizaron con otro fin, me pareció el puntapié ideal de un análisis sobre la industria que funciona de marco para el desarrollo de la AI.
Somos contemporáneos de una nueva revolución industrial pero a diferencia de las anteriores, ésta se presenta como la definitiva. Esta singularidad, en combinación con la sensación de que abarca la totalidad de la vida y el hecho de que sus productos cobran una especie de ‘vida propia’ y pierden su conexión con el marco en que fueron creados, me lleva a pensar en la idea de Dios y en querer realizar una analogía con el poema de Borges.
¿Y si somos piezas de ajedrez, pero no aquellas ejecutoras de una estrategia, sino por el contrario, pasivas piezas que buscan “éxitos” y libran batallas con lo que un Dios le puso en la mano? ¿Si no somos conscientes de que hacemos lo que un Dios nos señala? ¿Si no sabemos que un ‘rigor adamantino’ sujeta nuestro albedrío y jornada? ¿Si no somos prisioneros de un Dios, sino de unos pocos dioses?
Entonces, ¿Qué Dios(es) detrás de Dios la trama empieza(n) de polvo y tiempo y sueño y agonías?
La trama
Polvo
A riesgo de sonar apocalíptica (o conservadora), me pongo a pensar en lo que vamos dejando atrás como humanidad durante este reguero de ‘innovaciones’ que nos proporciona la industria de la tecnología. Sino lo que se hace polvo, al menos lo que se ve tensionado por estas herramientas que nos habilitan los dioses.
Lo primero que se me viene a la mente (incluso como concepto rector de las lista de cosas que podríamos enumerar) es la subjetividad. Tan inherente al ser humano, nuestra interpretación de lo que nos rodea está forjada por nuestras experiencias vividas, la información que disponemos, las emociones que transitamos y los valores en lo que creemos. Ahora bien, qué pasa cuando una fuerza creadora es tan potente que regula la información que disponemos, es capaz de influenciar las emociones que transitamos y trastocar los valores que tenemos.
Sin embargo, las experiencias vividas y las emociones siempre estuvieron enmarcadas en contextos sociales.
También históricamente la información de la que disponemos se vio regulada. Los motivos fueron diversos. En primer lugar, técnicos. Materialmente no existían tecnologías que pudieran poner toda la información existente a un click de distancia de cualquier persona. Bueno, tampoco de cualquier persona, y ahí entra el segundo motivo de regulación: no todos accedieron ni acceden a las tecnologías de su tiempo para considerarse ‘informados’. El otro motivo es político. La historia nos convidó de momentos y lugares en dónde los gobiernos regularon la información de sus sociedades en provecho propio.
Por último, los valores en los que creemos, por suerte, también fueron trastocados con el devenir de la historia. Y eso casi siempre salió bien.
Pero en nuestros tiempos la diferencia radica en la potencia y la escala de la influencia externa hacía esos elementos que construyen nuestra subjetividad. O quizás esta vez, el golpe del cambio encontró una subjetividad castigada, frágil y cansada. Con la subjetividad en crisis, se vieron desafiadas la empatía, la memoria, la construcción de identidad individual y colectiva, la concentración, la capacidad de deliberación, entre otros aspectos esenciales de la cognición humana y de la interacción social.
El excesivo uso de redes sociales, el consumo de información cuya veracidad nunca está garantizada, el menosprecio por la acción humana en pos de la sobreestimación absoluta de la máquina, el gobierno de lo racional por sobre lo emocional, la confianza absoluta en los algoritmos son rasgos de nuestra época, construida a la par del imperio de las computadoras, y dan lugar a la pregunta: ¿la subjetividad corre riesgo de ser polvo o sólo está mutando?
Tiempo
En el ajedrez, el tiempo juega un papel importante. Existe una continuidad durante la partida que vive dentro de esta dimensión temporal y dónde ocurren los cambios de posiciones de las piezas. La partida pasa de un estado a otro, previa meditación de los jugadores, y todo el juego resulta en un proceso, ni lineal ni unidireccional, pero sí coherente y consistente con un flujo temporal. Cada jugador evalúa múltiples opciones, desarrolla una estrategia y mueve una pieza. El contrincante se adapta como mejor lo considere a la decisión que tomó el primer jugador, nuevamente, analizando diversas posibilidades y generando con cada movimiento un marco de condiciones de posibilidades distinto, básicamente, un tablero distinto.
Al tiempo en el ajedrez lo acompaña el espacio. Cada pieza ocupa un espacio en la cuadrícula. Tiempo y espacio se combinan explicando el devenir de la partida y dándole su marco conceptual.
Un poco así funciona también la existencia. Un marco de posibilidades, ubicadas en tiempo y espacio, nos brinda un escenario de opciones que vamos tomando en una secuencia de acciones. A partir de esas decisiones, vamos definiendo las condiciones de posibilidad que nos ofrecerá el próximo ‘tablero’. El nuestro y el de los otros.
Tanto en el ajedrez como en la vida disponemos de ese ‘marco conceptual’ que define el flujo temporal. Sin embargo, ¿qué pasaría si se rompe el tablero? ¿Si ya no hay un marco de espacio-tiempo? ¿Eso es posible? ¿o sólo se modifica su percepción?
El uso e impulso de una sobrecomunicación liviana pero constante, la velocidad de cálculo y la vertiginosidad son singularidades tanto de las empresas tecnológicas como de los productos que lanzan al mercado. Claro, también de todos los actores que se ven involucrados: científicos, tecnólogos, inversionistas, operarios y usuarios. Todos. A este nuevo ritmo, que ya venía acelerando desde hace algunos años, ahora se le sumó un trastocamiento del espacio, que ya no parece estar tan definido como antes y se vuelve cada vez más relativo. Rompiendo límites que para la vida, como para el ajedrez, son el marco de posibilidad del juego.
Sueño
Hasta aquí hemos sobrevolado algunos de los elementos que conforman el lado oscuro de la AI. Sin embargo, como dice el poema, la trama deja lugar para los sueños.
Los objetos no sueñan, las piezas tampoco, se necesita de un sujeto.
Puede parecer una pregunta estúpida, pero ¿Cuál es la diferencia entre sujeto y objeto, entre sujeto y pieza? Un sujeto percibe, piensa, siente y actúa.
Pero, si es verdad que estamos ante una subjetividad cansada o perezosa, para soñar, no se necesita de cualquier sujeto. De hecho, ya hay intentos para que la inteligencia artificial, perciba, piense y actúe. El sujeto requerido para soñar es uno empático, creativo, curioso y vulnerable.
Empático. Uno capaz de usar la tecnología conectando con los otros y con la naturaleza.
Creativo. Uno que, desde su backlog(cambiar palabra), recupere su capacidad imaginativa. Una imaginación sensata y crítica capaz de inventar realidades distintas a partir de las nuevas herramientas a su alcance.
Curioso. Uno que use la exploración, la experimentación y el descubrimiento para modificar el estado de las cosas y no para replicarlas.
¿Vulnerable? Sí. Uno vulnerable.
Ante la invulnerabilidad y la perfección absoluta con la que se nos presenta la máquina, la vulnerabilidad se presenta como un potencial refugio. Se busca (y se consigue) que la AI perciba, piense y actúe. Pero resulta más difícil que sienta, al menos como sentimos los humanos. Sin emoción y sentimiento no hay vulnerabilidad. ¿Y si logramos despojar de connotaciones negativas a la vulnerabilidad? ¿Y si desde la vulnerabilidad se puede construir?
La mayor vulnerabilidad, la más implacable y vieja a la que nos enfrentamos es la muerte. Llevado al extremo esta característica tan humana de la vulnerabilidad, nos encontramos con que la muerte quizás también sea difícil de arrebatar. Entonces, si nos podemos morir en cualquier momento, se necesita un sujeto activo, que logre un uso consciente del tiempo en su provecho y no en beneficio del mercado.
¿Qué pasaría si la inteligencia artificial fuera aplicada por y en pos de una humanidad empática, creativa, curiosa y vulnerable?
Los algoritmos no son buenos ni malos. Sus plataformas de aplicación, sus dueños, sus objetivos, sus impactos por los tipos de usos que se les da, sus barreras de acceso, esas son cosas que sí pueden ser criticadas.
Agonías
Como en toda partida de ajedrez, hay perdedores. En la batalla, los peones pueden caer y también, las demás piezas.
El orden en que se sucedan las caídas, probablemente se explique una vez más por las desigualdades sociales, que no son nuevas ni exclusivas de esta época. Sin embargo, la trama parece ahora no hacer lugar a planes de contención para ellas.
Por el contrario, pareciera cumplir con las condiciones para profundizarlas, de una vez y para siempre. En un mundo regido por una computación perfecta, estrictamente racional y eficiente, la acción humana se ve descalificada. Y con la acción humana, se devalúan la política y la democracia. Ya no se necesita una decisión colectiva para definir el destino. Lo puede hacer por nosotros algún elegante algoritmo, y lo hará más rápido, será más barato y seguramente sabrá encontrar mejor ‘la solución óptima con los recursos disponibles’. Como en el juego, el mejor movimiento puede implicar sacrificar a alguna/s pieza/s en pos de preservar al rey.
Ahora bien, ¿Qué es lo ‘óptimo’? ¿Qué es lo eficiente? ¿Bajo qué objetivos medimos la eficiencia? ¿Los objetivos de quién?
La otra gran agonía, es la naturaleza. La inteligencia artificial aplicada a todos los ámbitos de nuestra vida, demanda que todo aquello que nos rodea esté conectado y sea ‘smart’. La inteligencia de las cosas, que va abriendo mercados a su paso, generando puestos de trabajo y ‘facilitando todo’, demanda esfuerzos de la naturaleza que parecen invisibilizados, al menos para los mortales. No se los conoce, no se los discute.
Los Dioses
Ya hablamos de la trama. Hablemos de los dioses.
La tecnología en el siglo XX encontró su plataforma de desarrollo en la industria bélica. De la necesidad mercantil de generar, mantener y ganar guerras, se llevaron a cabo grandes avances en la ciencia y la tecnología. Incluso, allí también encontró sus orígenes la inteligencia artificial que con el fin de la guerra fría, se erigiría ella misma como plataforma de desarrollo tecnológico.
De los dioses de la guerra, los dioses de la AI heredaron algunos asuntos: se convirtieron en la clave de la geopolítica mundial, asumieron la responsabilidad de abrir nuevos mercados y mantuvieron la apariencia de neutralidad de sus logros tecnológicos. Claro que también heredaron algunos rasgos fenotípicos y sociales. En su mayoría los dioses son hombres, blancos y, en lo posible, anglosajones. Además también heredaron su raigambre social y la deidad cayó sobre clases medias-altas y ricas. Por último, la industria de la AI también estaría altamente concentrada. Los dioses podían ser más de uno pero debían ser pocos.
Sin embargo, aprendieron también los puntos débiles de sus antecesores y se propusieron modificarlos. La industria que desarrolla, regula y difunde la inteligencia artificial, se nos presentó como la del éxito y no necesitó ser regulada. A diferencia de la industria bélica, que inevitablemente nos traía a la cabeza la idea de muerte y sangre (nos ponía difícil la tarea de asociarla a un futuro), la de la inteligencia artificial nos trae a la cabeza sensaciones de frescura, vitalidad y felicidad. Es un entramado productivo que nos muestra un porvenir eficiente, productivo y próspero. Nos invita a optimizar todos los ámbitos de nuestra vida y realidad.
Es en esa invitación, aparentemente inocente y bien intencionada, dónde la trama empieza y va levantando el polvo de lo único que puede implicar un obstáculo: la subjetividad, avanza desarticulando el tiempo, demostrando que el espacio-tiempo puede ser un capricho de los dioses, despertando agonías (porque en un futuro productivo y eficiente no hay lugar para los que no le sirven al mercado) pero (y por suerte) también sueños.
