Close-up

Hace unas noches estaba viendo Bodkin, una serie sobre unos podcasters que llegan a un pueblo de Irlanda a investigar unas desapariciones. En el quinto episodio hay una escena que me llevó a escribir este artículo.

En ella, dos personajes, Dove y Teddy, hablan sobre algo que pasó hace tiempo. A medida que la conversación avanza, la cámara se va acercando a ellos. Muy despacio. Cuando la escena terminó, los dos rostros llenaban la pantalla. La distancia física se había ido cerrando al mismo ritmo que la conversación se volvía más íntima. Siempre me interesó mucho el mundo audiovisual y la cabeza se me va a ese tipo de detalles.

El tema es que alguien decidió eso. Alguien pensó que el acercamiento entre dos personas podía contarse acercando una cámara, y eligió el momento de empezar, la velocidad, el punto donde parar. No es un truco. Es una idea. Si le preguntara a quien dirigió esa escena por qué lo hizo, sabría responderme. Quería decir algo y encontró la manera de decirlo sin decirlo.

Intención

Una decisión y un resultado no son lo mismo. Lo que llega al espectador es el resultado: la cámara que se acerca. Pero lo que hace que ese plano signifique algo es la intención que hay detrás.

Esto, en general, es algo que sobre lo que el espectador no tiene mucha consciencia en el momento. Pero lo nota. Hay trabajos que tienen una densidad rara, en los que se intuye que cada cosa está donde está porque alguien quiso ponerla ahí. Y hay trabajos que se les parecen por fuera pero están huecos. La diferencia no está en la superficie. Está en si hubo alguien queriendo decir algo.

Por eso me ronda una pregunta desde que vi la escena. Cuando una IA genera un plano, un texto, una imagen, ¿hay alguien queriendo decir algo? ¿O hay solo un cálculo que produce algo que se parece a lo que haría alguien con una intención?

Un modelo no tiene una intención y luego busca la forma de expresarla. Produce una salida a partir de un cálculo sobre millones de ejemplos. Si el resultado emociona, no es porque nadie quisiera emocionarnos, sino porque el cálculo ha dado con una combinación que se parece a las que emocionan. El acierto es real. La intención no existe.

Se ve muy claro si le pides al agente que justifique una decisión. Te da una explicación ordenada, hasta convincente. Pero esa explicación no cuenta cómo se generó la respuesta y la intención en el cálculo. La justificación viene después, fabricada para sonar plausible. No te dice por qué lo hizo. Te dice lo que un humano contestaría si le preguntaran por qué lo hizo.

La justificación post-hoc no solo la hace la IA. Es algo muy humano. Michael Gazzaniga lo vio en pacientes con los dos hemisferios cerebrales separados: cuando una parte del cerebro provocaba una acción, la parte que controla el lenguaje inventaba al instante una razón coherente, y el sujeto la creía de verdad. Nisbett y Wilson lo midieron en gente corriente: elegían por una causa y justificaban por otra, sin darse cuenta de que lo hacían. Nosotros, a veces, también fabricamos la explicación después. La diferencia con la IA no está ahí. Está en que, en nuestro caso, hubo una intención antes, y hay alguien que responde por ella.

Criterio

Aquí conviene separar intención y criterio.

La intención es querer decir algo. Es el impulso que viene antes, la dirección. El criterio es saber si lo que has hecho dice de verdad lo que querías decir: distinguir que este travelling funciona y este otro no, que esta palabra sobra, que este silencio está un segundo de más. La intención mira hacia delante. El criterio mira hacia lo hecho, y juzga.

No siempre van juntas. Hay quien tiene mucha intención y poco criterio, como el aficionado que ama el cine y rueda algo ilegible. Y hay quien tiene mucho criterio y ninguna intención propia, como el buen editor que no tiene nada que contar pero sabe con precisión si los planos que están montando funcionan. Quien dirigió la escena de Bodkin tenía las dos: quería decir algo, y supo encontrar el plano exacto que lo decía.

La IA separa las dos cosas. De criterio, en cierto modo, va teniendo: uno prestado, hecho del poso de millones de decisiones humanas, que le permite distinguir con acierto creciente qué suele funcionar y qué no. Lo que no puede tener es intención. Y un criterio sin intención es una brújula sin caminante. Sirve para saber si vas bien, no para querer ir a ningún sitio. Puede corregir el rumbo de un viaje que no es suyo. Nunca elegir el destino.

Costes

Hay algo más en el cine que conviene traer aquí, y tiene que ver con el dinero. Cada plano cuesta dinero: iluminar, pagar al equipo, ocupar una localización, repetir la toma… por eso, si un plano está en la película, es porque alguien decidió que valía lo que costaba. Nadie rueda un plano porque sí. La restricción económica actúa como un filtro invisible: obliga a que todo lo que existe tenga una razón para existir. Casi se puede predecir una película por esto: si la cámara se detiene en un objeto, es porque ese objeto va a desempeñar un papel más adelante.

El producto digital no siempre funciona igual. Se añade una función, y otra, y otra, muchas veces sin intención, simplemente porque se puede. Porque el competidor la tiene, porque alguien la pidió en una reunión. El coste de añadir parece bajo, así que se añade. Y lo que no se ve, porque llega después y repartido, es que cada cosa añadida sin motivo suma complejidad al producto y coste al negocio.

Que se pueda hacer no quiere decir que se deba hacer. Poder hacerlo no es razón suficiente. Y esto, que ya era cierto antes, se vuelve crítico en la época de la IA, cuando todo parece gratis. Si en el cine la escasez obliga a querer cada plano, la abundancia de la IA nos libera de tener que querer nada. Todo puede existir, así que todo existe. Y cuando todo existe sin que nadie lo haya querido, volvemos al mismo sitio: formas sin intención, cosas que están ahí porque se pudo. Solo que ahora ni siquiera cuestan lo suficiente como para obligarnos a pensarlo.

Responsabilidad

Lo que me preocupa, en realidad, no es la IA. Somos nosotros.

Cuando acepto lo que me da una IA sin hacerlo mío, estoy dejando que algo exista sin que nadie lo haya querido. Y si además adopto su justificación como si fuera la mía, cierro el círculo: una forma que nadie eligió y una explicación que nadie pensó. Por fuera parece una decisión. Dentro no hay nadie.

Hay trabajos en los que lo único que los sostiene es que alguien quiso decir algo concreto y se hizo responsable. La escena de Bodkin es uno de esos momentos. Cuando se llenan de gestos que nadie ha querido, se vacían por dentro sin que se note por fuera.

Una cosa es usar la herramienta para decir lo que yo quiero decir. Otra es dejar que la herramienta decida qué se dice, y firmarlo yo. En el primer caso la intención sigue siendo mía. En el segundo he soltado lo único que hacía que el trabajo fuese mi responsabilidad.

La cámara que se acerca en aquella escena me sigue pareciendo una buena imagen de lo que está en juego. Alguien quiso ese acercamiento. Mientras siga habiendo alguien que quiera, que elija y que cargue con lo que elige, la IA es lo que decimos que es: una herramienta. El problema no empieza cuando la máquina toma decisiones. Empieza cuando nosotros dejamos de tomarlas.

–

Sígueme en LinkedIn para estar al tanto de nuevas publicaciones.

–

Anexo: La justificación post-hoc en el cerebro humano

El intérprete del hemisferio izquierdo (Gazzaniga)

Michael Gazzaniga, trabajando con pacientes de cerebro escindido (split-brain, personas a las que se les seccionó el cuerpo calloso para tratar epilepsia severa), descubrió algo perturbador. Cuando se le mostraba una instrucción solo al hemisferio derecho (por ejemplo, «camina») y el paciente se levantaba y empezaba a andar, al preguntarle por qué se levantaba, el hemisferio izquierdo —donde reside el lenguaje— inventaba una razón coherente al instante: «voy a por una Coca-Cola». El sujeto no mentía. Creía sinceramente su explicación. Pero esa explicación era una fabricación: el hemisferio izquierdo no tenía acceso a la verdadera causa (la instrucción dada al derecho), así que construyó una narrativa plausible y la presentó como motivo real.

Gazzaniga llamó a este mecanismo «el intérprete» (the interpreter). Su tesis: una parte de nuestro cerebro se dedica permanentemente a construir explicaciones coherentes de nuestra propia conducta, tengamos o no acceso a las causas reales. La sensación de «sé por qué hago lo que hago» sería, en buena medida, una historia que nos contamos después del hecho.

Libet y el medio segundo (cronología de la decisión)

Benjamin Libet, en experimentos de los años ochenta, midió la actividad cerebral de sujetos a los que se pedía mover un dedo en el momento que quisieran, anotando el instante exacto en que sentían la «decisión» de moverse. Encontró que la actividad cerebral preparatoria (el «potencial de disposición», readiness potential) comenzaba unos 350-550 milisegundos ANTES de que el sujeto reportara haber decidido conscientemente moverse.

La lectura fuerte (y discutida) del experimento: la decisión se gesta en el cerebro antes de que la conciencia «se entere», y la sensación de haber decidido conscientemente llegaría después de que el proceso ya estuviera en marcha. La conciencia no sería tanto la que decide cuanto la que recibe el aviso de una decisión ya tomada, y luego se atribuye la autoría.

Importante: Libet ha sido muy criticado metodológicamente, y él mismo dejó espacio para un «veto consciente» (la capacidad de la conciencia de frenar la acción en el último momento, el «free won’t» en lugar del «free will»). No es prueba concluyente de nada, pero abrió un debate que sigue vivo.

Confabulación y psicología de la elección

Más allá de los casos clínicos, hay una literatura amplia en psicología sobre la «confabulación»: la tendencia a producir explicaciones falsas pero sinceras de nuestras propias decisiones.

El experimento clásico es el de la elección de medias/calcetines de Nisbett y Wilson (1977): se mostraban a sujetos varios pares de medias idénticas y se les pedía elegir la mejor. La gente tendía a elegir la de la derecha (sesgo de posición), pero cuando se les preguntaba por qué, daban razones sobre la textura, el color o la calidad. Nadie mencionaba la posición, que era la causa real. Inventaban un motivo plausible para una decisión cuyo verdadero origen no conocían.

La conclusión de Nisbett y Wilson, muy influyente: a menudo no tenemos acceso introspectivo a los procesos reales que guían nuestras decisiones, pero eso no nos impide generar explicaciones, que confundimos con introspección verdadera.

El paralelismo con la IA (lo interesante para ti)

El paralelismo es inquietante y es justo lo que da vértigo. Cuando le pides a un modelo generativo que justifique una decisión que ha tomado, produce una racionalización post-hoc que no describe su proceso real. Cuando le pides a un humano que justifique una decisión, según esta literatura, a menudo produce también una racionalización post-hoc que no describe su proceso real. En ambos casos, la explicación es una salida construida, no un informe fiel del mecanismo causal.

Donde la analogía se rompe: el humano, aunque fabrique la justificación después, sí tiene algo que la IA no tiene. Tiene intención previa (un querer decir algo, aunque no pueda explicarlo bien), tiene un cuerpo con experiencia metabolizada, y sobre todo asume la decisión, responde por ella, carga con sus consecuencias. La fabricación de la justificación es un fenómeno real y compartido. La intención y la responsabilidad, no.

Es decir: el hecho de que los humanos también racionalicemos a posteriori no iguala al humano con la IA. Lo que hace es desplazar el criterio de distinción. La diferencia no puede estar en «el humano sabe explicar por qué y la IA no», porque resulta que el humano tampoco lo sabe del todo. La diferencia tiene que buscarse en otro sitio: en la intención y en la asunción de responsabilidad.

Lecturas adicionales

• Michael Gazzaniga, Who’s in Charge? Free Will and the Science of the Brain (2011).
• Benjamin Libet, Mind Time (2004).
• Richard Nisbett y Timothy Wilson, «Telling More Than We Can Know» (1977). El paper clásico sobre confabulación. El título, por cierto, es un eco invertido de Polanyi («we know more than we can tell»): aquí decimos más de lo que sabemos.
• Daniel Kahneman, Thinking, Fast and Slow (2011).