Una entrevista con Joanna Zylinska

Joanna Zylinska es artista y teórica de los medios. Es profesora de Nuevos Medios y codirige el Departamento de Medios de Comunicación de Goldsmiths (Universidad de Londres).​​ Es autora de varios libros, entre ellos The End of Man: A Feminist Counterapocalypse (2018), Nonhuman Photography (2017), y Minimal Ethics for the Anthropocene (2014). En la presente entrevista, conversamos con Joanna Zylinska sobre su libro más reciente AI Art: Machine Visions and Warped Dreams (Open Humanities Press, 2020), el cual abre la discusión sobre los procesos creativos que utilizan inteligencia artificial. La entrevista va acompañada por dos capítulos de este libro que fueron traducidos especialmente para esta edición.

Muchas gracias, profesora Joanna Zylinska, por aceptar nuestra invitación y participar en esta entrevista. Nos ha impresionado mucho su nuevo libro AI Art: Machine Visions and Warped Dreams (Open Humanities Press: 2020). Es una contribución realmente interesante, en particular el marco post-humanista que usted desarrolla para explorar temas como arte, tecnología, creatividad y política. Nos gustaría comenzar pidiéndole que por favor nos cuente un poco sobre este libro. ¿Cuál fue la principal motivación detrás de él? ¿Cuáles son sus principales tesis?

Gracias por invitarme. Es un placer y un honor hablar con ustedes. Para empezar, me gustaría dar un poco de contexto y explicar de dónde vino el libro. Todo comenzó cuando presencié, en diferentes festivales de arte y eventos durante los últimos años, una avalancha de artefactos generados por computadores. Por ejemplo: pinturas generadas por computador que se asemejaban a la obra de Vincent Van Gogh, o una obra maestra modernista abstracta, o Microsoft encomendando la producción de un nuevo Rembrandt, o inteligencia artificial generando música. Al mismo tiempo, este aluvión de obras de arte generadas por Inteligencia Artificial (IA) debe ser inscrito en un debate más amplio sobre la IA desplegándose en la sociedad, donde el público ha mostrado tanto una fascinación por lo que la IA puede hacer y crear como también temores relacionados con la automatización de la fuerza de trabajo (y la potencial eliminación de las personas de sus puestos de trabajo), o incluso la aniquilación de la especie humana. Para mí, las narrativas que acompañan esta emergencia de la IA, y la discusión sobre la creatividad y la potencial amenaza de la IA, son tan interesantes como los artefactos mismos que se están produciendo bajo la etiqueta de “arte IA” ¹AI Art. El libro responde a esta coyuntura; a esta producción de muchas cosas diferentes etiquetadas como arte IA. Mi objetivo era interrogar este término y explorar la confluencia de ideas, creencias y fuerzas sociopolíticas detrás de él. Y para hacerlo, quería ir más allá de la mera pregunta acerca de si el computador puede ser creativo o no. Cuando la gente piensa en la IA y en el arte generado por computadoras, esta es la pregunta que a menudo se plantea. Si bien el libro intenta responder esta pregunta, también intenta mostrar por qué no es la mejor pregunta que nos podemos hacer y que de hecho no nos lleva muy lejos. En su lugar, propongo realizar otras –y más adecuadas– preguntas acerca del arte IA: ¿debería el uso reciente de la IA en la creación y la curatoría de imágenes animarnos a formular algunas preguntas más amplias sobre el propósito mismo de la producción artística? ¿Nos anima a cuestionar una vez más para qué sirve el arte? ¿Para quién existe? ¿Quién es hoy el artista? ¿Cuál es la naturaleza del mercado del arte y de la institución artística? ¿Pueden la tecnología y la IA desafiar esto de alguna manera? ¿La IA crea nuevas condiciones y nuevas audiencias para el arte? ¿Y cómo será el arte después de la IA? ¿Para quién será? Así que podría decirse que el libro pretende ser una provocación, una invitación a la discusión. Pero hago algo más que sólo preguntar. El libro también conlleva una crítica, pero no en el sentido de que quiero decirle a la gente que la IA es realmente mala y que deberíamos tener mucho miedo. Mi posición no involucra un rechazo total de la IA como tecnología o como concepto. Al contrario, el libro surge de una fascinación con las posibilidades, narrativas, historias y encarnaciones técnicas de la IA. Pero al mismo tiempo, soy bastante suspicaz sobre las reivindicaciones sociales y políticas actuales respecto la IA, y también acerca del papel del arte en la validación de esas reivindicaciones sociopolíticas. Como parte de ello, me preocupan algunas formas de estética de la IA (con su frecuente banalidad visual), pero más importante aún me preocupa saber al servicio de qué está a menudo puesto este tipo de arte banal (aunque estridente): la legitimación del capitalismo de plataforma y la psicopolítica. De esta manera, esta forma de arte termina poniendo en marcha lo que Franco “Bifo” Berardi llama neurototalitarismo. Así, el libro propone una crítica de esa forma de capitalismo preguntando en qué medida el arte IA se moviliza para poner en marcha y reforzar esa particular formación política. Finalmente, el libro también se pregunta si no podríamos hacer las cosas de otra manera (tanto artística como políticamente).

En relación con la pregunta anterior, ¿de qué manera cree que este nuevo libro se relaciona con sus obras anteriores, en particular con Nonhuman Photography (MIT Press, 2017) y The End of Man (University of Minnesota Press, 2018)?

Me agrada que hayan establecido este vínculo entre textos aparentemente diferentes. La principal preocupación de mi trabajo en los últimos años ha sido la constitución de lo humano en tanto especie y en tanto sujeto histórico. Lo que he tratado de hacer en todos estos libros es adoptar la indagación geológica de un “tiempo profundo”, observando el surgimiento de lo humano en conjunción con tecnologías tales como herramientas y otros artefactos, pero también la comunicación en sus diversos modos (lenguaje, narración de historias, ética, arte y, por supuesto, medios de comunicación). Así, en un intento por desafiar lo que podríamos llamar “singularidad humana”, mi trabajo examina ciertas características de lo humano, tales como la inteligencia, la conciencia, y la percepción. Con ello, quisiera cuestionar el límite entre formas humanas y no humanas de inteligencia incluyendo actualmente las promesas y las amenazas de la IA. Es este conjunto de intereses lo que en primer lugar conecta estos tres libros: Nonhuman Photography, The End of Man (cuyo subtítulo es “A Feminist Counterapocalypse”) y AI Art. La dimensión contra-apocalíptica es compartida por estos tres proyectos. Por un lado, pongo en relación mi trabajo con narrativas sobre la extinción, caducidad y desaparición humanas como resultados del cambio climático, la tecnología (sea en forma de robots y cyborgs o bajo la forma de inteligencia artificial y otras nuevas formas de conciencia) y por último, pero no menos importante, deberíamos mencionar también el virus, porque el virus nos llega a través de muchos tipos de tecnología. Por ejemplo, el COVID-19 se encuentra claramente atado a la tecnología del avión y a las conexiones y comunicaciones globales, y plantea una amenaza muy real a nuestra salud, nuestro bienestar, nuestra existencia. Todas estas preocupaciones están presentes en estos tres libros. En todos ellos adopto lo que podría llamarse una perspectiva planetaria, pero también una que encuentra su anclaje en las preocupaciones sociopolíticas del aquí y ahora. Aquí es donde entran las teorías feministas y los estudios raciales. En lugar de hablar del “Hombre” a lo largo de la Historia, prefiero anclar el cuestionamiento en las crisis ecológicas y económicas específicas de hoy. Esto implica darse cuenta de que tanto los procesos sociales de construcción de género como la racialización de las narrativas apocalípticas deben ser interrogadas. Porque el apocalipsis no le sucede a todos de la misma manera ni al mismo tiempo. Mucha gente, muchos grupos, ya han experimentado diferentes formas de apocalipsis y extinción. Este tipo de sensibilidad ante diferentes historias, diferentes formas de precariedad, diferentes grupos (raciales, regionales, de género, etc.), juega un rol decisivo en mi trabajo y requiere de cierta ralentización en el cuestionamiento del apocalipsis. La fuente de esto es una red de fuerzas naturales y tecnológicas entrelazadas (que realmente no podemos desacoplar).

Otra cosa que combina todos estos proyectos es la importancia que le doy tanto a la percepción (como modo de encontrarse con el mundo) como al papel de las imágenes en nuestra cultura (mediática). La fotografía es uno de los géneros que observo, pero también me interesa el cine, y la relación entre las imágenes fijas y en movimiento, y las imágenes producidas por Realidad Virtual e Inteligencia Artificial que van más allá de los “medios tradicionales”. En resumen, se podría decir que intento combinar la investigación filosófica con la práctica artística (incluida la mía, puesto que los tres libros incluyen trabajos de mi propia práctica artística). Y veo este modo híbrido de investigación como el más pertinente para el cuestionamiento de temas tan complejos. Cuestiones que necesitan ser pensadas de una manera filosófica rigurosa, pero que también necesitan ser sentidas y experimentadas a nivel afectivo como parte del mismo espacio cognitivo.

Usted mencionó esta idea de la percepción y las imágenes. Algo que me parece muy interesante es la distinción entre un nivel representacional de las imágenes y un nivel performativo. Y creo que esto es importante de considerar cuando se piensa en la política de las imágenes hoy en día. El problema es que la teoría ha estado demasiado preocupada por la representación, y no ha prestado suficiente atención a la performatividad. Pero, por otro lado, la performatividad puede ser considerada una aplicación de las estructuras de poder. ¿Qué piensa de esta distinción y de su importancia para reflexionar sobre la política de las imágenes hoy en día?

De hecho, he estado pensando recientemente en esa distinción mientras leía algunos textos sobre ciencias informáticas, neurociencia y teorías de la percepción. Y puede que ustedes sepan que esta distinción incomoda también a estas disciplinas, disciplinas que han sostenido el lado filosófico del campo de la IA. Las ciencias cognitivas que se encuentran informadas por –y que también informan a– las ciencias informáticas utilizan un modelo de representación en el que los objetos y las cosas parece que estuvieran ahí fuera en el mundo, y quien percibe (ya sea el humano o la máquina) simplemente va y los encuentra, es decir, los percibe. Y las máquinas pueden, de hecho, percibir mejor que los humanos cuando se trata de reconocimiento de patrones, examen médico, etc. Pero hay otras teorías provenientes de la investigación biológica que están desafiando esta idea de que los objetos están ahí fuera en el mundo para que los veamos, quienquiera que sea este “nosotros”. Y están adoptando un modelo de percepción más performativo, en el que la percepción es un proceso que involucra a un cuerpo que se mueve a través del mundo. Y es sólo en ese proceso, en ese encuentro, que la percepción tiene lugar y que los objetos se constituyen en tanto objetos. Muchas de las teorías más convencionales sobre la visión artificial, aunque utilizan la noción de redes neuronales, se siguen sosteniendo sobre la idea de representación. Así que estoy interesada en mirar estas otras trayectorias científicas que proponen esta noción de percepción como un acto situado “en el mundo”. En este sentido, los objetos son el resultado de una percepción performativa realizada por un agente que se mueve en ese mundo. Esto requeriría ir más allá de la idea estática de la visión como reconocimiento. Obviamente este agente no tiene que ser humano. Hay muchas investigaciones interesantes sobre la percepción animal (en términos de espectro de colores, el campo de visión, la profundidad de campo, etc.). Pero el agente de la percepción también podría ser una máquina. Por lo tanto, sugeriría que hasta cierto punto todas las formas de percepción son performativas. Creo que la representación se convierte en un atajo que a veces utilizamos para explicarnos algo a nosotros mismos. Pero en un nivel ontológico más profundo, estoy mucho más interesada en el modelo performativo de la percepción.

Una afirmación de su libro que nos parece muy llamativa es que el arte y la tecnología siempre han estado conectados (comparten incluso la misma raíz etimológica). Aun cuando mucha gente pueda hoy en día estar de acuerdo con esto, la conclusión de que, por lo tanto, la inteligencia siempre ha sido artificial, es más novedosa. ¿Podría desarrollar esta idea? ¿Cuáles son las principales influencias filosóficas detrás de esta afirmación?

Esta idea se remonta al recientemente fallecido filósofo francés Bernard Stiegler y su concepto de “tecnicidad originaria”: la creencia de que los humanos siempre han sido técnicos, que hemos surgido como seres técnicos a través de tecnologías simples como las piedras de sílex, el fuego, la ropa, el lenguaje. Esto se basa, a su vez, en la noción de subjetividad de Gilbert Simondon, como algo que surge a través de la tecnología. Por lo que no existiría tal cosa como un ser humano pre-tecnológico. El humano, en sus capacidades cognitivas, corporales y afectivas se ha producido en conjunción con la tecnología. Esta idea también está presente en la cibernética de segundo orden y su noción de sistema. Todo esto me ha llevado a pensar también en la inteligencia como algo que no se limita a los humanos, sino que es producto de una relación técnica. Y cuando pensamos en la inteligencia de este modo, el lenguaje también aparece como una tecnología, es decir, como una señal de inteligencia y un productor de inteligencia. Además, si nos fijamos en el desarrollo del arte, éste siempre ha sido producido con la ayuda de todo tipo de tecnologías y máquinas (aparatos, estimulantes neurológicos, alucinaciones, sueños, virus, convenciones culturales, etc.). Así pues, la razón por la que introduzco este concepto como un andamiaje para mi propio pensamiento es porque quiero apartarme de esta idea del artista como un genio singular (y de hecho es a menudo “el” artista), sentado en su  buhardilla o estudio, produciendo, siendo creativo, desde “el fondo de su alma”. En cambio, quería mostrar que la creatividad y la producción artística se basan en una forma de inteligencia que siempre está vinculada a la tecnología, y esto se remonta miles de años. También encontramos esta idea revisada de manera interesante en el trabajo del filósofo brasileño-checo Vilém Flusser, y su explicación de las condiciones de posibilidad para la producción de arte y fotografía, incluyendo la pregunta acerca de la libertad humana al interior del confinamiento técnico. Flusser reconoce que hasta cierto punto somos máquinas y que estamos sujetos a aparatos (y estos aparatos son tanto sociopolíticos como técnicos), pero también intenta encontrar condiciones de libertad en esta idea. Por último, pero no menos importante, las críticas feministas y postcoloniales nos han mostrado que no todos los sistemas, que no todas las máquinas, “nacen iguales”. Así, reconociendo nuestra constitución recíproca con la tecnología en general, necesitamos cuestionar el funcionamiento de cada tecnología en particular. La tecnología de vigilancia policial, por ejemplo, se ejecuta de manera muy diferente para diferentes personas. Y también es diferente, digamos, de la tecnología de la educación (aunque esta tecnología en sí misma puede ser tanto productiva como opresiva). La cibernética nos ofrece una visión sistémica donde todas las dimensiones se entrelazan y se comunican entre sí. Pero el feminismo y la crítica postcolonial muestran cómo es necesario que nos detengamos y examinemos momentos particulares dentro de este sistema.

¿Y en relación a esto último, qué nos podría decir sobre la idea de lo cyborg presentada por Donna Haraway?

Bueno, Haraway siempre ha sido muy importante para mí. Y lo que ha sido particularmente importante es su pensamiento a través de figuraciones. Tomó el concepto de cyborg de la tecno-ciencia y lo reestructuró en su propio e irónico gesto político, tratando de crear una figura que le permitiera pensar la tecnología de manera diferente. Y obviamente lo que pasó entonces con su trabajo fue que de pronto el cyborg no era sólo este robot parecido a Arnold Schwarzenegger que irrumpió en el mundo, tratando de matarnos o salvarnos. Los perros también podrían ser cyborgs. Hay una expansión aquí del problema de establecer cuáles son nuestras formas de alianza y parentesco. La pregunta no es por lo tanto qué máquinas son cyborgs y cuáles no, sino más bien qué tipo de relaciones existen entre los humanos y la tecnología –y cómo se despliegan estas relaciones. El cyborg puede convertirse en una figuración crítica feminista y socialista que cuestiona seriamente las condiciones económicas de la tecnología, quién está excluido y quién está incluido en la configuración tecnológica, quién produce tecnología pero no puede usarla, etc. El cyborg puede ser una herramienta crítica, que nos permite examinar las desigualdades de género, raciales y económicas. No es tanto una cuestión de qué es el cyborg, sino más bien de lo que hace y lo que puede deshacer en tanto figuración crítica.

Volviendo a la idea novedosa sobre la inteligencia humana como inteligencia artificial, nos gustaría abordar uno de los temas clave del libro: el de la creatividad. Pensamos que su afirmación según la cual la pregunta de si las máquinas son creativas ha sido planteada erróneamente, es una de las contribuciones clave del libro. Usted sugiere que en lugar de eso deberíamos preguntarnos en primer lugar qué es la creatividad humana. Y aquí usted hace referencia a la noción de A. N. Whitehead de la creatividad como un intercambio del organismo con el medio ambiente. ¿Podría explicar las principales consecuencias de pasar de una noción “humanista” de la creatividad hacia una “ambiental”?

Para comenzar, debería explicitar  contra  qué estoy discutiendo aquí: contra  un concepto muy limitado de creatividad que se utiliza en algunas formas de arte IA y que se reduce a la repetición de lo mismo. Con ello me refiero a esas formas de creatividad de la IA que producen trabajos basados en la “transferencia de estilo” que parecen copias de van Gogh, o un nuevo Rembrandt. En contra de esta idea de “¡oh, esto es asombroso, el computador ha pintado algo que se parece al trabajo de un Gran Maestro!”, me interesa mirar otras teorías de la creatividad, más sistémicas. La razón por la que me interesaba hacer esto era porque pensaba que este modelo limitado de creatividad sólo estaba produciendo obras sin sentido y confusas. En el libro describo estas obras como una forma de arte “Candy Crush”. Este modelo de creatividad termina sosteniendo a las empresas del capitalismo de plataforma (por ejemplo, Google y su programa de artistas, etc.). Pero se clausura a cualquier creatividad real, que para mí implica la búsqueda de cosas que podrían empujar al sistema a desincronizarse, a abrirse. Por supuesto, queremos y necesitamos que algunos sistemas funcionen correctamente, pero queremos abrir otros. De nuevo, no todos los sistemas nacen iguales ni tienen las mismas tareas y las mismas formas de integración. Creo que, por ejemplo, la cibernética de segundo nivel erró al no cuestionar más profundamente la dimensión cultural de los sistemas. Obviamente reconocía la existencia de las culturas, pero no lograba captar la agencia de esas culturas, así como su transmisibilidad a través de las generaciones. Así, voy en contra de la idea de la creatividad entendida como repetición de lo mismo, pero también en contra de la idea de la creatividad como novedad absoluta: “creación ex nihilo“; la forma en que Dios supuestamente creó el mundo. Es por ello que utilizo la idea de A. N. Whitehead de la creatividad como algo que ocurre en la relación entre un organismo y su medio ambiente, aquello a lo que el psicólogo James Gibson llamó “affordances”. Esto se relaciona con lo que decíamos sobre la percepción, en el sentido de que las cosas suceden en el encuentro, o en el despliegue mutuo, entre el organismo y el mundo. Aquí me baso en el trabajo de mi colega de la Universidad de Goldsmiths, Mark d’Inverno, quien afirma que la investigación de la IA se beneficiaría si adoptase este concepto de inteligencia que emerge de la indagación atenta de la relación entre el ser humano y el medio ambiente. Las preguntas que deberíamos hacernos son: ¿en beneficio de quién estamos diseñando?; ¿cómo nos aseguramos de que la IA no devenga simplemente una técnica para subyugar aun más al medio ambiente? La creatividad y el diseño en relación con el medio ambiente todavía requieren que nos hagamos algunas preguntas que se relacionan con nuestra responsabilidad humana sobre lo que podemos y no podemos hacer. Necesitamos reconocer el nexo de fuerzas, seres, agentes, demandas, y actuar desde el interior de ese nexo. En lugar de tener un modelo de lo humano como alguien que está fuera del mundo, y de la tecnología como una mera herramienta, necesitamos un modelo más dinámico y entrelazado de creatividad. Esto también se puede encontrar en el trabajo de la científica cognitiva Margaret Boden, quien ha sugerido que ser creativo significa divergir de los caminos establecidos que esculpimos y seguimos día a día. Esta es una idea de “creatividad transformacional”. Pero, de nuevo, no creo que podamos explorar esto sin tomar en cuenta la política. Se podría decir que Boris Johnson y Donald Trump se desvían del camino establecido. Algunas personas describirían sus acciones en términos de “destrucción creativa”. Es por ello que hay otros conceptos y otros marcos que deben ser introducidos. No todos los tipos de creatividad deben ser valorados exactamente de la misma manera. No todas las formas de divergir de la norma son iguales. Además, la lógica de Silicon Valley está a menudo muy en la línea de “rompamos las cosas y veamos qué pasa”. Por esta razón, creo que la creatividad como “divergir del camino establecido”, tiene que ser construida a través de conceptos y filosofías “del mundo”, con modelos políticos “del mundo”. La creatividad debe ser considerada en esos términos. No puede ser considerada como un concepto abstracto. Porque si lo es –y de hecho lo es a menudo en lugares como Silicon Valley– la teoría de la creatividad como “novedad absoluta” se cuela por la puerta trasera y acabamos con teorías neoliberales de la política y la economía. Y ciertamente eso es algo que no queremos.

Esto nos lleva a otra de nuestras ideas favoritas de su libro: abogar por una historia y una teoría del arte post-humanista. ¿Podría decirnos algo más acerca de este nuevo enfoque para el estudio de las imágenes? ¿Es éste un enfoque interdisciplinario? ¿Cuáles son las principales consecuencias en juego aquí?

Una vez más, la razón para proponer esta idea es reconocer la presencia de elementos no humanos en la producción de toda obra de arte, desde las pinturas rupestres hasta las obras de los llamados “Grandes Maestros”. Estas obras ya han sido producidas en conjunción con diversos agentes no humanos (transmisiones, impulsos, virus, drogas, diversas sustancias orgánicas y no orgánicas), pero también con todo tipo de redes e infraestructuras (desde la red de micelios hasta Internet). Reconocer que el arte siempre se produce en esas relaciones es importante para distanciarse de la idea de que el arte sólo ocurre en la cabeza o en el alma del artista. Esto implica reconocer las diferentes fuerzas e influencias que actúan sobre el artista. Y no creo que esto menoscabe lo humano o se aleje de la idea de creatividad. Pero nos permite reposicionar la naturaleza de nuestra investigación y preguntarnos: ¿qué significa que el humano sea creativo? Para mí la respuesta a esta pregunta es una interpelación ética y política. Sí creo que, aunque reconozcamos diferentes limitaciones tecnológicas, maquínicas y fisiológicas del ser humano, siguen existiendo grados de libertad y emancipación para nosotros. Pero para entender esto, el modelo de creatividad como “creación ex nihilo” debe ser cuestionado. En cambio, necesitamos posicionar al artista como existiendo “en el mundo”, siempre alimentándose del vínculo con otros elementos humanos y no humanos. Necesitamos recordar que el arte es siempre ya una forma de extractivismo. La cuestión es entonces cómo hacer este extractivismo un poco más ético, un poco menos centrado en el individuo y un poco más centrado en el mundo.

En relación a esta teoría del arte post-humanista, ¿qué puede decirnos acerca de la noción de autoría? ¿Qué pasa con la idea del “autor” en este nuevo tipo de arte algorítmico? ¿Podemos hablar de una “transferencia de intencionalidad” desde el autor a estas tecnologías complejas?

En primer lugar, habría que preguntar si acaso la intencionalidad perteneció en algún momento plenamente al autor. Si aceptamos la idea según la cual la inteligencia y la agencia ya son en parte tecnológicas, entonces de cualquier modo este autor nunca fue totalmente humano, sino que siempre fue parcialmente maquínico. Por lo tanto, si estamos hablando de una transferencia, tal vez esta transferencia ya ha ocurrido incluso antes de que cualquier artefacto haya comenzado a ser fabricado. Si reconocemos esto, entonces debemos dejar de situar al humano en oposición a la máquina y en su lugar comenzar a analizar su co-evolución. Pero reconocer esto no significa que todo se vuelva indistinguible y que ya no haya diferencia entre humanos y máquinas, que sólo haya un gran flujo de materia y energía (hay filosofías que sugieren eso, pero no es a lo que yo apunto). Aunque reconozco el entrelazamiento existente entre humanos y tecnología, lo que necesitamos es un nuevo vocabulario, un nuevo modelo para pensar esta transferencia. Así que no se trata simplemente de una transferencia, sino que es más bien el reconocimiento de una cierta forma de inteligencia y agencia de la máquina que ya está ahí.

Por otro lado, creo que también deberíamos ser críticos con algunas de las promesas más comerciales sobre cómo las máquinas harán todas esas increíbles cosas por nosotros: salvar el mundo, eliminar la pobreza, etc. Todo este tipo de “solucionismo tecnológico” básicamente adopta el lenguaje del capitalismo y sus estrategias de relaciones públicas. Y esto es algo de lo que debemos sospechar. De este modo, el reconocimiento de la agencia maquínica, que en parte ya está en nosotros, no significa que vayamos a decir: “sí, las máquinas harán nuestro trabajo y nosotros sólo miraremos”. No sabemos si las máquinas serán capaces de reflexionar sobre cuestiones éticas y políticas. La ética como reflexión sobre las teorías del bien, sobre cómo queremos vivir, es un discurso que es importante y significativo para nosotros los humanos. Sin embargo, a pesar de que hayamos tenido diferentes formas de ética durante mucho tiempo, todavía no nos hemos puesto de acuerdo sobre cómo vivir. Si lo hubiéramos hecho, el mundo no se encontraría en el desastre en el que está. Pero este tipo de reconocimiento del entrelazamiento entre tecnología y humanos todavía plantea al humano la tarea de tener que rendir cuentas éticas de esta relación maquínica y su intencionalidad (donde la intencionalidad se encuentra distribuida más que simplemente transferida).

También en relación a esta crítica de la idea de autor, usted distingue entre un autor que se encuentra “por encima del mundo” y un artista robótico que es “del mundo” y está “en el mundo”. ¿Podría explicar la diferencia entre estos tres niveles y cómo se conecta con el tema de la autoría?

Aquí estaba dialogando con un ensayo de Michel Foucault sobre la función del autor. Y Foucault ha sido muy importante para socavar esta idea del autor como genio solitario que puede pararse sobre el mundo y producir su trabajo desde allí. Foucault ha demostrado que el autor debe ser entendido más bien como una “función-autor”. Es una fotografía temporal de la agencia que incorpora no sólo a ese ser humano en particular a quien llamamos “Pablo Picasso”, “Tracy Emin”, o quien sea, sino también a toda la red de fuerzas que va desde las familias y las trabajadoras de cuidado, hasta los estudios, las tecnologías, la alimentación, las drogas, etc. El nexo entre todos estos elementos es lo que llamamos la función-autor. Pero también a través de eso podemos volver a la idea de Whitehead según la cual la creatividad ocurre “en el mundo”. Esto propone una idea diferente de la creatividad y el arte, una que elimina cierta responsabilidad del artista en el proceso de creación, y que se aleja de la fantasía narcisista de “Yo realizo estas intervenciones singulares, y son increíbles, y me hacen rico y famoso, etc.” Para mí, el trabajo que reconoce la inserción del artista en el mundo es más interesante –y también más significativo en términos políticos y culturales. Esto no quiere decir que los artistas no puedan aportar diferentes modos de pensar, de entender el mundo o de resolver problemas, pero reconociendo que el anclaje “en el mundo” es también una forma de asumir responsabilidad “por el mundo”. Todo esto significa apartarse del arte como egocentrismo narcisista. Y debemos recordar que el arte no es lo mismo que el activismo (aunque reconozco que para algunas personas hay una delgada línea entre ambos). En cualquier caso, para mí el arte tiene que estar apuntalado por un sentido de responsabilidad. Lo que esta responsabilidad implica y cómo esta responsabilidad es puesta en marcha ya es una tarea que debe resolver un artista o colectivo en particular. El arte no tiene por qué ser didáctico o prescriptivo –o, menos aún, moralista– pero sí requiere que los artistas reconozcan su arraigo en el mundo.

Finalmente, nos gustaría concluir con dos preguntas que se relacionan con las consecuencias políticas y sociales que tiene su trabajo para el arte IA. Nos interesa mucho la relación entre tecnologías IA y trabajo humano bajo las condiciones capitalistas de producción. ¿De qué modo piensa usted que el arte IA explora esta relación?

Bueno, esto es algo que intenté explorar con mi proyecto, incluido en el libro, “View from the Window” que estaba basado en el Mechanical Turk de Amazon. Para este proyecto contraté a cien trabajadores de la plataforma MTurk de Amazon, que es una especie de mercado laboral digital de bajo costo. En esta plataforma se puede contratar gente para hacer algunas tareas muy simples que serían demasiado costosas si se programaran computadores para que las hicieran; tareas como digitar encuestas, etiquetar imágenes, etc. Así que le pedí a estas personas que cada una tomara una fotografía de su ventana para mostrar y así rematerializar este entorno laboral invisible. Este fue un intento por reconocer la terciarización ²crowdsourcing como una característica inherente a la creación de arte, pero también como algo que se ha hecho más presente en la era de Internet. Pero lo propio de MTurk, por supuesto, es que se paga muy poco a la gente por esa producción de arte. Y este gesto problemático de crear con el trabajo de otras personas, que también es una forma de explotación laboral, tenía el propósito de visibilizar el trabajo de los MTurkers –y sobre las condiciones más generales del trabajo y de la creatividad hoy en día. En un gesto poco afortunado, Amazon ha llamado a esta plataforma “inteligencia artificial artificial”, un chiste interno que sugiere una actividad laboral repetitiva de tipo maquínico que ni siquiera vale la pena automatizar. Hoy en día, el “Capitalismo COVID” ha demostrado que todos somos “turcos mecánicos” en las fábricas de Amazon, Microsoft y Zoom. E incluso aquellos de nosotros que nos encontramos en ocupaciones relativamente privilegiadas de clase media estamos siempre bajo la amenaza de quedar obsoletos – porque hay otro MTurker que vendrá y hará el mismo trabajo de producción cultural (educación, teoría, críticas de cine) más barato y más rápido. Si bien este sentido de precariedad y obsolescencia, la comprensión de que la creatividad puede ser fácilmente externalizada, nos ha acompañado durante mucho tiempo, se hace hoy más visible bajo el “Capitalismo COVID”. Esto es algo que también me ha preocupado como parte de este libro. Y de nuevo, el punto no es aferrarse a los vestigios del humanismo según el cual los humanos, se dice, crearían mejor, sino más bien aferrarse a las cosas que son esenciales para nuestra supervivencia –y para aspirar a un “buen vivir”. Y esto implica crear las condiciones para obtener una remuneración justa por el trabajo, o establecer límites entre el trabajo y el ocio. Por supuesto, para muchas personas el “Capitalismo COVID” no ha hecho más que exacerbar las precarias condiciones laborales en las que han vivido durante mucho tiempo. A la luz de todo esto, necesitamos investigar cómo la IA y otras formas de tecnologías algorítmicas están siendo movilizadas para crear más y más espacios precarizados, mientras usamos el lenguaje de la “racionalización”, “reducción de escala”, “escasez necesaria”, etc.

En relación a la pregunta anterior, usted critica gran parte del arte IA por ser una mera fachada para intereses corporativos y estrategias de comercialización. Al mismo tiempo, resalta el poder crítico de algunas otras obras de arte IA. Parafraseando las reflexiones de Trevor Paglen sobre el tema, ¿cuáles piensa que son las nuevas estrategias que definen el potencial crítico del arte en la era de la visión artificial? ¿Cree que necesitamos una nueva noción de emancipación más adecuada a un marco post-humanista? ¿Y hasta qué punto puede un nuevo “arte crítico” contribuir a esta nueva forma de emancipación?

Como dije anteriormente, el tipo de arte IA que sólo se aprecia por su belleza no es algo que me interese demasiado. Más bien prefiero andar detrás, tanto como creadora como espectadora, de las formas de arte que ofrecen algo más: una apertura al mundo, un compromiso con él, y una trayectoria hacia la emancipación y la libertad. Así que no se trata de estetizar la crisis climática, el coronavirus, la extinción humana, o el fin del mundo, sino de crear espacios de interrupción. Este tipo de arte debe seguir teniendo una función estética, debe tocarnos y potencialmente abrirnos hacia una transformación (sin garantías previas). Pero también creo en lo que llamo en el libro una función “parergonal” del arte, en la que el marco, aquello que lo sostiene, se vuelve importante. Esto incluye todas las actividades que acompañan a la obra de arte: la reseña en el muro, las discusiones, los paneles, las intervenciones fuera de los espacios de la galería, las actividades educativas (dentro y fuera de la universidad), las actividades editoriales como las revistas, y todo tipo de espacios híbridos donde estas cosas suceden. Para mí el arte es interesante cuando existe dentro de este modelo distribuido con todas estas otras actividades. Y el arte en sí mismo puede convertirse en un disparador de discusiones. Pero también puede convertirse en algo más: una forma de emancipación o incluso un “llamado a las armas”.

¿Pero qué hay de la noción de emancipación en sí misma? En la Modernidad, la emancipación fue conectada a temas como la autonomía, consciencia de sí, libertad humana. ¿Siente que necesitamos alejarnos de aquello y acercarnos a una definición más ecológica de la emancipación?

Absolutamente. Ecológica y contextual. No abogaría por la emancipación como un motor hacia la restauración de una unidad original y egocéntrica de lo humano, o como un retorno a la pureza de una forma de ser original. Ya hemos establecido que no existe tal cosa. Se trata más bien de una cuestión de libertad respecto de ciertas formas del algoritmo y del aparato que son demasiado constrictivas. Esto implica moverse hacia otras formas de creatividad que puedan poner en marcha cierta forma de cambio beneficioso en el mundo. Y beneficioso no sólo para el humano, sino para el medio ambiente y las múltiples relaciones en él, donde el humano no es necesariamente la especie determinante o definitoria. Obviamente no todas las formas de relaciones nos convienen, y siempre habrá conflictos de composición: lo que yo quiero es diferente de lo que quieren los peces y de lo que quiere el cáncer. Podemos estar de acuerdo respecto de algunas voluntades; otras tendrán que ser impugnadas (yo y el Coronavirus, yo y el cáncer, por ejemplo). Pero hay un reconocimiento de que siempre estamos en una red, en un sistema. Por lo tanto, necesitamos una noción de libertad “respecto de” ciertas constricciones, pero también una idea de libertad “hacia” algo, una libertad para desarrollar y establecer relaciones más productivas (menos en un sentido económico y más en un sentido spinoziano, entendiendo por productividad la potencia) con un número de especies, grupos y entidades diferentes. Averiguar la cualidad de la composición de esas relaciones a lo largo del espectro evolutivo debe permanecer como una tarea ético-política (interminable) para nosotros los humanos.