Sadin, Éric. (2020). La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical. Buenos Aires: Caja Negra Editora.
Rui Alexandre Grácio [2024]
«La inteligencia artificial no constituye una innovación más entre otras, sino que representa más bien un "principio técnico universal" basado sobre una misma sistémica: el análisis robotizado - generalmente operado en tiempo real - de situaciones de diverso orden, la formulación instantánea de ecuaciones, supuestamente las más acordes, y en general con vistas a emprender las acciones adecuadas correspondientes, sea por medio de intervenciones humanas o de modo autónomo por los sistemas mismos.» p. 20
«En los hechos, lo que caracteriza lo exponencial es que vuelve marginal (y aniquila a largo plazo) el tiempo humano de la comprensión y de la reflexión, privando a los individuos y a las sociedades de su derecho a evaluar los fenómenos y de dar testimonio (o no) de su consentimiento, en síntesis, de su derecho de decidir libremente el curso de sus destinos.» p. 24
«El devenir de lo digital, q u e pronto será predominante, se erige como una instancia de orientación de los comportamientos destinada en todo momento a ofrecer marcos de existencia individual y co lectivos que se suponen los mejor administrados, y esto ocurre de modo fluido, casi imperceptible, hasta tomar el aspecto de un nuevo orden de cosas.
Esta es la razón por la cual el tecnoliberalismo hace de las tecnologías de la aletheia su principal caballito de batalla, viendo en ellas la consumación perfecta de sus ambiciones hegemónicas gracias a la emergencia de una "mano invisible automatizada", de un mundo regido bajo el régimen de la retroalimentación, del feedback, una data driven society en donde cada cosa que ocurre en lo real se ve sometida a una serie de operaciones con vistas a asumir la inflexión justa según criterios definidos con precisión.» pp. 32-33
«En realidad, el principio de una inteligencia computacional modelada sobre nuestra inteligencia humana es erróneo, porque una y otra no mantienen casi ninguna relación de similitud.» p. 35
«Por todas estas razones es imperativo no otorgar a estas lógicas el monopolio de la racionalidad, y hacer valer, contra un modo de racionalidad normativo que promete una supuesta perfección en todas las cosas, modos de racionalidad basados en la aceptación de la pluralidad de los seres y la incertidumbre fundamental de la vida. Tendremos que vivir un conflicto de racionalidades en la medida en que cada una de ellas compromete valores y determina modalidades de existencia opuestas en todos los puntos. Esta debe ser una de las luchas políticas principales de nuestro tiempo.» p. 37
«Los imaginarios actuales condicionan la posibilidad de erigir modos de vida que se resignen, sin resentimiento, a la imperfección fundamental de la existencia y que celebren la diversidad de los seres, la autonomía de la voluntad, nuestra aprehensión multisensorial de lo real, a la vez que busquen construir modos de ser en común que no hieran a nadie.» p. 43
«(…) contribuye a generalizar un modo de racionalidad específico basado sobre la destinación utilitarista y lucrativa de cada secuencia de la vida y que luego se calca sobre una sustancia orgánica que la inscribiría en un "orden natural de las cosas". No solamente la técnica no es neutral -¡qué buen chiste!- ni depende de nuestros usos -¡qué ficción tan llena de perspectivas de "reapropiación positiva"!-, sino que constituye, como n u n ca antes en su devenir mayoritario, el soporte de esquemas organizacionales que, bajo la máscara de léxicos pomposos, están llamados a regir la sociedad según una eficiencia que aumenta sin descanso gracias a la facultad de autoaprendizaje de la que están dotados sistemas alimentados con "principios educativos" y destinados, no lo dudemos (y sobre todo si están impregnados de "reglas éticas" definidas por el mundo social liberal), a administrar cada vez mejor los asuntos humanos.» p. 70
«Así es como surgen interfaces llamadas "conversacionales". Pero sería de una gran ingenuidad interpretar la expresión al pie de la letra y pensar que estaríamos ante "conversaciones", porque las conversaciones usualmente ponen en relación a distintos seres humanos que realizan intercambios entre sí con diferentes finalidades. Se trata de un abuso del lenguaje en la medida en que el análisis en tiempo real de las palabras formuladas por las personas y su memorización no se opera sino con vistas a responder a objetivos estrictamente comerciales o utilitaristas y que lo único que busca, bajo la apariencia de ser conversaciones de tonalidad familiar, es reemplazar el sentido por la signal, de alguna manera. Esta osamenta representa la base de lo que se denomina "comercio conversacional" garantizado por bots que "perseveran sin descanso en su ser" para recomendar a la perfección una película, un restaurante o ciertos productos en función de los perfiles de cada uno de nosotros y de las circunstancias, llegando hasta poder encargarse ellos mismos de proceder a ciertas transacciones.» p. 108
«Por obra y gracia de la inteligencia artificial emerge una vida imperceptible y literalmente puesta bajo tutela.» p. 111
«De ahora en más, esperamos de los procesadores que nos gobiernen con maestría, que nos liberen del fardo que soportamos desde el alba de los tiempos y que sin embargo constituía hasta hace poco la sal de la vida y nuestra relación con el mundo: el hecho de tener que pronunciarnos a cada instante y generar un compromiso; en síntesis, el hecho de poner en juego nuestra responsabilidad.» p. 112
«Lo que caracteriza a estas tecnologías de divulgación de la verdad es que evacúan la ambigüedad propia de toda situación, de las relaciones humanas y del lenguaje. Hay una riqueza de la ambigüedad que nos permite componer con otros y lo real sin quedarnos con una sola opción que sea excluyente de todas las restantes. La ambigüedad representa un reservorio inagotable de posibles y de inventiva. Y es precisamente lo que pretende ser erradicado por lo que Schopenhauer identificó como un conformismo social hábil en "el arte de producir la apariencia de la verdad". Usualmente, la sociedad extrae su vitalidad de La profusión irreductible de las subjetividades, de la pluralidad necesariamente contradictoria de los intereses, del imperativo de la negociación continua, dando testimonio del derecho equivalente todos nosotros para hacer valer la propia singularidad, condicionando la supervivencia de todo conjunto común digno y viable.» pp. 121-122
«No se trata de saber cuáles son los criterios que se ponen en práctica, o de alarmarse continuamente por los matices que afectarían los resultados, sino de decretar, desde la base, que a partir del momento mismo en que aparecen protocolos que nos privan de nuestro poder de juicio y decisión, sustituyendo nuestra conciencia y nuestra libertad de acción, estos protocolos deben ser considerados como algo que no debemos aceptar. En otros términos: depende de nuestra responsabilidad frente a nuestra herencia humanista utilizar nuestro derecho a bloquear, donde sea que estemos, los mecanismos que trabajan para imponer, en todas las escalas de nuestras existencias, un orden unilateral e infundado de las cosas. A eso lo podemos denominar una ética en acto de nuestras convicciones o una saludable puesta en práctica de una política de legítima defensa.» p. 124
«Es un hecho asumido. Si existe un campo que por si solo legitima la existencia de la inteligencia artificial, al que no dudamos que va a beneficiar con todo su poder, y del cual todos finalmente vamos a sacar provecho, ese campo es el de la medicina.» p. 125
«Todavía existe una forma de borramiento de la esencia de nosotros mismos en la erradicación de ciertas dimensiones inherentes a la sociabilidad. Hay operaciones automatizadas que sustituyen el contacto, la acción llevada adelante en común, y todo esto implica la abolición progresiva del intercambio, de la relación entre los seres humanos y consecuentemente la abolición del acuerdo, del desacuerdo, del conflicto, de la negociación y sí, de la amistad. En síntesis: de la sociabilidad basada en la sumatoria de todas las subjetividades que nos obliga a dar pruebas de comunidad y a apelar a nuestra inteligencia compartida.» p. 177
«El dogma de la "mano invisible", que hoy habría alcanzado un estadio automatizado, toma ahora la forma de una verdad instituida. Trabajaría perpetuamente para el interés de todos y cada uno de nosotros, y nos hace entrar en el mejor de los mundos posibles o en un "paraíso artificial” llamado a imponerse a todo instante.» p. 202
«La digitalización creciente de la sociedad se acompaña de la digitalizadón de las administranones,» p. 207
«Si lo vemos desde más cerca, los axiomas de la "transformación digital de las administraciones", del "Estado plataforma" y de la smart city implican un cambio en el estatuto de los ciudadanos. Hasta ahora considerados como sujetados por derechos y deberes en el seno de un orden común, se convierten en usuarios con el derecho de beneficiarse de las mejores ofertas - como los consumidores -, conforme a un espíritu que procede, por cierto, de las lógicas mercantiles pero que, antes que nada, de un alineamiento sobre las lógicas de la satisfacción. La política se reduce desde hace poco tiempo a garantizar la satisfacción de tos ciudadanos.» p. 210
«Lo que se quiere aniquilar es nuestra voluntad pertinaz de edificar otros modos de existencia. La automatización firma la renuncia del principio de esperanza, el que desde la noche de los tiempos llama a no solamente conformamos con lo existente sino a seguir buscando, dentro del riesgo y la incertidumbre, para dar curso a nuestras aspiraciones más inesperadas y más audaces gracias al poder transformador, saludable y jubiloso de la acción humana.» p. 215
«La industria de lo digital debía desplegar ahora una ciencia del cronos, esforzándose por estar presente en toda la línea del tiempo de nuestras existencias, para lo que tenia entonces que dotarse de medios que permiten, en cada circunstancia, presentarse como la única entidad capaz de garantizar, y esto mejor que nosotros mismos y que cualquiera, el buen avance de nuestros asuntos. Y a dicho efecto, es imperativo cultivar un sentido agudo de la oportunidad (kairos), saber anticipar, antes que cualquiera, las aspiraciones dichas o no, reales o simuladas, de las personas, y entonces responder perfectamente a ellas. En otros términos, debía erigirse como un maestro en el arte del kairos.» pp. 239-240
«Seria momento de dejar de acordar crédito al transhumanismo, a este fenómeno sensacionalista cuyo alcance está demasiado sobreestimado, y de entender que lo que se instaura es más bien otra humanidad, no una "posthumanidad'' sino una humanidad maternizada, incubada, teleguiada desde servidores, que nos muestra ta irrupción solapada de una regresión civilizatoria.» p. 242-243
«Lo que hace singular al poder-kairos es que es polimorfo y adaptativo y que no pretende restringirse a un registro limitado de funciones, sino que pretende responder a todas las circunstancias de la vida.» p. 244
«Vivimos el momento de la abolición, a gran velocidad, de toda distancia con lo real,» p. 254
«Lo que se juega es la negación de nuestra vulnerabilidad, esa fragilidad constitutiva de nuestra humanidad que le hace decir a Aristóteles que "una vida tan vulnerable, sin embargo, es la mejor",13 la vulnerabilidad que nos lleva a ir incesantemente por delante de la vida y sus caprichos, llevándonos a aprender a componer con el flujo de los acontecimientos, a liberarnos de la mera necesidad para erigimos como seres activos que se valen de todos los poderes de nuestra sensibilidad y nuestro entendimiento.» p. 256
«Defender lo real se convierte en el nuevo nombre singular de la principal lucha política de nuestro tiempo.» p. 258
«(…) la técnica, al encuadrar más que nunca la forma de nuestras existencias individuales y colectivas, implica de facto valores.» p. 280
«En oposición a una racionalidad que se aplica a hacer de cada hecho y cada gesto el objeto de una transacción mercantil, y a desplazar indefinidamente los límites del mercado, pretendemos ubicar nuestras existencias al abrigo de estas ambiciones totalizadoras y, más todavía, pretendemos desplazar el acto de consumo desde el centro hacia la periferia, y no recurrir a él a menos que sea necesario.
En oposición a una racionalidad que pretende erradicar todo desorden, luchar contra la entropía y asentar un dominio cada vez más extendido sobre el curso de las cosas, sostenemos que son las imperfecciones de la vida (que nunca se resuelven de una vez por todas) las que estimulan nuestro deseo de realizarnos y trabajar sin descanso pata la construcción de un mundo común que se base en el axioma cardinal de no dañar a nadie.
En oposición a una racionalidad que concibe lo humano como henchido de defectos y cuenta con paliarlos en favor de máquinas infalibles y todavía más productivas, que hacen de nosotros seres "superfluos" (Hannah Arendt), celebramos los poderes virtualmente infinitos de cada ser humano, y queremos obrar para que todos podamos beneficiamos de las mejores condiciones que presiden su eclosión y expresión.
En oposición a una racionalidad que genera una furia " innovadora" que converge en la extensión de su imperio y contribuye a la instauración de un utilitarismo generalizado, nos negamos a contar permanentemente con una ganancia en nuestras relaciones con lo real y los demás, ya que cultivamos los poderes de nuestra inventiva en vistas a experimentar múltiples modos de existencia que participen de nuestra plenitud individual y colectiva.
En oposición a una racionalidad que tiene la ambición, en toda circunstancia, de secundarnos, de anticipar nuestros deseos, de instituir una asistencia algorítmica de nuestras vidas cotidianas, hacemos nuestra la fórmula de Kant -"ten el coraje de valerte de tu propio entendimiento" (sapere ande)- para llevar adelante nuestros asuntos, porque contamos con darnos a nosotros mismos (auíos) nuestra ley (nomos), usar plenamente esa autonomía nuestra que funda el deber de responsabilidad, este imperativo que constituye el honor del género humano.
En oposición a una racionalidad siempre insatisfecha que, de modo neurótico, aspira continuamente a rectificar el curso de los acontecimientos o llevarlos a una condición supuestamente superior, vivimos el presente dentro de una forma saludable de conformidad, sin por ello renunciar a modificar el estado de las cosas sino con la única finalidad de contribuir a la salvaguarda de los valores que juzgamos fundamentales y la realización de nuestras aspiraciones más esenciales.
En oposición a una racionalidad que pretende ejercerse de modo exclusivo y liquidar consecuentemente lo político -esa posibilidad que una comunidad de destinos se da a sí misma para actuar concertadamente-, respondemos que es dentro de la pluralidad y la contradicción que entendemos que se define libremente el curso de los asuntos públicos sin que este proyecto, por la fuerza de las cosas, pueda nunca terminarse.
En oposición a una racionalidad sostenida por un grupo restringido de personas que se afanan para decidir, ellas solas, una amplia parte del destino de la humanidad, nos remitimos al fenómeno del antropoceno, hoy objeto, con tanto retraso, de una desolación unánime y que en su origen no dependió sino de un puñado de individuos que impusieron el uso generalizado del carbón despreciando todas sus consecuencias, con el único objetivo de satisfacer su sed de sacar ganancias, siguiendo un proceso que fue analizado con precisión por Andreas Malm en su libro L'Anthropocéne contre l'histoire [El antropoceno contra la historia].
En oposición a una racionalidad indefinidamente insaciable que ambiciona desplazar todo límite con vistas a responder a sus apetitos de poder total, dando testimonio de una hybris que pone en peligro el equilibrio de los elementos, cultivamos las virtudes de la sobriedad y glorificamos la conciencia del límite, la que nos hace conformarnos con las riquezas inagotables de lo real y tener en cuenta la fragilidad de nuestro medio y las vulnerabilidades de todos.
En oposición a una racionalidad proyectada hacia un futuro fantaseado que pronto debería hacernos sentir la beatitud de los últimos fines, que procede de la negación de nuestros valores fundantes, que determina un camino trazado de antemano que pretende desde su base las virtualidades ofrecidas por el tiempo y la expresión de todas las subjetividades, y que llegó hasta forjar un término que ratifica en el lenguaje esta trayectoria -la disrupción-, afirmamos la grandeza de ciertos principios que nos llegan desde el pasado, a los cuales nos aferramos y que continuarán inspirando nuestros actos. Porque sabemos, junto con Simone Weil, que "el pasado destruido no vuelve más. La destrucción del pasado es quizás el principal crimen. Hoy, la conservación de lo poco que queda debería llegar a ser casi una idea fija”.2
En oposición a una racionalidad que se obstina en reducir todo elemento, o cada uno de nuestros gestos, a códigos, procediendo a un reduccionismo miserable que de ahora en más debe gobernar nuestras relaciones con lo real, contamos más que nunca con valemos de los poderes que ofrece nuestra sensibilidad, la única que puede ponernos plenamente en contacto con las palpitaciones más indefinibles de la vida. En oposición a una racionalidad que no acepta la incertidumbre y teme todo imprevisto, conocemos el poder creativo del azar -el cual, particularmente, condicionó nuestra llegada al mundo-, y adoramos las sorpresas de la vida, que hacen descarrilar la rutina cotidiana, contribuyendo a desvincularnos de nuestros hábitos y a ampliar el horizonte de nuestras experiencias. En oposición a una racionalidad que se alimenta con una velocidad histérica destinada a optimizar indefinidamente cada acontecimiento de lo real, preferimos avanzar al ritmo de una temporalidad que no apunta jamás a una finalidad, sino que opera de manera cíclica, porque es la única que vale, la que nos vincula con la escansión de los astros y vegetales que, dentro de una forma de sabiduría inmutable, no pueden nunca ofrecer otra cosa que lo que pueden en cada temporada.
En oposición a una racionalidad que usa enunciados preformateados, trabaja duro para empobrecer el lenguaje y hacer hablar a las máquinas con estrictos fines funcionales, sabemos que una lengua que busque nombrar las cosas con precisión trabaja dentro de una ieladón más rica con los otros y con lo real, y exaltamos todavía el juego con las palabras, hasta la ironía, permitiendo que se manifieste así nuestra irreductible singularidad en el centro de un legado común. En oposición a una racionalidad que espera de los sistemas que nos formulen la verdad, queremos mostrar la parresia - el término griego que designa el hecho de "decirlo todo", de atreverse a dar testimonio de los acontecimientos con coraje y dentro de una absoluta libertad de palabra- la que nos obliga a denunciar sin descanso esta racionalidad que procede de una negación de nosotros mismos e instituye a grandes pasos un antihumanismo radical al cual nos negamos en cuerpo y alma. Y a dicho título, decidimos defender a todos esos valores que nos son tan caros, movidos por nuestros modos de racionalidad plurales, rigurosos e inventivos, armados para volver a posicionar este modo de racionalidad en el lugar que se merece -en el margen extremo de nuestras existencias, lo más apartado posible de nuestras realidades-; a eso nos aplicamos con método y determinación.» p. 281-285
«Este asalto antihumanista podrá ser jaqueado a todas las escalas de nuestras vidas individuales y colectivas a través de una multitud de gestos concretos, sostenidos y acumulados, la verborragia incesante que afirma que esta trayectoria es ineluctable se deriva de la mera ideología, porque nunca pasó en la historia que un movimiento que ultraja la dignidad humana se desarrolle indefinidamente sin verse un día u otro rechazado por corrientes opuestas. Y porque toda resolución, incluso la más determinada, sigue siendo relativa, y finalmente bastante triste, si no procede sino de modo negativo, pretendemos también afirmar nuestro poder de positividad, dar testimonio de nuestras capacidades para hacer florecer otros modos de existencia y de ser en común que sean plurales, creativos y gozosos, porque es precisamente de esta doble tensión que extraemos nuestras fuerzas y, más todavía, los motivos de nuestras esperanzas.» pp. 298-299
Última atualização em 9 de abril de 2025