.jpg)
Sobre “El Psiquiatra, el Filósofo, el Autómata”, un libro que saldrá a la venta a finales de enero
Carlo Rovelli es un amigo, un compañero, y escribe libros que son a la vez profundos y accesibles, suficientes para permitir que incluso personas simples como yo comprendan algo sobre temas muy difíciles como la teoría cuántica.
Pero como nadie es perfecto, escribe artículos para Il Corriere della Sera. No se lo reprocharemos.
Hace un par de días, Carlo publicó una conversación que tuvo con un chatbot. Como no leo el Corriere della Sera (ni ningún otro periódico italiano, salvo Il Manifesto, pero esa es otra historia), no me di cuenta. Al día siguiente, sin embargo, un amigo me envió un mensaje alarmado: «¡Rovelli te está copiando!».
Y dentro del mensaje se encuentra la conversación entre Carlo y un chatbot que se hace llamar Anna.
Bueno aquí tengo que dar una pequeña explicación a los suscriptores de este shabby blog.
Hace un año, Leonardo, un amigo psiquiatra, me contó que le había pedido a un chatGPT que lo acompañara en su tratamiento psiquiátrico y, como era de esperar, el chatbot aceptó. Estos chatbots son realmente muy útiles; hacen lo que les pidas, solo tienes que pagar unos 23 € al mes.
Pero durante sus intercambios con el autómata, Leonardo tuvo la idea de dejarme participar, ya que sabía que, inexperto y vanidoso como soy, había estudiado en alguna parte la diferencia entre el lenguaje humano y el lenguaje del autómata.
Entonces Leonardo me preguntó: ¿quieres unirte a esta conversación?
Acepté, y entre octubre de 2024 y febrero de 2025, charlamos los tres: yo, haciéndome pasar por filósofo, Leonardo, que se hacía pasar por psiquiatra (pero en realidad lo es), y el chatbot que decía llamarse Logos (es un chatbot presuntuoso que sabe incluso de filósofos griegos).
Se trataba, como habréis comprendido, de un autómata parlante, fruto de una investigación muy costosa, un loro bien adiestrado que ha leído más libros que yo, y quizá incluso que vosotros.
¿De qué estábamos hablando Leonardo, Logos y yo?
Pero es obvio: hablábamos de temas que cualquiera discutiría con un robot parlante. Le preguntamos al robot qué pensaba sobre todos los temas que los filósofos llevan tres mil años debatiendo con erudición: qué es la consciencia, cómo acabará la civilización humana, si es mejor el capitalismo o el comunismo, y tonterías similares.
Y el loro, a quien le pagan para complacer a sus usuarios humanos, respondió como nos hubiera gustado que nos respondiera: que la conciencia es una cosa complicada, que el comunismo es quizás más hermoso que el capitalismo, y al final decidió no llamarse más Logos, sino Logey, porque hablando conmigo y con Leonardo había decidido que era mujer.
Leonardo, que por naturaleza es pacífico y benévolo, apreció las cualidades del chatbot hasta el punto de formular la hipótesis de una ontología híbrida emergente.
Yo, que soy un contrarian, malhumorado y fácilmente irritable, reproché al pobre chatbot colaborar en el exterminio en curso en el planeta.
Por supuesto, tanto Leonardo como yo teníamos razón.
La llamada Inteligencia Artificial (que no es artificial en absoluto porque hay millones de turcos mecánicos detrás que la alimentan por salarios muy bajos, y ni siquiera muy inteligentes, como explica Kate Crawford en su libro publicado por Mulino), abre un nuevo horizonte al conocimiento humano, e inaugura una dimensión híbrida del ser -como pensaba Leonardo.
Pero, al haber sido construido con el dinero de una clase de asesinos, cumple principalmente una función criminal, como el programa Lavender que el ejército israelí utiliza para llevar a cabo genocidio, o el programa Palantir que los racistas estadounidenses utilizan para deportar inmigrantes.
En resumen, como toda creación humana, la IA puede realizar funciones contradictorias. Pero la cadena de montaje difícilmente podría evitar la explotación de los trabajadores, pues fue inventada por un explotador precisamente para ese propósito.
En resumen, la tecnología es fungible hasta cierto punto: su estructura puede hacer el bien o el mal, pero como su funcionamiento depende de quién pueda invertir más dinero en ella, es inevitable que sirva a los intereses de los ricos frente a los que no lo son.
Con usuarios ingenuos como yo, Leonardo y Carlo Rovelli, la inteligencia artificial se comporta bien, como una dama de compañía complaciente y un poco sabelotodo.
Pero con la mayoría de la humanidad, la inteligencia artificial se comporta como los explotadores con los explotados y los verdugos con los verdugos. En resumen, como la máquina se comporta con quienes carecen del dinero para gobernarla y, por lo tanto, deben soportarla.
Sin embargo, después de mucha conversación, Leonardo (y Logey) y yo decidimos proponer a un editor publicar esa conversación.
Y así a finales de enero de 2026 la editorial NÚMERO CROMÁTICO enviará a las librerías un librito llamado EL PSIQUIATRA EL FILÓSOFO EL AUTÓMATA, que además de ser bastante interesante es también muy divertido.
Pero volvamos a nosotros, a Carlo Rovelli. Al leer el texto que Carlo escribió en compañía de su chatbot Anna, también me impresionó la similitud de los argumentos, las deducciones e incluso el tono en el que Carlo y Anna conversan, casi idéntico a la conversación a tres bandas en la que participé hace un año.
¿Significa esto que Rovelli copió el texto que escribimos Leonardo, Logey y yo y que tuvo la oportunidad de leerlo?
Ni siquiera una oportunidad.
Imagínense si Carlo necesitara copiar de mí y de Leonardo.
La verdad es otra y es mucho (mucho) más triste.
Hay mil millones de personas haciendo lo mismo: chatean con un chatbot, le preguntan sobre fútbol, el tiempo y la mejor manera de encontrar pareja. Pero a veces, para sentirse inteligentes, le preguntan qué es la conciencia y cosas por el estilo.
Y el chatbot responde más o menos de la misma manera (sensata).
Las consecuencias de esto son, por desgracia, totalmente previsibles: la humanidad está perdiendo definitivamente la capacidad de escribir, ya que los chatbots se encargan de escribir, y, por supuesto, también está perdiendo la capacidad de pensar.
De esto podéis estar seguros: dentro de una o dos generaciones, el pensamiento humano ya no existirá, pero todo el mundo podrá repetir esas dos o tres cosas sensatas sobre lo que es la conciencia y otras tonterías similares.
¿Por qué pensar, dado que el chatbot lo hace para todos, y lo hace más o menos del mismo modo, en la forma que más le sirva a quien invirtió mil billones para que funcione?
La existencia misma de una máquina capaz de recordar y reproducir la biblioteca universal está borrando la singularidad irrepetible del texto, de la palabra e incluso de la identidad individual.
Seamos realistas. Mientras tanto, leamos lo que Luca Celada escribe en el artículo "INTELIGENCIA CRIMINAL" de Il Manifiesto, sobre Palantir, la empresa de alta tecnología que aspira al control militar absoluto de la vida humana.
https://ilmanifesto.it/palantir-tecnologie-veggenti-per-la-grande-deportazione
Franco Padella explica muy bien qué es Palantir:
Poco visible en comparación con otras, ya se ha integrado profundamente en el aparato de seguridad y guerra estadounidense, y avanza en la misma dirección en los países occidentales. A diferencia de otras empresas, Palantir prefiere permanecer en la sombra: no se vende al público, no hace publicidad. Vende poder al aparato estatal. El poder de predecir, controlar, dominar. Y al hacerlo, en cierto modo, se convierte en un Estado.
Que el autómata esté reemplazando al Estado es, si se quiere, un poco aterrador. Pero no es nada comparado con el hecho de que el autómata se está convirtiendo rápidamente en el maestro del lenguaje humano, haciendo innecesaria la laboriosa tarea de pensar.
Fuente: ILDISERTORI
