Tenemos que enseñar a las chicas a estar orgullosas de sus mamadas

 

 Por Nuria Alabao   

      Periodista y doctora en Antropología Social. Investigadora especializada en el tratamiento de las cuestiones de género en las nuevas extremas derechas.

Para hacer frente a los ‘deep fakes’, las imágenes robadas y el control social de la sexualidad femenina, tenemos que desactivar la vergüenza que opera como mecanismo de disciplinamiento

Detalle del cuadro ‘Mujer joven riendo con un medallón’ (Gerard van Honthorst, 1625).

     Los cambios en la tecnología y el desarrollo acelerado de la inteligencia artificial están dando lugar a eso que hemos nombrado como violencia digital. En un espejo deformado de lo que supone la violencia offline, las posibilidades en internet se multiplican y aparecen formas nuevas de hacer daño: se crean o difunden contenidos que exponen a las personas sin su consentimiento. Desde la difusión de imágenes sexuales privadas hasta los deep fakes –fotos que desnudan o sexualizan a personas mediante IA– o la instalación de cámaras ocultas en habitaciones de hotel. Todo puede ser contenido. Todo puede, además, monetizarse.

El uso de la IA es muy significativo, ya que de cualquier imagen posible –por primera vez el límite es solo nuestra imaginación–, ¿cuáles son las que parecen adaptarse mejor al dispositivo de viralización? La sexualización –sobre todo de las mujeres– aparentemente captura la libido creativa de las masas, ya que en este nuevo paisaje digital se imprimen las relaciones de poder existentes. ¿Por qué a tantos varones la falta de consentimiento no solo no les genera rechazo, sino que les produce excitación?, se pregunta la influencer OnlineMami. ¿Acaso es un motivo añadido para crearlas, un extra que aporta el placer de la transgresión?

Estas nuevas formas de agresión generan interrogantes de todo tipo. Algunos tienen que ver con cómo obligar a las empresas tecnológicas a rendir cuentas por el contenido que generan o difunden. Una línea de trabajo feminista sería cómo hacer responsables a los que crean estas imágenes para tratar de frenar su proliferación. Pero otra que no podemos olvidar tiene que ver con minimizar el daño que producen. ¿Por qué deberíamos avergonzarnos de una imagen sintética, de un desnudo falso que tiene nuestra cara? Y en realidad ¿por qué debería avergonzarnos ninguna imagen sexual, sea o no falsa?

La vergüenza como control social

Cuando una imagen sexual de una chica circula sin su permiso, se activa un mecanismo de control social. Si son imágenes reales, se la puede llegar a culpabilizar: “Si no querías que circulasen, ¿por qué las grabaste?” El segundo mecanismo es clasificatorio: “Es una guarra, mira lo que hace”. “No es una mujer de alto valor”, que se diría en la manosfera.

La actriz Ángela Molina en el anuncio para la campaña institucional ‘Mujeres de alto valor’.

En cualquier caso, da igual que la imagen sea real o fabricada, parece que hay algo en esas imágenes que es inherentemente humillante o bochornoso. Y si esto se ha tranformado en las últimas décadas –o desde más atrás– ha sido precisamente gracias al trabajo de los feminismos que han luchado para liberar la sexualidad femenina de este mecanismo de control. Pero si sigue dañando más a quien aparece en la imagen que a quien la difunde, quiere decir que todavía queda mucho por hacer.

El mensaje implícito es disciplinario: no hagáis esas cosas o actuad de manera que nadie crea que sois capaces de hacerlas. La sexualidad femenina se ha regulado tradicionalmente a través de mecanismos coercitivos, pero también mediante la culpa, por sentirse sucia, “fácil” o indigna por desear. Muchas mujeres limitaban o silenciaban sus deseos para no exponerse a la deshonra social. Si aunque hoy somos mucho más libres en nuestra sexualidad, sobre todo las más jóvenes, los restos de esta moral siguen funcionando a través de la amenaza de exposición pública. Los consejos de los padres a sus hijas ahora son: no os hagáis fotos, no las enviéis. 

La “virtud” y la “castidad” se han impuesto históricamente como condiciones de valor social para las mujeres, ya que su honor y el de sus familias dependían de la vigilancia sobre su sexualidad. Este dispositivo funcionaba como mecanismo para regular la circulación de mujeres y de herencias, ligando el control de la sexualidad femenina al orden económico y familiar. Evidentemente, este ideal de pureza no se aplicaba a los hombres, y ese doble estándar parece que todavía persiste. Ya sabemos que el deseo femenino ha sido históricamente regulado para que se presente como pasivo –somos las “que consienten o no” según el marco político que ha operado estos últimos años en los discursos públicos–. Mientras tanto, el deseo masculino se representa como legítimo y activo. No se concibe que ellos puedan no desearlo y nosotras sí. De ahí que la vergüenza opere solo en una dirección y los hombres cuyas imágenes sexuales circulan no suelen sentirse mal, o no tan mal.

Aunque hoy ya no hablamos de castidad, la lógica de la pureza persiste en nuevos formatos: el slut-shaming en redes sociales, la cultura del consentimiento en clave moralizante –mujeres “responsables” que eviten situaciones que las “pongan en riesgo”–, o marcos que reproducen la dicotomía entre “víctimas” dignas y mujeres “culpables” –las que no se ajustan a la norma–. Algunos de estos marcos además, pueden venir de sectores del propio feminismo, por ejemplo en las representaciones que se hacen de las trabajadoras sexuales como siempre violadas, porque su consentimiento no es tenido en cuenta. ¿Acaso son entonces víctimas voluntarias?

Somos malas, podríamos ser peores

Virginie Despentes ha trabajado esta cuestión de la vergüenza desde un feminismo de liberación sexual. De vez en cuando hay que volver a esta autora, sobre todo en tiempos donde el conservadurismo sexual vuelve a emerger desde los lugares más insospechados, incluso desde ciertos feminismos que representan la sexualidad femenina heterosexual como un campo ajeno, lugar donde solo nos espera dolor o donde solo podemos estar al servicio de los hombres: el poliamor es para los hombres, afirmarse en la sexualidad libre es neoliberal, el sexo ocasional no es placentero, dicen.

Reivindicación del poliamor en el Orgullo de Bruselas de 2015.

Despentes nos abre una ventana y por ella entra luz. “Tenemos que enseñar a las chicas a estar orgullosas de sus mamadas”, dice en Teoría King Kong.

“Me llama la atención, en primer lugar, que en las redes sociales sea posible avergonzar a una chica por chupar una polla. Y también que nosotros, como adultos, no nos hayamos sentido llamados a decir que chupar pollas es guay. Que siga siendo algo vergonzoso para una chica ser vista chupando pollas me parece increíble y creo que esto se puede cambiar. Si te apetece chuparlas, es un buen gesto. El mundo te debe gratitud”, dice en una entrevista de Patricia Reguero.

La lucha entonces es contra los restos de la moral sexual burguesa que emerge una y otra vez, sobre todo en momentos de crisis epocal como la que habitamos. Esa moral establece una distinción entre mujeres “respetables” y mujeres “degradadas”. La prostituta, la mujer promiscua o la “chica que chupa pollas” encarnan figuras de exclusión, necesarias para sostener la respetabilidad de las demás.

“La gran ausente de los discursos de la última década es la chica que se comporta mal, la chica que chupa pollas, la chica fácil, la chica que quiere mucho sexo, la chica calentona. Esta que es un poco la chica de la que habla Itziar Ziga en Devenir perra.

Es necesaria una crítica de la pornografía y de determinados tipos de prostitución pero al mismo tiempo tenemos que establecer discursos que defiendan a las chicas realmente malas, y esas son las chicas que follan mucho o como quieren”, dice en una entrevista de Ana Requena. Pero estos últimos años, en nuestra lucha contra las violencias sexuales, parece que sin querer hemos llegado a potenciar esa imagen de pasividad más adaptada a la imagen de víctima, en oposición a nuestra propia liberación. Reivindicar el derecho de las mujeres a decidir sobre sus prácticas sexuales y a hablar de ellas sin vergüenza –incluidas aquellas consideradas vulgares o degradantes– impugna esa distribución desigual de legitimidad entre hombres y mujeres a la hora de acceder a la sexualidad en igualdad.

Esta no es una celebración ingenua del sexo como ámbito libre de relaciones de poder: en su propia experiencia con la violación, relatada en Teoría King Kong, Despentes reconoce cómo la violencia sexual estructura la relación entre mujeres y deseo. Su defensa de la libertad sexual va siempre acompañada de una crítica al sistema que naturaliza esa violencia. No se trata entonces únicamente de reclamar poder hacer “lo que queramos”, sino de transformar los marcos estructurales que convierten a las mujeres en vulnerables a la violencia y a la estigmatización. Y esa es una lucha paralela y necesaria.

La sacralización del sexo como trampa política

De manera que en nuestra propia práctica feminista aparece esta paradoja: cuanto más sacralizamos la sexualidad –cuanto más la tratamos como un terreno excepcional, intocable, donde se juega lo más íntimo de una persona–, más difícil le resulta a una mujer sobrevivir a la exposición pública no deseada o a otras violencias. Si que circule una imagen sexual es horrible y va a dañarte irremediablemente, entonces es también un arma tremendamente eficaz. 

Pero el daño no está en la imagen en sí sino en la mirada social que la degrada, de manera que el mensaje también podría ser: y qué si se difunde, no has hecho nada malo. En general no hay nada inherentemente denigrante en ninguna de estas imágenes. También es cierto que la práctica cotidiana es más complicada. Por ejemplo, cuando una chica de quince años llega a casa y sabe que medio instituto ha visto una imagen suya –real o fabricada, da igual– y que mañana tendrá que volver a cruzar ese pasillo. En ese momento, decirle que no ha hecho nada malo es necesario, pero quizás no basta, porque todavía operamos en el presente y es cierto que el entorno que castiga de forma injusta no se desmonta mágicamente. El sufrimiento es real. La estructura que lo produce es la que hay que desmontar.

Por tanto, además de transformar la cultura, hay otras tareas pendientes. Lo primero, insistimos, es tratar de evitar que estas violencias se sigan reproduciendo, y dejen de tener consecuencias negativas para las mujeres –por ejemplo, en algunos casos pueden despedirte del trabajo o tener otras consecuencias indeseadas–. Al mismo tiempo, hay que frenar la circulación de estas imágenes. Negarse a enviarlas, a compartirlas y señalar a quienes las difunden. Y esto no es solo cosa de chicos: también las chicas comparten, también las chicas hacen slut-shaming o reproducen la lógica que las daña. Que la vergüenza cambie de bando significa que el estigma recaiga sobre quien difunde una imagen con intención de humillar o de anular a otra persona, no sobre quien aparece en ella. 

Otra tarea necesaria, por supuesto, es estar al lado de las que las sufren y hacerlas sentir que cuentan con nuestro respaldo. Deberíamos acompañar sin minimizar su dolor pero también tratando de no reproducir los marcos moralizantes que la dañan. El objetivo es confrontar las estructuras que posibilitan –material y simbólicamente– la apropiación del cuerpo de las mujeres. Pero el trabajo es cotidiano y ordinario. Cuando una adolescente descubre que se está difundiendo una imagen suya haciendo una mamada y lo que siente no es rabia, sino culpa, sabemos que queda mucho por hacer. Lo primero será decirle que no está sola. Lo segundo, y sin titubear, es que no ha hecho nada mal. Que si le apetecía, bien hecho está.

Fuente: Ctxt

La máquina de los asesinatos en masa: Silicon Valley abraza la guerra

 

 Por Pablo Elorduy  

      Autor de 'El Estado Feroz' (Verso, 2024). En El Salto.

Las fantasías distópicas sobre los futuros usos de las máquinas en la guerra están más extendidas que el relato de lo que ya está pasando en los campos de batalla. La guerra a través de los algoritmos y la inteligencia artificial es una realidad y ha acabado con la vida de miles de personas en Gaza y en otros conflictos. Su regulación es casi testimonial.

     Blade Runner, 2001: una odisea en el espacio, Terminator, Matrix o Her recrearon en la gran pantalla uno de los terrores cervales de la humanidad: el del siniestro gólem, la criatura que se emancipa de su creador al que acaba aniquilando. Pero el riesgo más acuciante viene de algo tan viejo como la mezcla entre el poder militar, el interés económico y el oportunismo de los sistemas políticos cada vez más autoritarios. Esa mezcla tiene lugar en un contexto, el del capitalismo tardío, en el que los “riesgos catastróficos” de una hipotética emancipación de las máquinas se publicitan más que los efectos reales de este armamento, que ya ha sido usado por ejércitos como los de EE UU, Israel, Rusia, China o Turquía.

El 18 de febrero, una investigación publicada por Associated Press evidenciaba cómo se ha disparado el uso por parte del tzahal israelí de la tecnología de Microsoft y OpenAI. La investigación, basada en “documentos internos, datos y entrevistas exclusivas con funcionarios israelíes actuales y anteriores y empleados de la empresa” es la primera prueba de algo que se ha denunciado desde meses: el empleo del ejército de Israel de modelos de IA comerciales, como GPT, para cometer una masacre.

Imágenes tomadas con un dron muestran la destrucción en diferentes partes de la Franja de Gaza, 20 de enero de 2025. AP Video.

Los nombres de esos software con capacidad de matar a decenas de personas tras una sencilla operación pudieron ser los de otras producciones cinematográficas: Hasbora, Replicator, Hivemind. Los de las empresas que los crean y venden en el mercado del humo que es hoy la inteligencia artificial son algo más conocidos: Palantir, Anduril o Shield AI. Y no funcionarían, no al menos al tope de su capacidad, sin los datos aportados por las grandes de la tecnología, Google, Amazon, Microsoft, Meta u OpenAI, cada vez más seducidos por el ruido de sables digitales y subidos al proyecto cultural, económico y político que encarna el nuevo César americano, Donald Trump.

La conversación en el entorno del Pentágono sobre la IA Militar se ha centrado en las hipótesis de un posible uso malicioso a través de las armas CBRN: químicas, biológicas, radiológicas y nucleares.

La investigadora Jessica Dorsey no deja lugar a dudas: “La guerra es y seguirá siendo una iniciativa humana, incluso a medida que avance la tecnología”. Dorsey es profesora de la facultad de Derecho de la Universidad de Utrecht y codirige Realidades de la guerra algorítmica, un proyecto que investiga los usos teóricos de la tecnología y la práctica de la selección maquinal de objetivos militares.

Esta guerra de las máquinas es un factor cada vez más determinante en los conflictos armados, a través de algoritmos asesinos, de los temidos enjambres de drones, de sistemas de inteligencia y ciberseguridad, por medio del reconocimiento facial, o a través de amenazas para la guerra híbrida como los ataques cibernéticos o el uso de deepfake, métodos de suplantación digital. No se trata, por tanto, de si las máquinas se levantarán un día para poner su bota encima de la cara de la humanidad, sino de cómo se usan ya para librar guerras, violar libertades civiles y acallar a las poblaciones disidentes. Su uso extensivo por parte de las FDI israelí, que ya desde hace años alude a la IA como un "multiplicador de fuerza”, lanza un mensaje nítido al mundo: la máquina de los asesinatos en masa no es una hipótesis, sino una realidad capaz de cambiar la guerra y de acelerar el genocidio.

Realidades de la guerra algorítmica.

La ventaja de Estados Unidos y el uso masivo de Israel

Como siempre que se trata de guerra, el complejo militar estadounidense lleva ventaja tanto en el uso —las ejecuciones extrajudiciales mediante drones se remontan al mandato de Barack Obama en la primera década del siglo— como en los debates acerca de la funcionalidad de la inteligencia artificial en los conflictos. El paso desde lo que ya hacen a lo que harán en el futuro es pequeño, es lo que hace difícil, en la práctica, diferenciar entre guerra algorítmica y guerra a través de la IA. Hay quien habla de que la separación equivale a darle a un interruptor, como resume una frase que enunció el exdirector de la CIA, David Petraeus: “En algún momento, un humano dirá: ‘Está bien, máquina. Eres libre de actuar de acuerdo con el programa informático que establecimos para ti’, en lugar de pilotarlo de forma remota”.

Los drones y otras armas robotizadas todavía no toman decisiones propias, pero podrían hacerlo en un futuro cercano. En la foto, el dron Reape.

“La velocidad” en la toma de decisiones es uno de los principales problemas que expertos civiles y militares señalan como determinante en el uso y abuso de estas máquinas de guerra pensantes.

No obstante, como señala un informe del AI Now Institute, que investiga las implicaciones sociales y políticas de esta tecnología, la conversación en el entorno del Pentágono se ha centrado en las hipótesis de un posible uso malicioso a través de los sistemas llamados CBRN, que abordan el conjunto de armas con potencial de destrucción masiva como las químicas, biológicas, radiológicas y nucleares. Esas visiones, a menudo tecnofetichistas, que resaltan los aspectos más tenebrosos y fantasiosos de la inteligencia artificial, se imponen sobre el estudio de sus usos actuales, los llamados ISTAR: inteligencia, vigilancia, selección de objetivos y reconocimiento, cuyo funcionamiento no es objetivo de escrutinio público en gran medida porque aún se mantiene, casi siempre, a un humano “en el circuito” de la toma de decisiones. Sin embargo, cada vez más, las máquinas ofrecen a los humanos la capacidad de tomar más decisiones y más rápido a través del “uso militar informado de sistemas de apoyo a la toma de decisiones habilitados por IA (IA-DSS)”.

El uso de los drones ha sido masivo tanto en Ucrania como en Oriente Próximo. No solo en Gaza, donde la unidad de ciberguerra, la 8200 de las fuerzas armadas de Israel (FDI), ha reconocido el cribado de objetivos a través de IA, sino también en Siria o en Libia, las tecnologías autónomas o semiautónomas son capaces de seleccionar y matar, aportando un valor, el de “la velocidad” en la toma de decisiones, que es uno de los principales problemas que expertos civiles y militares señalan como determinante en el uso y abuso de estas máquinas de guerra pensantes. Esa velocidad significa también mayor número de errores.

Mortal e inminente la loca carrera del Pentágono por las armas de inteligencia artificial de Silicon Valley.

“La guerra autónoma aumenta el número de bajas humanas, incrementa enormemente el riesgo de que se ataquen objetivos incorrectos, pone a los civiles en peligro en mayor medida y aumenta la probabilidad de que el personal militar que confía en algoritmos para generar listas de objetivos experimente una sensación de desconexión emocional y moral del ataque que está aprobando”, destacaba en noviembre de 2024 el think tank Public Citizen.

Un año antes, en noviembre de 2023, una investigación de los medios palestino-israelíes +972 Mag y Local Call destapaba el uso del software Hasbora —literalmente “el Evangelio”— por parte de las FDI para la selección de objetivos en Gaza. El salto cuantitativo es relevante: si antes de la llegada de los algoritmos las FDI podían establecer un rango de 50 objetivos anuales, en la campaña de genocidio iniciada desde octubre de 2024, el volumen es de cien señalamientos diarios.

“Habría que cuestionar el papel de las empresas tecnológicas, no existe una verdadera rendición de cuentas democrática por su parte”, defiende Jessica Dorsey.

“El gran volumen de objetivos producidos aumenta la probabilidad de más ataques, en gran medida debido al sesgo de acción cognitiva”, señalan Dorsey y Marta Bo, investigadora del Instituto Internacional de Investigación para la Paz de Estocolmo (SIPRI). Este sesgo, explican, “se refiere a la tendencia humana a actuar, incluso cuando la inacción daría, lógicamente, un mejor resultado”. No es el único sobre el que advierten los expertos. Otro es la tendencia a dar por bueno la recomendación de la máquina, especialmente en situaciones de estrés y con limitaciones de tiempo; es el llamado sesgo de automatización.

Una fábrica de asesinatos en masa - El bombardeo calculado de Israel sobre Gaza.

El papel de las compañías de Silicon Valley

La complicidad de compañías como Google, Amazon o Microsoft en esta operación de exterminio a través de los software Hasbora, Lavender o Where’s Daddy? (sí, es así de ingenioso el humor genocida) ha sido denunciada por la campaña No Tech for Apartheid. El motivo, que sin la información aportada por los medios de comunicación social y el big data, a través de acuerdos como el Proyecto Nimbus, firmado en 2021 por Google y Amazon con las autoridades israelíes, las FDI no habrían tenido la capacidad material de llevar a cabo una masacre de estas dimensiones.

A principios de este mes de febrero, Google ejecutó un cambio en sus comunicaciones, eliminando una cláusula introducida en 2018 por el que se auto prohibía el desarrollo de IA destinada a fines militares, especialmente para armas y vigilancia, con el pretexto de que las democracias “no se pueden quedar atrás” en esta innovación. De este modo, la compañía fundada por Larry Page eliminó de sus compromisos éticos las secciones destinadas a indicar la renuncia a proveer software para “armas u otras tecnologías cuyo principal propósito o implementación sea causar o facilitar directamente daños a las personas” así como las “tecnologías que recopilen o utilicen información para vigilancia violando normas internacionalmente aceptadas”.

Sin embargo, no se trataba de un cambio de política. Apenas dos semanas antes, The Washington Post publicaba una investigación sobre cómo Israel solicitó a Google ampliar urgentemente el uso de un servicio llamado Vertex, para la aplicación de algoritmos de IA a sus propios datos. Pese a que no se conoce la aplicación directa de estos servicios, el mismo artículo refiere que el director General de la Dirección Nacional Cibernética del gobierno israelí indicó en una conferencia que “gracias a la nube pública Nimbus, están sucediendo cosas fenomenales durante los combates, cosas que juegan un papel importante en la victoria; no entraré en detalles”.

También Open AI ha dado un paso para integrarse en los nuevos tiempos de poder duro. En 2024 Open AI anunciaba una revisión de sus políticas éticas y pasaba a formar parte del circuito de contratistas del ejército de EE UU, participando a través de su software en misiones del Comando de África de los Estados Unidos (AFRICOM). En enero, la compañía de Sam Altman, la más conocida de cuantas se centran en la inteligencia artificial, anunciaba un acuerdo con Anduril fabricante de misiles, drones y software para el Ejército de Estados Unidos. El CEO de esta empresa —que está financiada por Founders Fund, fondo en el que participa Peter Thiel— subrayó que la colaboración con Open AI aportará “soluciones responsables que permitan a los operadores militares tomar decisiones rápidas y precisas en escenarios de alta presión”.

Según Wired, Anduril trabaja en una de las armas consideradas potencialmente más avanzadas en todo el catálogo de la IA militar: los enjambres de drones. Los drones son una realidad en la guerra desde la primera década del siglo, pero su futuro pasa por la multiplicación y su coordinación a través de un modelo extenso de lenguaje (LLM, por sus siglas en inglés), relegando cada vez más al operador humano a un papel secundario.

En noviembre, Palantir y la startup Anthropic anunciaba un acuerdo con Amazon Web Services (AWS) —la nube de Amazon, su línea de negocio más lucrativa— para la puesta a disposición de esta de los servicios de Claude, la competencia de los modelos GPT. De nuevo se repite el mismo mantra: puesta a disposición de herramientas complejas para una toma de decisiones aceleradas en el contexto de “operaciones gubernamentales vitales”, según describe la propia Palantir en su web.

En noviembre, Meta anunciaba su entrada en el negocio de la guerra a través de Llama, su modelo LLM, y de su asociación con Scale AI, próspero contratista de defensa, según la información de The Intecept que subrayaba, igualmente, lo defectuoso del producto de la compañía de Mark Zuckerberg.

Una investigación de Roberto J. González para el Instituto Watson cifraba en 53.000 millones el monto total de los contratos que el Pentágono había firmado con las empresas tecnológicas. La percepción es que esto solo acaba de empezar.

El porcentaje de error de la IA nunca va a ser nulo

En un paper publicado en octubre de 2024, las investigadoras Heidy Khlaaf y Sarah Myers West recomendaban “que para limitar la proliferación de armamentos de IA, puede ser necesario aislar los sistemas de IA militares” de los “datos personales comerciales”, que se entregan a las principales plataformas sociales. “Habría que cuestionar el papel de las empresas tecnológicas, dado que gran parte del discurso está impulsado por ellas y no existe una verdadera rendición de cuentas democrática por su parte”, defiende Jessica Dorsey, que añade que se debería hacer más “para garantizar una transparencia y una rendición de cuentas significativa de las empresas tecnológicas cuando sus sistemas se utilizan en esfuerzos bélicos”.

Para Brunet, la inteligencia artificial en la actualidad está en una fase preliminar y no ha resuelto tres problemas determinantes y sin solución ni a corto ni a medio plazo.

Pere Brunet, catedrático de Lenguajes y Sistemas Informáticos de la Universidad Politécnica de Catalunya, cree que es necesario un replanteamiento del concepto de la nube y las redes sociales: “Desde las administraciones hay que cuidar a la población y, por tanto, no podemos dejar nuestra nuestros datos en manos privadas. Y tiene que haber garantías de que son utilizables para el bien de las personas y no para otros fines”, resume este investigador.

Brunet usa el neologismo “tecnotraficantes” para definir a los flipados de la IA que proliferan en todo tipo de textos académicos y periodísticos. Las loas acríticas a estas tecnologías han calado en la visión mediática predominante acerca de la inteligencia artificial en su conjunto, presentando como una solución lo que hoy es apenas un balbuceo tecnológico. En gran medida, la IA actual no piensa. No es, por tanto, inteligente, sino que predice y crea modelos a partir de estadísticas e información ya codificada. Para Brunet, la inteligencia artificial en la actualidad está en una fase preliminar y no ha resuelto tres problemas determinantes y sin solución ni a corto ni a medio plazo; tampoco un cuarto elemento igualmente problemático, que no está relacionado con las soluciones que aporta la IA sino con los requisitos para su funcionamiento.

En primer lugar, señala Brunet, está la inexactitud inherente de las inteligencias artificiales, especialmente las basadas en modelos extensos de lenguaje (LLM). “Existe un porcentaje de error que nunca va a ser nulo”, detalla Brunet que en la actualidad investiga para el Centre Delàs d’Estudis per la Pau. El segundo factor, más conocido, es el de los sesgos. Esta denuncia es más frecuente en los estudios y publicaciones que abordan el racismo, machismo y otros tipos de discriminación en el empleo aparentemente neutro del lenguaje algorítmico. En tercer lugar está el factor de la no explicabilidad de los procesos por los que la IA propone una solución; algo que no tiene una respuesta en el corto plazo. “El cuarto problema es la huella ecológica, de la que se está hablando cada vez más”, señala Brunet.

Se estima que las necesidades generadas por la IA harán necesarios nuevos centros con un consumo equivalente al de cinco reactores de energía atómica.

Como él mismo recoge en un artículo publicado por el Foro Transiciones, el ritmo de consumo energético de la inteligencia artificial aumenta entre un 26% y un 36% cada año y las emisiones de CO2 equivalentes crecen también geométricamente. Tanto Amazon como Microsoft ya han llegado a acuerdos para el acceso a energía de reactores nucleares para el suministro de sus centros de datos, y se estima que las necesidades generadas por la IA harán necesarios nuevos centros con un consumo equivalente al de cinco reactores de energía atómica.

Los cuatro factores señalados por Brunet, que se aplican al conjunto de la IA, tienen una especial relevancia en su derivada militar. El hecho de que no esté perfeccionada, sin embargo, no le resta peligro. Por partes. En primer lugar, la cuestión medioambiental está determinada por una circunstancia: según el Acuerdo sobre cambio climático de París (COP21), los Estados no están obligados a cuantificar las emisiones de gases de efecto invernadero que proceden del sector militar. De modo que, a medida que crezca la demanda de productos autónomos basados en algoritmos e inteligencia artificial con usos militares —o de doble uso— aumentarán las emisiones causantes de la crisis climática, incluso aunque se llegue a las emisiones cero en el resto de sectores.

Los otros tres elementos que definen la IA también tienen un peso crucial en la aplicación militar de estas tecnologías. En primer lugar, la falibilidad ha llegado a ser motivo de chanzas para los expertos en Defensa. Una pregunta a los actuales sistemas sobre qué tipo de armamento pesado debe ser usado para la destrucción de edificios arroja resultados deficientes, según se destaca en los foros de amantes de los misiles. Pero el principal factor de riesgo en este campo es la selección de objetivos que ya se está llevando a cabo mediante sistemas algorítmicos: tanto la posibilidad de cometer errores de identificación como que nadie nunca rinda cuentas por esos errores. Uno de los errores que señala el artículo de Associated Press publicado el 18 de febrero es de tipo lingüístico, por una traducción automática incorrecta del árabe al hebreo que llevó a una selección errónea de objetivos.

"El ritmo al que se desarrolla la tecnología y la aparente obsesión con la ‘necesidad de velocidad’ impiden o desfavorecen un diálogo crucial”, concluye Dorsey.

De hecho, las informaciones aportadas por las propias FDI reconocen una precisión del 90% de los objetivos, lo que equivale a admitir que uno de cada diez asesinatos extrajudiciales termina con la vida de un inocente. La aplicación militar de la IA deriva de este modo en mayor número de errores provocados por la identificación deficiente, y con sesgos racistas y de género, o por el hecho de que no hay un responsable último, lo que favorece el comportamiento irresponsable.

Dorsey introduce una dosis de desmitificación respecto a los discursos de estos tecnotraficantes sobre la aplicación de la IA: “Aunque a menudo se promete que estos sistemas son más ‘efectivos’ o ‘precisos’, la realidad sobre el terreno confirma una historia diferente: si estos sistemas fueran más precisos o efectivos para erradicar la amenaza de Hamás, por ejemplo, la guerra no se prolongaría tanto y el daño a Gaza, por ejemplo, no sería tan grande. El nivel de daño a los civiles es catastrófico y, como concluyó Amnistía Internacional en diciembre, genocida. Estos sistemas exacerban las concepciones erróneas de las obligaciones e interpretaciones legales y permiten la destrucción a gran velocidad y escala”, explica la investigadora de Realidades de la guerra algorítmica.

El tercer factor, la no explicabilidad de las decisiones, cobra siniestra relevancia cuando se aplica a lo militar. Los sistemas no están diseñados para explicar los pasos tomados en su propuesta de decisiones. Eso implica que la rendición de cuentas sea aún más difícil de lo que ya de por sí es en el ámbito militar.

El estado de la regulación

La segunda era de Donald Trump en la Casa Blanca ha comenzado, como se esperaba, con la revocación de las medidas de protección y salvaguarda a los sistemas de inteligencia artificial –la Orden Ejecutiva de octubre de 2023 aprobada por la presidencia de Joe Biden— y la emisión de una nueva orden para “levantar las barreras” a la innovación en pos de, entre otros objetivos, la “seguridad nacional”. Trump ha nombrado asimismo a David Sacks, empresario sudafricano-estadounidense y uno de los miembros del grupo informal de la “mafia paypal” (de la que salieron Elon Musk o Peter Thiel) como responsable de las políticas sobre inteligencia artificial.

En enero de este año, Trump anunciaba junto a los dirigentes de Open AI, Oracle y Soft Bank la puesta en marcha de Stargate, un proyecto de 500.000 millones de dólares destinado a la protección de la seguridad nacional de EE UU y sus aliados.

El portal Tech Policy presagiaba un uso “intensivo” de estos sistemas por parte de la nueva administración, también para la vigilancia y el control de la población, así como para la “deportación masiva” encargada al zar antimigraciones,Tom Homan.

Los fondos de capital riesgo han incrementado en los últimos años su inversión en tecnología de defensa y las propias empresas tecnologías han virado hacia la “seguridad” en busca de mayor margen de beneficio. Con EE UU en la punta de lanza de esta nueva industria armamentística, es poco probable que el resto de potencias internacionales opten por la cautela. Pese a los usos cada vez más frecuentes de la IA, la Ley de Inteligencia Artificial de la UE, que entró en vigor en 2024, no contempla los usos militares o de seguridad nacional de la inteligencia artificial. La UE no ha hecho nada específico en este frente, señala la investigadora Jessica Dorsey en sus respuestas a El Salto. “Es necesario trabajar mucho más para abordar la IA militar desde una perspectiva europea”, apunta la responsable del grupo de estudios Realidades de la guerra algorítmica.

Entre las propuestas está que drones y robots suicidas lleven un etiquetado que declare a un humano responsable de su utilización, como forma de evitar la barra libre de muertes.

En julio de 2023, el secretario general de la ONU, António Guterres, requirió que los Estados adopten antes de 2026 un “instrumento jurídicamente vinculante para prohibir los sistemas de armas autónomas letales que funcionan sin control o supervisión humana y que que no pueden utilizarse en cumplimiento del derecho internacional humanitario”. También el Comité Internacional de la Cruz Roja ha pedido la prohibición de aquellos sistemas demasiado complejos de entender o explicar y que carecen de un cierto nivel de control por parte de los humanos. Sin embargo, la voluntad de llegar a este acuerdo se puede quedar corta ante el potencial destructivo que la inteligencia artificial tiene sobre el maltrecho orden internacional basado en reglas.

Según se ha señalado, los riesgos del uso de la IA amenazan directamente al derecho internacional humanitario y el derecho internacional de los derechos humanos. En el caso del derecho internacional humanitario, se teme que por defecto se apliquen los niveles más bajos de protección, como denuncia Brianna Rosen. Entre las propuestas de las organizaciones que alertan del avance descontrolado de esta tecnología está que drones y robots suicidas lleven un etiquetado que declare a un humano responsable de su utilización, como forma de evitar la barra libre de muertes que parece favorecer el uso de estos sistemas.

Desde Just Security se recomienda asimismo que sea necesario que las operaciones con drones sean supervisadas y aprobadas por dos personas —al estilo de los protocolos de usos de armas nucleares— así como aumentar los sistemas de auditorías y verificación. Transparencia y rendición de cuentas parecen ser las únicas fórmulas de reducir los riesgos del uso de la inteligencia artificial militar.

“El desafío que enfrentamos hoy es que los avances tecnológicos de la IA están empujando a los humanos a los márgenes de la toma de decisiones, lo que plantea preguntas sobre su lugar dentro de la guerra. Estas preguntas existenciales merecen mucha más investigación y debate, pero el ritmo al que se desarrolla la tecnología y la aparente obsesión con la ‘necesidad de velocidad’ impiden o desfavorecen un diálogo tan crucial”, concluye Dorsey. Como recuerda Pere Brunet, la deshumanización que lleva al empleo de máquinas para la aniquilación está provocada por seres humanos, no por inteligencias artificiales ni algoritmos, y es tarea de la humanidad cooperar ante las amenazas que hoy se ciernen sobre todos los pueblos, “ni el cambio climático, ni las pandemias, ni las inundaciones entienden de fronteras. Por tanto, tal vez hay que cambiar de paradigma y destinar a todo esto el dinero que se destina a lo militar”, concluye este investigador.

Fuente: EL SALTO