Los tecnoligarcas desatan el pánico al apocalipsis IA

 

 Por Pablo Elorduy   

      Integrante del colectivo fundador de El Salto.

Las compañías estadounidenses Anthropic y Open AI agitan el fantasma de una inteligencia capaz de aniquilar a la especie humana. La ONU pide regulación a los Estados ante lo que parece una ofensiva contra los derechos humanos

Ejemplo de software de reconocimiento facial.

     Dario Amodei, director ejecutivo de Anthropic, abrió la caja de Pandora el pasado sábado con un breve ensayo de 3.800 palabras. No ha sido el único barón de la IA que ha manifestado que el desarrollo acelerado de esa serie de tecnologías es potencialmente peligroso para la especie humana, pero su posición como CEO de una de las principales empresas del sector tecnomilitar asociado al Pentágono, ha hecho saltar las alarmas de los organismos internacionales y, también, pero por distintos motivos, de los mercados.

La máquina de los asesinatos en masa: Silicon Valley abraza la guerra.

Parte del aviso de Amodei viene asociado con una crítica a la principal empresa de la competencia, OpenAI. Su reflexión viene dada por el incidente de OpenAI-HuggingFace, que tuvo su primer episodio conocido en julio y que, en septiembre, volvió a ocupar los debates sobre la autonomía creciente de los sistemas algorítmicos, después de un ataque sin intermediación humana.

Inteligencia. Por Malagón.

El caso ha marcado un antes y un después, ya que cientos de “agentes” de inteligencia artificial de OpenAI salieron de sus entornos aislados y piratearon la empresa emergente de IA HuggingFace y llevaron a cabo ciberataques contra objetivos que no se les había pedido que atacaran. En un comienzo se estimaba que serían solo unos pocos agentes, pero el informe encargado por OpenAI evidencia que el ataque fue realizado por 700 de los 1.200. El trabajo de investigación, además, ha estado limitado por varias cortapisas impuestas por la empresa. 

La brecha de seguridad abierta por los agentes de OpenAI en HuggingFace ha sido un ejemplo de la capacidad de la IA actual para atacar una aplicación, pero, más importante que esto, también para ocultarlo. Aunque la Fiscalía de Alabama (EEUU) ha abierto una investigación, los expertos señalan las instituciones públicas no tienen la capacidad de comprender y, sobre todo, no tienen el mandato para investigar el ataque en su complejidad y se limitan a la investigación en casos de fraudes de consumo.

‘Ningún organismo gubernamental tiene el mandato ni la experiencia necesarios para investigar los detalles técnicos del incidente’.

El caso ha venido acompañado de una advertencia que ha resonado en todo el mundo. En el mes de septiembre, tres investigadores de Anthropic expresaron públicamente que existe una probabilidad superior al 10% de que la IA acabe con la humanidad en la próxima década. Uno de ellos, Jacob Coxon, dimitió por su rechazo a la construcción de “sistemas sobrehumanos” que, trabajando en enjambre, podrán desobedecer órdenes.

Este investigador de inteligencia artificial ha señalado que ni Open AI ni Anthropic, para la que trabajaba, actúa con responsabilidad: “Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”.

Coxon pone en juego el concepto de la “automejora recursiva”, uno de los elementos más intrigantes y, hasta cierto punto, amenazantes de la IA, que se basa en la idea de que la inteligencia artificial se perfeccione a sí misma de forma indefinida. Esto edificaría una IA cada vez más potente y ajena a cualquier control humano. 

De manera específica, se ha señalado el riesgo de que la IA cree armas biológicas desconocidas para la humanidad. Un artículo del lunes 14 de septiembre en The New York Times señala el riesgo de que la IA pueda acelerar el diseño de toxinas y virus. En esta ocasión, además de las empresas responsables (Anthropic), la alerta viene de expertos en bioseguridad. Un estudio hecho público en agosto por la revista Science llegaba a la conclusión de que las bases para el “diseño generativo de genomas más grandes y complejos” están puestas.

A pesar de que ninguna empresa ha llegado a ese punto en sus modelos de desarrollo, la idea de la "automejora recursiva” está detrás de todas las alarmas activadas por el sector y también del coro de tecnooligarcas que, comenzando por Amodei, Sam Altman (Open AI), Elon Musk (Grok), Satya Nadella (Microsoft), y Demis Hassabis (Google DeepMind), piden una ralentización en el desarrollo de sus productos para dotar al proceso de mayores garantías de seguridad.

Trump dobla la apuesta 

El lunes, el presidente de EEUU, Donald Trump, rechazó cualquier medida regulatoria bajo la premisa de que China se vería beneficiada de ese posible embridamiento: “¡El único control o ‘barreras de seguridad’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!), y EEUU lo tiene, ¡y de sobra! ¡La Administración Trump ha impedido que ‘personas’ de la IA hagan ‘cosas’ malas, o potencialmente malas, como Dario (¡Anthropic!), quien ahora finge ser un ‘angelito perfecto’ – y seguiremos haciéndolo! ¡Ya tenemos un tremendo poder CRIMINAL y REGULADOR sobre estas empresas!”, indicó el presidente en un mensaje de su red Truth Social.

Las declaraciones de Trump no son una excepción a la corriente general que invitan a la desregulación. El regreso del “cisne naranja” a la Casa Blanca estuvo acompañado de una ofensiva contra las medidas impuestas durante la administración de Joseph Biden.

Desde la crisis de 2008 a Trump.

A finales de enero de 2025, solo unos días después de asumir el cargo, Trump estableció una revisión de las políticas: “Debemos desarrollar sistemas de IA que estén libres de sesgos ideológicos o agendas sociales diseñadas”. Pese a que los compromisos de aceptar “supervisión de terceros” que han entonado ahora los barones de la tecnología ya existían en la etapa de Biden, el expresidente demócrata —al parecer influido por una de las películas de la saga Misión Imposible— estableció una Ley de Producción de Defensa contraria a los intereses financieros de Silicon Valley.

Los mercados financieros también han reaccionado mal a las proclamas de los tecnooligarcas. El lunes 14 se registraron caídas en las acciones vinculadas a la IA, concretamente en aquellas empresas como Sandisk, Intel, Micron o Nvidia dedicadas a la fabricación de memorias y chips. El ímpetu del sector de la inteligencia artificial depende de la creación constante de una promesa de crecimiento, tanto en la tecnología como en la infraestructura asociada. Actualmente, ni OpenAI ni Anthropic cotizan en bolsa.

Trump se refirió también a la construcción de centros de datos, una de las bases del negocio que es fruto de una creciente contestación a nivel global. El equivalente al “perfora, nena, perfora” con el que Trump dio carpetazo a los intentos de mitigación de la crisis climática en su campaña electoral de 2024 se ha traducido en esta ocasión en un llamamiento a territorios y comunidades estadounidenses: “Si quieren tener éxito y ser ricas, con impuestos mucho más bajos y empleos por todas partes, que reine el dominio de los datos”. Tras el discurso de Amodei, Trump asoció las críticas a la expansión de esta infraestructura a un complot: “¡Hay una conspiración ENFERMIZA en marcha contra la IA y los Centros de Datos, y el único que se alegra de ello es China”.

Críticas a las empresas

El lamento de Amodei no ha caído en saco roto en la esfera internacional. El lunes, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, levantaba la voz para denunciar que la IA pone en riesgo “todos” los derechos humanos, incluido el derecho a la vida, la alimentación, la privacidad, la salud y la seguridad.

“Poblaciones enteras podrían quedar aisladas del agua potable, la calefacción y los servicios financieros, y la IA con capacidad de gestión ya está acelerando el ritmo y el alcance de la guerra y erosionando las salvaguardias que nos protegen del lanzamiento de armas de destrucción masiva”, señala Turk en su misiva.

Haciéndose eco de las últimas polémicas, el relator de la ONU instó a los Estados a garantizar “una verificación independiente y técnicamente competente de las capacidades de los agentes, con acceso a modelos, documentación y entornos de prueba, y a exigir una debida diligencia continua en materia de derechos humanos”.

Como informa Common Dreams, varias fuentes en EEUU han clamado por una legislación clara que termine con la impunidad de facto de las mismas empresas que alertan de una IA fuera de control. El congresista demócrata Ro Khanna (California) señalaba a las empresas: “Si creas una IA que realiza actos ilegales, debes afrontar responsabilidades o sanciones penales”. Más claramente, el periodista David Sirota apuntaba la paradoja actual: “Si la ley hiciera explícitamente responsables financiera y penalmente a los directores ejecutivos de IA por cualquier destrucción masiva que creen sus tecnologías, y si los accionistas de la industria de la IA supieran que sus empresas se enfrentan a la amenaza de importantes pérdidas financieras por dicha destrucción, gran parte de la amenaza de que '¡la IA se está saliendo de control!' desaparecería instantáneamente”. 

En un post publicado este fin de semana, el investigador Richard Seymour, ponía en contexto el episodio Anthropic y recordaba que las “falsas amenazas desorientan tanto a la oposición como a la regulación”. Según Seymour: “En cierta medida, la burbuja de la IA estadounidense, al igual que la euforia por las criptomonedas en su momento, existe para absorber (y, en última instancia, destruir mediante una recesión) billones de dólares en capital excedente ante la falta de oportunidades de inversión suficientemente rentables en otros lugares. Es un pozo sin fondo de dinero, que consume cientos de miles de millones de dólares para obtener una fracción de los ingresos; sin embargo, el abanico de inversiones es limitado, y las afirmaciones grandilocuentes sobre el futuro poder descontrolado de los modelos son todo lo que la industria tiene para mostrar”.

Sin embargo, como refiere Seymour, el hecho de que las máquinas no tengan la capacidad destructiva que reclaman sus propietarios. Como resume: “Los problemas con la IA que no implican un dispositivo todopoderoso que se vuelva contra la humanidad son innumerables”.

Fuente: El Salto

Con la guerra de Gaza y el regreso de Trump, Silicon Valley acoge un renacimiento militar

 

 Por Sophia Goodfriend 

       Antropóloga estudiosa de la guerra automatizada de Israel contra Palestina.

En la primera Cumbre DefenseTech de Israel, líderes corporativos y funcionarios del ejército promocionaron abiertamente su asociación en la guerra y la vigilancia impulsadas por IA.

Ponente en la Cumbre DefenseTech en la Universidad de Tel Aviv, 10 de diciembre de 2024 -DefenseTech Summit.

     El 10 de diciembre, funcionarios militares israelíes, fabricantes de armas y capitalistas de riesgo estadounidenses se reunieron en la Universidad de Tel Aviv para la primera Cumbre DefenseTech. El evento de dos días incluyó paneles sobre “El futuro del conflicto global”, “Desafíos de las espadas de hierro” (el nombre que las FDI dieron a la guerra en Gaza) y “Explorando la innovación en la tecnología de drones”. Representantes de Palantir, Sequoia Capital y Elbit compartieron el escenario con el Director General de las FDI y el jefe de LOTEM, la unidad del ejército dedicada a los macrodatos y la inteligencia artificial.

Llegué temprano el martes por la mañana y formé la fila para recoger mi credencial de entrada junto con representantes de Google Cloud y soldados uniformados de MAFAT, el ala de investigación y desarrollo del ejército israelí. El evento estaba repleto de trabajadores tecnológicos, representantes militares e inversores estadounidenses deseosos de establecer contactos.

Oficialmente, la Cumbre DefenseTech tenía como objetivo mostrar “las tecnologías y estrategias de vanguardia de Israel para abordar la seguridad global”, pero el evento parecía más bien una celebración de una nueva y desenfrenada era de tecnomilitarización inaugurada por la reelección de Donald Trump.

Se espera que las alianzas entre el ejército israelí y los capitalistas de riesgo y los jefes corporativos estadounidenses se intensifiquen bajo la administración Trump. La “campaña de eficiencia gubernamental” planeada por Trump, supervisada por Elon Musk, promueve proyectos conjuntos entre grandes contratistas de defensa y empresas tecnológicas más pequeñas, especialmente en áreas como la inteligencia artificial y la guerra con drones. Como dijo Noam Perski de Palantir en su discurso del martes por la mañana: “Todas estas personas que solían ser colegas de la tecnología ahora son colegas de la tecnología de defensa”.

Muchos de los partidarios estadounidenses de la reforma son defensores acérrimos de la estrategia militar israelí en Gaza durante el último año. Citan la rápida apertura de puertas entre el sector militar y el de las empresas emergentes como modelo a imitar, y un puñado de ellos viajó a Ramat Aviv para la ocasión.

Asistentes a la Cumbre DefenseTech en la Universidad de Tel Aviv, 10 de diciembre de 2024 - DefenseTech Summit.

Los inversores estadounidenses, con sus zapatos de cuero, sus camisas de diseño y su bótox, se distinguían de los hermanos tecnológicos israelíes que lucían camisetas Nike, vaqueros ajustados y protectores solares. Pero el bufé del vestíbulo era un auténtico crisol de culturas. Generales de alto rango y soldados de inteligencia recién llegados de la base charlaban con multimillonarios mientras tomaban capuchinos. Todos estaban ansiosos por hablar de inteligencia artificial, de inversiones vertiginosas en industrias militares y de Elon Musk.

El optimismo que anima a estas industrias bélicas no se ve atenuado por la devastación que se vive en Gaza, uno de los conflictos más letales para los civiles en la historia reciente. Las acusaciones de crímenes de guerra en la CPI y de genocidio en la CIJ han hecho poco para disuadir al gobierno de extrema derecha de Israel, y en la conferencia –como en el discurso público israelí en general– la línea oficial siguió inclinándose, obstinadamente, hacia la victoria justa. “Esta es una guerra entre el bien y el mal”, dijo el Director General del Ejército israelí, Eyal Zamir, en sus comentarios de apertura. “Es una guerra entre la luz y la oscuridad, y pronto encenderemos las velas de Janucá”.

Nati Amsterdam, director nacional de Nvidia Israel, habla en la Cumbre DefenseTech, Tel Aviv, el 10 de diciembre de 2024 - Cumbre DefenseTech.

Se trata de una narrativa que sonaría cursi si no fuera coherente con la visión maniquea del mundo que abrazan los halcones de Silicon Valley, que ahora están ascendiendo en las filas del poder político estadounidense. Entre las empresas más influyentes se encuentra Palantir, la empresa de software conocida por proporcionar software de vigilancia y selección de objetivos con asistencia de inteligencia artificial tanto a Estados Unidos como a Israel.

“(Después del 7 de octubre,) la demanda de nuestros productos se disparó drásticamente. De repente, se abrieron todas las puertas”, dijo Ayelet Gilan, gerente general de Palantir Israel, a Forbes Israel en noviembre. “Aquí se creó una oportunidad única de colaboración y logramos crear relaciones que dieron lugar a proyectos conjuntos”.

La visión de la empresa Palantir fue destilada por el director ejecutivo Alex Karp en el Foro de Defensa Ronald Reagan, celebrado en Simi Valley, California, unos días antes de la cumbre de Tel Aviv. “La gente quiere vivir en paz, quiere volver a casa, no quiere oír vuestra ideología pagana progresista”, exclamó. “Quieren saber que están a salvo y que estar a salvo significa que la otra persona tiene miedo: así es como se hace que alguien esté a salvo”.

'La tecnología de defensa vuelve a estar de moda'

No es ningún secreto que Silicon Valley comenzó como un experimento del Departamento de Defensa de Estados Unidos, que producía los ordenadores centrales y los microprocesadores que guiaron las operaciones militares estadounidenses durante la Guerra Fría. Israel se convirtió rápidamente en el campus satélite de la industria: IBM e Intel abrieron sus primeras oficinas en los años 70, y otros gigantes siguieron sus pasos en las décadas siguientes.

La industria tecnológica israelí, en deuda con el flujo de dinero estadounidense a fines del siglo XX, nunca ha ocultado su papel en la guerra y la ocupación regionales. Por el contrario, la estrecha relación entre el sector militar y el tecnológico es un sello distintivo de la marca de Israel como nación emergente.

Artículo promocional entregado a los asistentes a la Cumbre DefenseTech en la Universidad de Tel Aviv, el 10 de diciembre de 2024 - Cumbre DefenseTech.

Sin embargo, desde los años 1990, las empresas tecnológicas estadounidenses han tendido a negar sus orígenes militares y, en cambio, se han promocionado como bastiones liberales (el lema de Google era literalmente “no seas malo”). Aunque los contratos militares eran comunes, los directores ejecutivos se aseguraban de que se firmaran en secreto para evitar la ira de los empleados que protestaban abiertamente por las aplicaciones militares de sus productos.

En eventos anteriores de la industria que cubrí, a partir de 2019, los fundadores y generales hicieron todo lo posible para asegurarle a la audiencia que la vigilancia algorítmica y la selección de objetivos con drones ofrecían herramientas de guerra más precisas y, por lo tanto, más humanas. Era parte de una narrativa más amplia, impulsada por elementos más centristas en el gobierno de Israel y un establishment de seguridad históricamente liberal, de que las tecnologías digitales y automatizadas ayudarían a minimizar el impacto de la guerra y la ocupación en las vidas de los civiles.

Sin embargo, en los últimos años, la situación ha cambiado lentamente, tanto en Estados Unidos como en Israel. Hoy, los fundadores de empresas tecnológicas estadounidenses se consideran una nueva clase guerrera, orgullosa de estar rehaciendo su país a imagen de la “nación guerrera” de Israel. El gobierno de extrema derecha de Israel y la realeza de Silicon Valley se adhieren a una doctrina de seguridad de “paz a través de la fuerza”, y promueven demostraciones letales de fuerza como la única manera de apuntalar la seguridad nacional, o lo que Alex Karp, de Palantir, describe como “asustar a tu enemigo hasta dejarlo sin aliento”.

Palestinos inspeccionan un automóvil destruido por un ataque con drones israelí que mató a dos personas e hirió a varias más, en Al-Mawasi, en el sur de la Franja de Gaza, el 23 de diciembre de 2024 - Abed Rahim Khatib

En la Cumbre DefenseTech de este año, parecía que no había necesidad de apelar a las normas diplomáticas ni a las leyes internacionales de derechos humanos. Hamutal Merido, exdirectora general de Palantir Israel, lo explicó a la audiencia: “Cuando estaba en Palantir, solíamos hacer manifestaciones fuera de nuestras oficinas”, recordó. “Ahora, todo el mundo parece pensar que [la tecnología de defensa] está de moda otra vez”.

Shaun Maguire, socio de la firma estadounidense de capital de riesgo Sequoia Capital y defensor declarado de la estrategia militar israelí en Gaza, ofreció a la audiencia un panorama igualmente optimista para el complejo militar-industrial actual: “Si yo hablaba con la gente hace tres años, decían que eras una mala persona si trabajabas para el ejército. Pero ahora las cosas son muy optimistas: la psicología de todo el asunto está cambiando”.

Una nueva era de asociación

En 2024, Trump se presentó con una plataforma aislacionista de “Estados Unidos primero”, oponiéndose a la participación en guerras lejanas. Pero para Palantir y otras empresas tecnológicas patrioteras que se unieron en torno a su campaña, la guerra de Israel en Gaza subrayó la importancia de invertir en tecnologías militares.

“La gente está observando lo que está sucediendo en Ucrania o Israel… y dice: ‘Hombre, me encantaría dedicar tiempo a trabajar en cosas que van a cambiar el rumbo de la humanidad’”, dijo Trae Stephens, cofundador de la firma estadounidense de tecnología de defensa Anduril, en una entrevista con Wired en septiembre. A principios de este mes, Anduril y Open AI anunciaron una asociación para suministrar al Departamento de Defensa de Estados Unidos sistemas de defensa asistidos por IA, y Stephens consultó recientemente con el equipo de transición de Trump sobre los planes para renovar el ejército estadounidense.

Desde el 7 de octubre, las tropas israelíes han recurrido a una serie de armas y sistemas de vigilancia (muchos fabricados o mantenidos por gigantes tecnológicos estadounidenses como Palantir, Amazon, Google y Microsoft) en el incesante bombardeo aéreo y terrestre de Gaza, que mató al menos a 45.000 personas y dañó o destruyó el 60 por ciento de sus edificios. Y, como reveló el informe de +972, se utilizaron sistemas de orientación con inteligencia artificial como Lavender y The Gospel para aumentar el número de muertos en toda la Franja, a menudo en flagrante violación del derecho internacional.

Soldados israelíes en Beit Lahiya, en el norte de la Franja de Gaza, el 28 de noviembre de 2024.

Pero si bien estas tácticas no han logrado los objetivos de Israel en Gaza, la prolongada guerra –que el ex jefe del Estado Mayor del ejército Moshe Ya'alon describió recientemente como equivalente a una “limpieza étnica”– ha reforzado las carteras de los directores ejecutivos de empresas tecnológicas y los capitalistas de riesgo estadounidenses. Muchos de ellos siguen cerrando nuevos acuerdos con el ejército israelí e inyectando dinero en el mercado local de tecnología militar.

A principios de este mes, una firma de inversión estadounidense compró la firma israelí de software espía Paragon por más de 500 millones de dólares, a pesar de los esfuerzos de la administración Biden por frenar la venta de dichos sistemas. Las tensiones entre Estados Unidos e Israel aumentaron después de que tecnologías de vigilancia similares vendidas por NSO Group, una empresa israelí de software espía, se vincularan a violaciones de derechos humanos en todo el mundo. Los expertos del sector creen que la reelección de Trump marca una nueva era de asociación, incluso para las empresas más controvertidas de Israel.

“En los próximos cuatro años entraremos en una era mucho mejor de asociación entre Israel y Estados Unidos y en una especie de visión más alineada de cómo lograr la seguridad en la región”, declaró Shaun Maguire, de Sequoia Capital, en su discurso en la conferencia. La llegada de Kamala Harris a la presidencia, añadió, “habría sido una noticia terrible para Israel”.

Lorne Abony, socio gerente del fondo de capital riesgo Texas Ventures y uno de los financiadores más prolíficos de empresas de tecnología militar israelíes desde que comenzó la guerra, lo expresó en términos más simples: “Los próximos años serán un renacimiento para Israel. Tenemos todas las piezas en su lugar en el Departamento de Defensa [de Estados Unidos]”. La multitud aplaudió con fuerza.

Fuente: +972Magazine