Bienvenidos a El Hilo, un podcast de Radioambulante Estudios. Soy Eliezer
Budazov
Dos días antes del primer bombardeo contra Irán, el director ejecutivo de Antropic, la empresa de inteligencia artificial más avanzada del mundo, dijo esto, que ellos no podían permitir que el gobierno de Estados Unidos usara su modelo para alimentar armas letales autónomas ni para la vigilancia masiva de los ciudadanos. Esta noticia, la de una pelea entre una compañía y el Pentágono por el uso de la tecnología para vigilar y destruir, fue eclipsada por una guerra donde se está
utilizando la inteligencia artificial para vigilar y destruir. Pero no es la primera vez que se usa de esta forma. Estados Unidos ya utilizó un modelo de IA para su operación militar en Venezuela. Fue una operación perfecta, dijo en ese momento Donald Trump, porque no hubo ninguna baja estadounidense. En la operación murieron más de 80 personas, entre militares venezolanos, agentes cubanos y civiles. Pero eso no parece relevante para
los cálculos del Pentágono. Si el uso de la inteligencia artificial como arma de guerra y de control ya de por sí puede llenar de miedo a cualquiera, los latinoamericanos tenemos más razones para temer. Porque nuestras vidas valen menos, en términos económicos y políticos, para la potencia militar que está trabajando en eso. La plataforma que ahora permite hacer una vigilancia masiva a los estadounidenses se utiliza desde hace años contra migrantes y extranjeros que viven en ese país.
Eso es algo que cuenta la autora e investigadora Marta Peirano en un libro que publicó en 2019, El enemigo conoce el sistema. El trabajo de Marta Peirano se enfoca principalmente en el uso de la tecnología para vigilar, controlar, manipular y destruir comunidades y se ha vuelto esencial para entender cómo opera el poder en el mundo actual. En este episodio hablamos con ella para tratar de responder qué significa el uso de la IA como un arma, para los
ciudadanos en general y para los latinoamericanos en particular. Es 27 de marzo de 2026. Hacemos una pausa y volvemos con la entrevista. Marta, me gustaría empezar con una noticia que se conoció hace un mes, hace casi exactamente un mes, a finales de febrero. cuando la empresa Antropic, que tiene uno de los modelos de inteligencia artificial más avanzados, salió a decir que no podía renovar su contrato millonario con el Pentágono porque el
gobierno no quería aceptar dos condiciones. Uno, que su modelo no fuera utilizado para armas letales autónomas. Y dos, que no lo utilizaran tampoco para hacer vigilancia masiva a los ciudadanos estadounidenses. La noticia fue para muchos, yo me incluyo como, ¿qué?¿ De qué estamos hablando?¿ Armas letales autónomas? Entonces, quería pedirte primero si puedes contarnos lo esencial de esta noticia, y es¿ qué es la empresa Antropic y desde cuándo está trabajando
con el gobierno de Estados Unidos en aplicaciones militares? O sea,¿ y qué tan avanzado está esto como para que ya estemos hablando de armas letales autónomas? Pues Antropic
es una empresa... Un poco especial porque es parte de la primera generación de ingenieros que empezaron a trabajar después de que se inventaran los transformers, que son la T de GPT.
Los transformers son la base de los grandes modelos de lenguaje que hoy conocemos. De forma muy simple, son la arquitectura que define cómo estos modelos procesan la información. Es como el plano de un motor. No es el motor en sí, pero es el diseño que determina cómo funciona. Esta arquitectura fue diseñada por un grupo de investigadores que trabajaban en Google y presentada en 2017.
Y entonces, de esa primera generación de ingenieros que van a Google a hacer modelos de inteligencia artificial, un puñado acaban montando una empresa que se llama OpenAI, que se crea precisamente con la idea de que Google es una empresa demasiado ambiciosa y demasiado vinculada al departamento de defensa como para dejar... que sean ellos los que lideren la
carrera de la inteligencia artificial, porque es demasiado peligroso. Entonces OpenAI es una fundación que se crea con la idea de que si alguien tiene que montarlo es mejor que lo monte gente que piensa desde el principio en la seguridad.
Dentro de este grupo estaba el investigador y emprendedor Darío Amodei. Había otros nombres importantes también, pero lo mencionamos a él porque tiene un papel central en esta historia.
La cuestión es que Darío es parte de esta primera remesa de ingenieros y muy rápidamente, al muy poco tiempo, decide marcharse y montar su propia empresa porque él piensa que en OpenAI tampoco están tomando en serio los criterios de seguridad y de bienestar para todo el mundo que él considera que son apropiados. Y entonces, junto con otro
grupo de huidos de OpenAI, monta Antropic. Y entonces Antropic es una empresa muy especial porque ellos querían demostrar que sin comprometer estos principios y estos valores de bienestar, de protección y de seguridad, se podía hacer un modelo de inteligencia artificial competente. Y lo han demostrado hasta tal punto que se han convertido en la mejor empresa del mercado.
Es decir, Cloud, que es su modelo de inteligencia artificial, está considerado el mejor modelo de inteligencia artificial que existe. Ahora mismo, al menos en el mundo occidental. Por este y otros motivos, el gobierno de los Estados Unidos, cuando todavía era la administración Biden, en 2025 convoca a las empresas de inteligencia artificial para desarrollar un modelo que opere con
los sistemas del Departamento de Defensa. Como te puedes imaginar, tienen que tener unas características muy especiales para ser contratista del Departamento de Defensa y unos permisos muy especiales para poder interactuar con datos que son ya no solo privados y delicados, sino que son de espionaje, literalmente. Es decir, los datos más privados que hay para un gobierno. Y entonces el que se queda con ese contrato es Antropic.
Y en ese contrato, como en todos los contratos, las dos partes estipulan una serie de premisas y una de las premisas de Antropic era que este modelo no va a ser utilizado para estas dos actividades que tú has mencionado, ni para hacer vigilancia masiva de ciudadanos estadounidenses, ni para
activar o ejecutar armas letales autónomas. Ocurre que en el último año el Departamento de Defensa de los Estados Unidos ha cambiado de nombre, ahora se llama Departamento de Guerra, y las personas que lo dirigen han empezado a utilizar la inteligencia artificial como una herramienta más de su arsenal y se han encontrado con esta y con otras restricciones, restricciones que tienen que ver con el contrato en este caso,
y han querido corregirlas y Antropix se ha negado. a diferencia de otras empresas del mismo sector, ha dicho que no quería corregir o que no quería alterar los términos originales.
Y entonces ha habido un pulso por el cual el gobierno de los Estados Unidos ha propuesto dos escenarios posibles por los cuales le dicen a Antropic o bien vamos a utilizar una ley de la Guerra Fría que obliga en tiempo de guerra a todas las empresas estadounidenses a trabajar para el gobierno Un poco como hace el gobierno chino con las empresas tecnológicas chinas, que están todas al
servicio del partido. O bien a declararlos un peligro para la cadena de suministro, que es una figura muy rara dentro de lo que son los contratos del gobierno estadounidense y que generalmente están restringidas a empresas que tienen vínculos con estados antagonistas, con estados enemigos. La prueba es que Solamente hay 10 empresas que hayan sido catalogadas como peligros para la cadena de suministro y son todas chinas, menos una
que rusa. Es una etiqueta verdaderamente muy extrema y lo que quiere decir esa etiqueta es que esta empresa, por sus alianzas estatales o por sus actividades históricas, es considerada o bien demasiado vulnerable o bien demasiado peligrosa para formar parte de la infraestructura del gobierno estadounidense. Esta sería la primera vez que una empresa estadounidense es catalogada como un
peligro para la cadena de suministro. Cuando amenazan a Antropi con estos dos escenarios, en realidad podemos decir que la están extorsionando porque son dos escenarios literalmente opuestos. O bien eres tan importante para nosotros y tan necesaria para el gobierno estadounidense que te vamos a obligar a abrir tus tripas y dejarnos entrar hasta el fondo de tu armario, o bien eres tan peligrosa para el gobierno estadounidense que no puedes tocar ni un cable dentro de esta casa.
O sea, son dos escenarios opuestos. O te destierro El
presidente Donald Trump ordenó a todas las agencias federales suspender de inmediato cualquier uso de la tecnología de Antropic. El secretario de Defensa, Pete Hexett, anunció por su parte que designará a esta empresa como un riesgo para la cadena de suministro y la seguridad nacional.
Parece que en la última semana se ha suavizado un poco porque efectivamente el gobierno de los Estados Unidos no puede legalmente prohibir a todas las empresas estadounidenses hacer negocios con otra empresa estadounidense, pero pues ahora hay una serie de demandas por parte de Antropic contra el gobierno en las que se está defendiendo de ser catalogada como peligro para la cadena de suministro.
Marta me explica que no se sabe, al menos con información verificable, por qué es tan importante ahora para el gobierno de Estados Unidos quitar estas restricciones del contrato con Antropic, pero hay indicios. Lo que sí se sabe, me dijo, es que en los meses que ha durado el contrato, las herramientas de inteligencia artificial desarrolladas por la compañía parecen haberse vuelto muy importantes para algunas actividades del departamento de guerra.
La otra cosa que sabemos es que el propio gobierno ha dicho que ha utilizado Claude en la operación de secuestro de Nicolás Maduro y también ha dicho que ha
utilizado Claude en los ataques en Irán. Entonces, sabiendo que en al menos uno de esos ataques ha habido una selección de objetivos más muy veloz, un análisis de datos en tiempo real muy eficiente, y sin embargo ha sido una operación que no ha requerido personal extra, pues podemos inferir que a lo mejor algunas de esas habilidades ya se están utilizando, pero no podemos saberlo.
Esto que dices me parece increíble, porque en realidad el comunicado de Antropic diciendo no podemos aceptar la oferta del Pentágono porque no queremos ceder a estas dos condiciones que estaban en nuestro contrato. Eso ocurre el 26 de febrero, dos días después, el 28 de febrero, empieza el primer bombardeo contra Irán, ¿no? Un par de semanas antes de lo de Irán, el Wall Street Journal publica que el Pentágono había utilizado el
modelo Claude en la operación militar en Venezuela, ¿no? Y es inevitable pensar que el gobierno lo quería usar también en la guerra contra Irán.¿ Se sabe cómo se puede llegar a utilizar, o perdón, cómo se utilizó tal vez en Venezuela? Y hay otros ejemplos recientes de que se haya utilizado la inteligencia artificial para operaciones militares o de seguridad interna. Esto es lo que sabemos. Sabemos
que el gobierno... El negocio de Palantir es, básicamente, el manejo y el análisis de grandes volúmenes de datos para gobiernos y corporaciones. La compañía no se dedica a extraer datos ni a vender
datos que ya existen, de salud, de tráfico, de inmigración, de redes sociales, de operaciones bancarias, y los unifica en una sola interfaz, para que todos esos datos, aunque vengan de fuentes completamente distintas, puedan buscarse en un mismo lugar.
Palantir, en el último año, se ha convertido un poco en el sistema operativo de las operaciones de este gobierno. Muy especialmente las que se refieren a ICE y a Border Patrol y a las que han ejecutado fuera de Estados Unidos, como el secuestro de Maduro y los ataques en Irán.
Y acá es donde entra Antropic. En noviembre de 2024, Palantir anunció una alianza con Antropic y los servicios web de Amazon para llevar sus modelos de inteligencia artificial a agencias de defensa e inteligencia del gobierno de Estados Unidos. Es decir... Claude corriendo dentro de esta plataforma para uso gubernamental clasificado. Y para entender por qué esto importa, hay que saber cómo empezó Palantir.
Entonces, Palantir es una empresa que nace literalmente a raíz del ataque a las Torres Gemelas. O sea, es una empresa post-9-11. Y en principio empieza a generar infraestructura para combatir el terrorismo, el terrorismo islámico, y luego empieza a venderle esa infraestructura a sistemas que están acostumbrados a generar muchos datos, pero no a digitalizarlos de forma ordenada para
que sean compatibles entre ellos. Unos están en PDF, otros están en fotocopia, otros son grabaciones, otros son mapas, otros están en archivo... Otros están digitalizados por un formato y no en el otro. Entonces, ellos lo que hacen es convertir todo eso en algo que se pueda buscar desde un solo buscador. El problema que tiene el gobierno de los Estados Unidos es que tiene mucha de esa información. O sea, el principal problema antes era esa información es
incompatible para antirresuelve ese problema. Y una vez este problema está resuelto, el segundo problema que tiene es que tiene demasiada. Y entonces necesita una cantidad disparatada de analistas para encontrarle
sentido a estas relaciones entre los distintos documentos. Y entonces esto hace que tomar decisiones en tiempo real, como por ejemplo si quieres secuestrar a un primer ministro de un país lejano, pues necesitas y tienes información de los semáforos, de las matrículas que se están moviendo, de los teléfonos que se están moviendo, de quién está pagando cosas dónde.
Imagínate que tienes toda esa información en un espacio de unas calles de una ciudad Pues todo eso requiere una cantidad de proceso muy grande, muy alta, y para hacerlo en tiempo real necesitas un montón de personas mirando eso y sacando conclusiones. Lo que introduce un modelo de inteligencia artificial es la capacidad de analizar todos esos datos en
tiempo real según van entrando. No necesitas un mes de analistas mirándolos para decir, ha pasado por aquí o esta persona probablemente está viviendo en este sitio, sino que es un atajo que te permite construir sentido, es decir, hacer inteligencia a partir de datos que te están llegando de
forma masiva en tiempo real. Eso es lo que ha aportado Claude a la plataforma de Palantir que utiliza el gobierno de los Estados Unidos.¿ Por qué sabemos que ha utilizado Claude para el secuestro de Maduro y que lo ha utilizado en los ataques en Irán? Precisamente porque lo que ellos describen es un sistema de datos generados en tiempo real y un análisis de esos datos en tiempo real. Y la única manera de hacerlo es con un modelo de inteligencia artificial y el único que tienen es Claude. Se
volvemos. estamos de vuelta en el hilo. Ahora, hace siete años ya, en 2019, cuando publicaste tu libro El enemigo conoce el sistema, ahí hablas de un reclamo de trabajadores de Microsoft Azure, que es uno de los grandes servicios de almacenamiento en la nube. Los trabajadores reclamaban para que la empresa dejara de ofrecer su servicio especial al gobierno porque lo estaba utilizando completamente para separar familias en la frontera.
Pero también cuentas de, por ejemplo, cómo la tecnología desarrollada para detectar movimiento durante la guerra de Vietnam se recicló como sistema de vigilancia en la frontera con México. Y ya hablas también de la plataforma de Palantir para cruzar información, para que el gobierno pueda ser más eficiente para deportar migrantes.
La primera pregunta que tengo respecto de esto es,¿ Qué cosas fundamentales han cambiado en estos años, más allá de la eficiencia o la capacidad de procesar información de la tecnología?
Una cosa que no he dicho antes que creo que es importante es que sabemos que Palantir está siendo utilizado con Cloud, con la inteligencia artificial de Antropic, para cazar personas en Estados Unidos. De hecho, sabemos que tiene un programa o una aplicación dentro de su propia plataforma que se llama Elite Cloud, que les ayuda a generar mapas de calor para ir a hacer redadas en lugares donde el sistema piensa que hay una alta densidad de objetivos.
Y cuando digo objetivos, quiero decir personas que podrían ser susceptibles de ser deportadas, ¿no? Y entonces, esta es la herramienta que ha generado estos escenarios que hemos visto en Minneapolis y en otros lugares, de que entran en una casa y pillan todo lo que salga de esa casa, ¿no? Y entonces esa herramienta la están utilizando en combinación con otra,
que es un sistema de reconocimiento facial. Es decir, capturan gente que sale de un lugar donde ya Palantir, equipado con Claude, les ha dicho que a lo mejor hay muchos inmigrantes. Por ejemplo, una fábrica o por ejemplo... determinados edificios donde el alquiler a lo mejor es más accesible y luego según los van deteniendo les ponen el móvil en la cara y utilizan un sistema de reconocimiento facial
para ver si están en sus listas. Entonces sabemos que la están utilizando para cazar personas y también sabemos que algunas de esas personas Eran ciudadanos estadounidenses, es decir, que ya sabemos que el gobierno de Estados Unidos está utilizando Parantir y Cloth, el modelo de Antropic, para vigilar y perseguir a ciudadanos estadounidenses. Aunque sea porque son como delfines que se cuelan en las redes de pesca masiva de inmigrantes,
pero no tienen la capacidad de discriminar. Si en esos lugares donde hacen esas redadas gigantes hay o no hay ciudadanos estadounidenses. Es más, sabemos que hay, sabemos que han deportado ciudadanos estadounidenses.
ICE deportó a dos niñas ciudadanas estadounidenses. Sin embargo, un juez ha ordenado su regreso inmediato.
Entonces, lo primero es eso. Y lo segundo, toda tecnología que vulnera derechos en el extranjero vuelve... a vulnerar derechos en el lugar de origen. Esto, de hecho, está en un lugar común que tiene un nombre, es el efecto boomerang.
Es un efecto boomerang que existe desde el colonialismo, es decir, todas las cosas, todas las vulneraciones de derechos que se dieron cuando se colonizaron espacios y se trataron allí a la gente como si fueran animales o objetos y se catalogaron casi como si fueran plantas, eso inmediatamente después se repitió con ciudadanos locales. Generalmente empieza siendo minorías, esas minorías empiezan a convertirse en mayorías y al final todo vale.¿ Por qué? Porque el crimen no define a la víctima,
define al perpetrador. Es decir, que cuando tú utilizas herramientas que vulneran derechos en un lugar, el que te transforma eres tú, transforma tus valores. El que está alineado con esa vulneración de derechos es el que los ejecuta, es
el que utiliza esas herramientas y no la víctima. La víctima cambia, la víctima primero está en Vietnam o está en las Indias Orientales y después está en casa, porque una vez has terminado con las Indias Orientales, pues tienes un arma perfecta o una herramienta perfecta para librarte de la gente que no te gusta y que tienes en el jardín, de los homeless, de los enfermos, de las prostitutas, de los homosexuales, de los opositores, de los activistas, de
los vegetarianos... Y así unos detrás de otros. Ha ocurrido siempre. Es un efecto boomerang. Entonces ha ocurrido siempre que un gobierno que desarrolla ese tipo de herramientas acaba utilizándolas con sus propios ciudadanos. Es más, tenemos que pensar. que la gran partida presupuestaria que anunció el gobierno hace un año ha beneficiado muy expresamente a ICE y a toda la
agencia de vigilancia de frontera. Es decir, le han dado un presupuesto gigantesco para que abra centros de detención nuevos, gigantescos, un poco como el FECOT de El Salvador, pero dentro de Estados Unidos, y además expanda su red de oficinas y de instalaciones en todo el país, lo cual es bastante interesante porque estamos hablando de una organización que en
principio solamente trata con inmigrantes. Entonces, si Donald Trump ha prometido en campaña que va a deportar a 14 millones de personas y genera una infraestructura que lo permite,¿ qué va a pasar cuando haya ejecutado su plan? Es decir, está desarrollando infraestructura sólida para un plan que teóricamente es temporal. Hay que preguntarse por qué invierte tanto dinero en esa infraestructura y en esas herramientas cuando una vez haya deportado
a esas 14 millones de personas el problema estará resuelto. Parece una inversión muy importante para un problema relativamente temporal. Esto quiere responder a tu última pregunta, que es qué es lo que ha cambiado. Para mí han cambiado dos cosas. La dinámica no ha cambiado en absoluto. Esta dinámica de la... industria tecnológica que se hibrida con el gobierno para hacer cosas que no debe es la misma que denunció Edward
Snowden en 2013. En 2013 descubrimos que los servicios gratuitos de mensajería, de correo, de música, de almacenamiento que nos ofrecían tan generosamente las empresas tecnológicas eran parte de los largos tentáculos del Departamento de Defensa de los Estados Unidos y de su alianza con otros departamentos de inteligencia, Inglaterra, Australia, Nueva Zelanda, Canadá, descubrimos eso. Es decir, esa relación existe desde el principio. Lo que ha cambiado es que esa infraestructura ha crecido,
ahora es mucho más grande. Es decir, si antes esos tentáculos estaban en nuestros bolsillos, ahora estos tentáculos están en nuestras ciudades. La otra cosa que ha cambiado es Es la inteligencia artificial. La inteligencia artificial permite que esa infraestructura funcione como un sistema de vigilancia total en tiempo real.
Crees que el desarrollo de la IA para fines bélicos sí supone un cambio de paradigma, un salto a otra fase? Algo que puede mover mucho el tablero del poder y de la eficiencia militar, como, no sé, la creación de la bomba nuclear, o es exagerado pensarlo así.
Cuántas veces hemos visto el secuestro de un presidente de un estado que se resuelve literalmente en 60 minutos? Estamos viendo cómo en las últimas guerras, en los últimos centros de acción bélica, que vamos a decir que han sido en los últimos años Gaza y Ucrania, los dos se han
convertido en laboratorios de nuevas tecnologías de guerra. Ese desarrollo que en Gaza ha estado ocurriendo durante mucho tiempo, y hay de hecho un libro fantástico sobre este tema que se llama El laboratorio palestino, que ha escrito un periodista australiano que se llama Anthony Lowenstein, Él hablaba precisamente de cómo Estados Unidos, a través de Israel, ha estado desarrollando tecnologías de vigilancia y tecnologías de asesinato en Gaza durante
todos estos años, que luego han permeado. hacia adentro, hacia Estados Unidos y también hacia Ucrania. Y en Ucrania todas las grandes empresas tecnológicas han participado, muy especialmente Palantir, porque es un escenario de testeo fantástico para estas tecnologías. Entonces, la habilidad, una vez ya se ha creado esta infraestructura de captura y análisis de datos masivos en tiempo real, la habilidad de usar esos datos en tiempo real es insólita.
O sea, durante todos estos años hemos estado hablando de la máquina de vigilancia, de las Big Tech y del gobierno de Estados Unidos y de China, pues esa máquina de la vigilancia lo que hacía era amontonar datos, amontonar datos.
Y luego ha creado unos algoritmos que han ido utilizando parte de esos datos para sacar conclusiones en tiempo real y vendernos anuncios Luego más tarde vendernos propaganda, vendernos ideología política y vendernos una visión del mundo a cada uno en función de los intereses de cada plataforma o de sus clientes. Ahora lo que tenemos es una infraestructura de vigilancia masiva en tiempo real que puede actuar en tiempo real, que puede entender en tiempo real, que está viendo el
mundo en tiempo real. Esto hace cinco años no existía y yo sí creo que lo cambia todo.
Sobre esto que estás hablando, sobre esto mismo, tengo una pregunta pero quiero empezar un paso antes y es sobre el uso de esta tecnología y cómo aceptamos y justificamos la inteligencia artificial como si fuera una fuente objetiva de información y por lo tanto incapaz de cometer errores de
juicio como las personas. Por un lado es muy impresionante ver a la gente aceptando ciegamente lo que dice Grok o ChatGPT, Grok, como verificador de información, digamos, de uno de los mayores desinformadores de este planeta, que es Elon Musk, o la gente que le pide consejos médicos a ChatGPT
y hace lo que ChatGPT le dice. Pero también ves justamente, digamos, a Elon Musk y otros funcionarios acusando a Antropic de querer hacer una inteligencia artificial WOC, que sería... supuestamente contrario a una inteligencia artificial neutral. A mí se me ocurre que al acusar de progresista a una inteligencia artificial están reconociendo el sesgo que puede tener, pero hay como una tendencia a pensar que es su juicio objetivo. Lo que quería saber es,¿ Hay alguna forma, es esto posible, de
tener una inteligencia artificial neutral? Y si no,¿ cómo es posible que una inteligencia artificial sea racista, por ejemplo?
La inteligencia artificial llega a nosotros con una ventaja. Y es que nos han entrenado durante 20 años para pensar que Google era neutral. Es decir... El buscador de Google, que ha sido nuestra puerta a Internet durante todos estos años, es algo que la mayor parte de la gente piensa que está basado en un sistema jerárquico de popularidad, de eficiencia y de precisión. Y no que es la principal fuente de ingresos de Google porque es su principal plataforma
de publicidad. Es decir, el buscador de Google lo que te da es publicidad. Te da una publicidad que se parece de hecho mucho a los anuncios clasificados que antes salían en el periódico. Es decir, todo lo que sale
en Google en tu primera página está pagado. Y cuando aparece primero o más destacado una cosa en lugar de otra, todo el mundo piensa que es porque es la mejor respuesta posible, porque es lo más cercano a una respuesta perfecta que Google te puede encontrar en Internet, cuando en realidad lo que hay es algo que ha pagado para estar ahí. Por ese mismo motivo, la gente piensa que cuando busca algo en Amazon, lo primero que le sale
es exactamente lo que está buscando. Cuando en los últimos años hemos empezado a ver que no es así.¿ Por qué? Pues porque el sistema de subastas interior de Amazon, por el cual la gente que quiere vender un producto lo que hace es pagar para que su producto salga primero, se ha roto. Se ha roto porque ahora pides algo que existe y que se llama de tal manera y te aparece cualquier otra cosa parecida porque han pagado más
y entra dentro de la misma categoría. Entonces, después de todos estos años pensando que estamos tratando con sistemas que lo que hacen es bucear en la información y conseguir la respuesta más parecida a la verdad que ha encontrado, pues no nos cuesta tanto pensar que un sistema que tiene en la cabeza todo lo que existe en Internet te puede ofrecer lo más parecido a la verdad. Porque tenemos este concepto de que si me equivoco es porque me faltan datos. Pues quien tiene todos los datos posibles
no se puede equivocar nunca. Partimos de la base de que es una tecnología que no tiene dueños, que no tiene objetivos, que no tiene principios, que simplemente flota como Dios, lo ve todo, lo procesa todo de una manera completamente limpia y favorece solo la verdad. No estamos en ese escenario en absoluto, estamos ante una herramienta que, aun en el caso de que hubiera sido generada con el objetivo último de acercarse lo más posible a la verdad, está
entrenada con nuestro pasado. Es decir, es una tecnología cuya magia es repetir lo que llevamos haciendo desde el principio de los registros de Internet.¿ Nosotros somos racistas? Yo diría que sí. Y entonces, esa tecnología que ha crecido mirando todo lo que hemos hecho hasta ahora, pues lo normal, si su gran habilidad es repetir patrones, es que repita los mismos patrones que ha aprendido. Y ha aprendido de nosotros.
Y nuestros patrones son los que son. Somos racistas, somos sexistas, somos misóginos, tenemos... afición por contenidos escandalosos, tenemos sesgos, tenemos sesgos aprendidos y otros sesgos que tienen que ver con nuestras capacidades cognitivas y con nuestros puntos ciegos. Es decir, es un sistema de repetición de patrones que repite nuestros errores a escala. Por lo tanto, nunca va a ser una herramienta perfecta y, desde luego, nunca va a ser la herramienta que nos va a acercar a la verdad.
Hacemos una última pausa y volvemos. Estamos de vuelta en el hilo. Hace un ratito te preguntaba por la comparación entre el uso de la IA con fines militares y la bomba nuclear, justo porque escuché un experto que planteaba el conflicto que hay entre público y privado con esta tecnología, usando... De ejemplo, la bomba nuclear. Él decía, a ustedes les gustaría que un desarrollo como la bomba atómica estuviera a cargo de empresas privadas y que tuviésemos que confiar en
las buenas intenciones de los empresarios. Y claro, cuando uno lo piensa así, sobre todo teniendo como referencia cómo han actuado los empresarios tecnológicos en las últimas dos décadas, te da pavor, ¿no? Pero en el caso de Antropi y el Pentágono, por ejemplo, es al revés, es un privado
poniéndole límites al Estado. Vivimos en una época en que la política ha perdido tantos escrúpulos que quería saber si crees que todavía estamos a tiempo de algún tipo de límite legal o de regulación que verdaderamente sirva para algo frente a esto, o más bien tenemos que poner la esperanza en las decisiones éticas que tomen personas particulares. que
hasta ahora es Darío Amodei, ¿no? Porque ChatGPT, digo, la empresa OpenAI, salió inmediatamente a acudir al llamado del Pentágono después de la pelea con Antropi.
Para sorpresa de
nadie
Vivimos claramente en una época insólita. Antes hacía falta el poder económico y legal y la energía de un estado, de un gobierno o de varios estados para hacer algo tan grande como ir a la luna o como construir una bomba atómica. Ahora estamos en un momento en el que un solo individuo con una sola empresa... puede hacer todas esas cosas casi con la misma empresa, ¿no? Hacer una bomba atómica, ir a la Luna, irse a Marte,
recoger a su novia, volver... Estamos en un momento muy extraño en el que la concentración de recursos es tan alta que una persona puede tomar esa decisión sin haber sido elegida democráticamente, ni haber sido votada por nadie, ni tener un Parlamento que tenga que valorar sus decisiones antes de ser ejecutadas, ¿no? Entonces es un momento muy especial. Pero también es verdad que algunas de las personas que han sido votadas democráticamente están actuando de forma muy antidemocrática
y muy irresponsable. En este momento, en esta pelea entre Antropik y el gobierno de los Estados Unidos, estamos viendo casi una inversión de la fórmula habitual, que es un gobierno poniéndole freno a una empresa. Ahora estamos viendo que una empresa le está poniendo freno a un gobierno. Es una situación muy interesante porque nos demuestra que no pueden
actuar por su cuenta cada uno de ellos. El software de Antropic, el modelo de inteligencia artificial de Antropic, pero también el de ChatGPT o el de Google, no son como un helicóptero que te compras y puedes usar como te dé la gana. No son como un tanque que te compras y puedes llevarlo a donde quieras. Son servicios virtuales. que funciona desde una infraestructura de nube que generalmente no
está dentro del garaje del Estado. Es decir, hay una independencia que es física, que es materialista, que hace que un gobierno como el de Estados Unidos no pueda decidir usar un modelo de inteligencia artificial para vigilar a sus propios ciudadanos o para matar gente de forma masiva sin que la empresa sea responsable deliberadamente participe de esa misión. Esto es interesante porque lo que dice es que sí
hay responsabilidad. Es que la empresa no puede decir no, es que nosotros le vendimos la tecnología y nos lavamos las manos. Las empresas son corresponsables de todo lo que haga el gobierno con esos productos tecnológicos. Y esto yo creo que crea una situación que requiere un consenso. Requiere consenso entre los gobiernos y las empresas.¿ Qué pasa? Hay gobiernos donde eso no es un problema porque son gobiernos regímenes autoritarios donde todas las empresas trabajan para el partido,
como por ejemplo en China. Y luego hay gobiernos donde sí es un problema porque a lo mejor unas empresas están alineadas con esta filosofía y otras no. Yo creo que ahí hay una oportunidad. Hay una oportunidad improbable de que las empresas tecnológicas lleguen a un consenso entre ellas de no participar de forma oportunista en la guerra de este gobierno contra sus propios ciudadanos y contra los de otros países. Creo que hay una oportunidad de rehumanizar esta situación.
No digo que la vayan a aprovechar, no digo que yo tenga optimismo en ese sentido, pero digo que hay una oportunidad. de que esa corresponsabilidad redunde en beneficio del bien común y no en beneficio de siete oligarcas y un gobierno autoritario.
Todo lo que sale o leemos en la prensa, más o menos serio sobre inteligencia artificial, es todo abrumador y distópico, ¿no? Y como te decía, favorece un montón a los millonarios a cargo de estas empresas porque significa que esta sensación de inminencia les da cheque en blanco para no frenar nunca su carrera. Pero también el otro día escuchaba un periodista que decía hay muchas cosas para preocuparse con la inteligencia artificial, pero también podemos tener diferentes emociones respecto de
esta tecnología. O sea, no solamente el miedo y la ira y la desesperación. Dice, es un momento fascinante, ¿no? Y también hay noticias como, no sé, un empresario que usa la IA para investigar una cura para el cáncer de su perra sin tener conocimientos de biotecnología, ¿no? Quería saber entonces cómo haces tú para mirar entre estos dos extremos, porque además no tienes chances de de tomar distancia, como
los que cubrimos otras cosas. Es tu tema. Entonces es una consulta de autoayuda, si se quiere, para cerrar.¿ Cuáles son tus estrategias para no caer en trampas de pensamiento, ni en nihilismo absoluto, ni en campañas de prensa?¿ Qué es lo que te ha funcionado para mirar de frente todo sin perder por completo el espíritu? Bueno, lo primero que
tengo que decir es que A mí a menudo me acusan de ser ludita y me hace mucha gracia porque yo he dedicado a la tecnología toda mi vida
Los luditas fueron un movimiento obrero que surgió durante la revolución industrial, que tenía como forma de protesta la destrucción de telares y otras máquinas que se estaban usando para desaparecer sus oficios. Luditas se usa de manera simplista para referirse a quienes rechazan o desconfían de la tecnología moderna.
Es decir, yo desde pequeña he sido una aficionada a la tecnología, mi padre era ingeniero, en mi casa siempre ha habido pasión por todo lo técnico y desde el principio de mi carrera yo me he dedicado a cubrir internet, a escribir sobre infraestructuras técnicas y de comunicaciones y es La cosa que más me interesa en este mundo. Es decir, siento que vivo en un mundo fascinante. Todos los días me despierto y sé que voy a descubrir cosas increíbles
porque pasan cosas increíbles todos los días. Tengo la ventaja sobre a lo mejor gente que ha tenido otras pasiones en la vida. Que yo desde muy pronto estuve muy vinculada a la escena del software libre, al mundo de los hackers y entonces he sido testigo permanente de gente genial haciendo cosas increíbles con tecnologías que han sido diseñadas para beneficiar al máximo de gente posible. Entonces mi relación con la tecnología no está contaminada del todo por lo
que pienso de las plataformas digitales. Vivimos en un momento en el que las plataformas digitales ocupan tanto espacio en nuestras vidas que cuando hablamos de tecnología parece que estamos hablando solo de eso. La tecnología es un mundo mucho más grande. Antes cuando hablábamos de tecnología solo hablábamos de Internet. Ahora cuando decimos Internet en realidad queremos decir Instagram, Twitter
y Google. Y ahora todo es la IA. Ahora cuando la gente dice me asusta la tecnología lo que quiere decir es que los modelos de inteligencia artificial me dan miedo.
Entonces yo siento que tengo una relación mucho más rica con la tecnología de la que trasciende en mi trabajo porque estoy viviendo un momento en el que una de mis grandes obsesiones, que es el vínculo entre la tecnología y el poder, es decir, el uso de la tecnología para vigilar, controlar, manipular y destruir comunidades, está escalando de forma acelerada y está ocurriendo delante de nuestras narices. Entonces, yo vivo con enorme excitación el mundo de la inteligencia artificial.
Es decir, una de mis frases favoritas mías de los últimos años es que los modelos de inteligencia artificial son demasiado importantes para dejarlos en manos de los siete magníficos, de las grandes empresas tecnológicas estadounidenses. Creo que es un desarrollo que empezó en las universidades y debería seguir en
las universidades. Pienso que Tenemos la posibilidad, perfectamente al alcance, desde luego de Europa, pero también del resto del mundo, de construir inteligencia artificial de la misma manera que construimos Internet. Es decir, como un proyecto colectivo, descentralizado, diseñado para ser resiliente, para ser inteligente. lo más neutro posible para beneficiar al máximo número de personas posibles y nos salió bien. Internet funciona muy bien, Internet ha cambiado nuestras vidas para bien.
Lamentablemente está siendo un desarrollo que ha sido secuestrado por un grupo de personas y lo han convertido en una carrera armamentística que depende de una cantidad imposible de recursos. Entonces, cuando yo escribo de forma muy negativa sobre este tipo de desarrollo, es porque viniendo del software libre y creyendo firmemente en el poder de la tecnología para cambiar nuestras vidas para mejor, sé que ese no es el camino apropiado.¿ Cómo vivo yo este momento? Pues lo vivo sabiendo que
el problema que tenemos no es técnico. Tenemos soluciones técnicas para este problema. Hay maneras de hacerlo bien. Y mucha gente conoce esas maneras y tenemos toda la infraestructura que necesitamos para hacerlo bien. Pero hay una ceguera que está contaminada por el hecho de que los mismos que están al volante de esas tecnologías están al volante de los
medios de comunicación. Es decir, esa concentración de poder de extracción y análisis de datos y de control masivo de esa información... también ha permeado al mundo de los medios de comunicación. Es decir, estamos en un ecosistema mediático donde nuestra visión del mundo está diseñada por las mismas personas que nos quieren controlar. Y entonces, pues es un momento
muy difícil para ser optimista. Pero yo lo soy. Yo soy optimista porque sé que nuestro problema no es un problema técnico, no es que tengamos que inventar una tecnología nueva para solucionar esta concentración de poder, esta concentración de medios y este control masivo. No necesitamos una nueva tecnología, tenemos toda la tecnología y todo el conocimiento que necesitamos para resolver eso. Lo que necesitamos es una generación política que esté a la altura de las circunstancias.
Marda, muchísimas gracias por hacerte un tiempo para
nosotros. Es un placer, como siempre
Este episodio fue producido por mí. Bruno Selsa hizo la verificación de datos. El diseño de sonido es de Elías González y la música es de él y Remi Lozano. El equipo de producción del Hilo está formado por Daniela Cruzat, Jesús Delgadillo, Samantha Proaño y Franklin Villavicencio, con el arte y diseño de Diego Corzo. El resto del equipo incluye a Natalia Ramírez, Paola Leán, Camilo Jiménez Antofimio, Elsa Lidiana Ulloa, Silvia Viñas y Daniela Larcón. Carolina Guerrero es la CEO
de Radioambulante Estudios. Nuestro tema musical lo compuso Pauchi Sasaki. El Hilo es un podcast de Radioambulante Estudios. Si valoras el periodismo independiente y riguroso, Te pedimos que te unas a nuestras membresías. América Latina es una región compleja y nuestro periodismo necesita de oyentes como tú. Visita elhilo.audio barra donar y ayúdanos con una donación. Si quieres profundizar sobre el episodio de hoy, suscríbete a nuestro boletín de correo
entrando a elhilo.audio barra boletín. Lo enviamos cada viernes. También puedes seguirnos en nuestras redes sociales. Estamos en Instagram, X, Blue Sky, Facebook y Threads. Nos encuentras como arrobaelilopodcast. Déjanos ahí tus comentarios y etiquétanos cuando compartas los episodios. Gracias por escuchar.