Thierry Meyssan
Esos chatbots dicen al usuario lo que el usuario quiere o铆r y el resultado es que lo estimulan a que profundice sus defectos
La inteligencia artificial (IA) hace muy r谩pido cosas que nos exigen mucho tiempo. Su impacto robotiza los procesos intelectuales. Las computadoras perturbaron el mundo del trabajo para los llamados “cuellos azules”, pero la IA va a tener el mismo efecto para los “cuellos blancos”. Y ya se est谩n viendo las primeras series de desastres, no por causa de los sistemas de inteligencia artificial sino por culpa de quienes los manipulan. El problema no consiste tanto en verificar la calidad de las IA sino en la inteligencia de quienes conf铆an en esos sistemas.
Las inteligencias artificiales no son cerebros sino superordenadores capaces de absorber una infinita cantidad de datos. Carecen de emociones, de intenci贸n y de voluntad. S贸lo pueden modificar su programaci贸n para agregarle nuevas capacidades de c谩lculo.
La prensa se agita actualmente alrededor del debate sobre la importancia y los peligros de las “inteligencias artificiales” (IA). Pero, bajo la influencia del escritor de ciencia ficci贸n Eliezer Yudkowsky, convertido en gur煤 de Silicon Valley, los medios de prensa se focalizan en un enfoque m铆tico, el de la m谩quina que se ir铆a por encima del hombre para acabar destruy茅ndolo. Es un regreso a los temas del g贸lem o de la criatura del Dr. Frankenstein. Dado el hecho que una inteligencia artificial es incapaz de crear, s贸lo puede consultar de manera extremadamente r谩pida los datos que se le han proporcionado. El verdadero peligro no es ese.
El peligro que enfrentamos actualmente es el de dejarnos fascinar por la m谩quina. Muchas personas llegan a establecer relaciones afectivas con bots conversacionales (los llamados “chatbots” [1]). Esos chatbots dicen al usuario lo que el usuario quiere o铆r y el resultado es que lo estimulan a que profundice sus defectos. Es un problema que los psic贸logos conocen desde hace much铆simo tiempo.
El uso de sistemas de inteligencia artificial por los estados mayores militares comenz贸 en los a帽os 1990, durante la agresi贸n de Estados Unidos contra Irak, con el objetivo de resolver problemas de log铆stica que exig铆an el an谩lisis simult谩neo de un gran n煤mero de factores. Poco a poco, se comenz贸 a introducir la IA en numerosas armas. Los problemas comenzaron cuando los militares decidieron apoyarse en la IA para tomar decisiones “en tiempo real”, o sea desde 2024.
Francia decidi贸 dotarse de una Agencia Ministerial para la Inteligencia Artificial en la Defensa (AMIAD). La decisi贸n se tom贸 en marzo de 2024 y la AMIAD fue creada dos meses despu茅s. Esta agencia se impuso entonces un l铆mite: no dejar nunca en manos de la IA de un arma la decisi贸n de matar.
Por el contrario, el Pent谩gono estadounidense, que no observa la misma norma 茅tica, acaba de instaurar el “Proyecto Meridian” [2]. Despu茅s del conflicto que lo enfrent贸 con Anthropic, sobre los l铆mites que esa firma quer铆a imponer al uso de su sistema de IA, denominado Claude, el Departamento de la Guerra de Estados Unidos no quiere tener que rendir cuentas a absolutamente nadie. As铆 que ha encargado a Elon Musk y Palmer Luckey (el creador de los cascos de realidad virtual) la tarea de decidir qu茅 hacer en lo adelante.
Ya se han dado casos en los que el uso de la inteligencia artificial ha conducido a cat谩strofes, que pod铆an haber sido f谩cilmente evitables. En todos esos casos, los “responsables” confiaron en la IA al extremo de llegar a preguntarle lo que la IA no pod铆a saber.
Lo m谩s terrible es que muy altas personalidades, evidentemente poco seguras de sus propias capacidades, se han dejado manipular por los sistemas de inteligencia artificial. Por el contrario, las personas que “tienen los pies en la tierra” se muestran inmediatamente esc茅pticas cuando una IA les lanza una idiotez.
• Durante las operaciones israel铆es de represalia que siguieron a la operaci贸n palestina Diluvio de Al-Aqsa, realizada el 7 de octubre de 2023, las fuerzas armadas de Israel recurrieron a la inteligencia artificial para que esta determinara los blancos que iban a bombardear. Inicialmente, en los par谩metros establecidos, se帽alaron a la IA que no deb铆a sobrepasar el l铆mite de 2 bajas civiles como “da帽os colaterales” aceptables en la eliminaci贸n de cada objetivo. Pero, muy r谩pidamente, los militares israel铆es comenzaron a elevar la cifra inicial, hasta que las IA dejaron de tenerla en cuenta.
Esa modificaci贸n del uso militar de la IA en Gaza incluy贸 un cambio de sistema de inteligencia artificial y de los objetivos fijados. Los militares israel铆es pasaron de la IA Habsora a la IA Lavender. Ya no se trataba de evaluar los posibles “da帽os colaterales” sino de concentrarse en la eliminaci贸n de los presuntos 37 000 miembros del Hamas y de la Yihad Isl谩mica.
Los oficiales israel铆es que aprobaban los ataques s贸lo se interesaban en verificar si los “objetivos” pod铆an ser miembros de las organizaciones palestinas. Quiz谩s hasta pudiera decirse que algunos fueron genocidas de forma involuntaria. Simplemente dejaron “el trabajo” en manos de la inteligencia artificial, es posible que hasta sin darse cuenta de las consecuencias. Y cuando al fin vieron las consecuencias… ya era demasiado tarde [3].
Pero la diferencia entre un ej茅rcito civilizado y una banda de b谩rbaros reside precisamente en la preocupaci贸n por la protecci贸n de los civiles. Claro est谩, ciertos miembros del gobierno israel铆 repet铆an constantemente a sus soldados que “todos los palestinos son terroristas”. Pero el salvajismo reinante no anula la responsabilidad personal. Por muy chocante que pueda parecer, y aunque lo hayan hecho sin darse cuenta, cometieron un genocidio.
Ante esos casos, no es v谩lido invocar “errores” de la inteligencia artificial ni de los operadores humanos. El crimen se cometi贸 por inconciencia. Seg煤n investigaciones period铆sticas, parece que mientras m谩s j贸venes e inexperimentados eran los oficiales, m谩s f谩cilmente olvidaban la realidad y aceptaban o provocaban la masacre contra los civiles.
• Durante la llamada “guerra de los 12 d铆as”, los occidentales recurrieron al Organismo Internacional de la Energ铆a At贸mica (OIEA) para saber en qu茅 punto se hallaban las investigaciones nucleares iran铆es. El director del OIEA, el argentino Rafael Grossi, consult贸 entonces su versi贸n de Mosaic, una IA de Databricks. Y Mosaic le “confirm贸” que el gobierno de Ir谩n estaba a punto de fabricar la bomba at贸mica, algo ampliamente cuestionado por… los inspectores del organismo dirigido por el mismo Rafael Grossi [4]. Las alegaciones intempestivas de Grossi estuvieron a punto de desatar un ataque nuclear estadounidense.
¿Qui茅n dirige Databricks? Al铆 Ghodsi, un empresario e investigador en inform谩tica que ostenta simult谩neamente las nacionalidades iran铆, sueca y estadounidense. Este se帽or no hace pol铆tica, pero es miembro de una red de inform谩ticos denominada Israel Collaboration Network (ICON). Para m谩s informaci贸n, la versi贸n de Mosaic utilizada en Viena por el OIEA fue instalada por un grupo de ingenieros israel铆es.
Esto se puede interpretar de dos maneras. Podemos pensar que el argentino Rafael Grossi fue manipulado por el Mossad israel铆. Pero tambi茅n podemos llegar a la conclusi贸n de que Grossi es tan influenciable que prefiere confiar en lo que le dice una m谩quina en vez de confiar en sus propios especialistas.
• En diciembre de 2015, el presidente de Estados Unidos, Donald Trump, le pregunt贸 a Grok, la IA de Elon Musk, c贸mo reaccionar铆an los venezolanos si el presidente de su pa铆s, Nicol谩s Maduro, fuese secuestrado. En aquel momento, eso era s贸lo una hip贸tesis que la CIA y el SouthCom hab铆an mencionado. Pero, seg煤n Time Magazine, Grok respondi贸 que los venezolanos estar铆an muy contentos. Eso fue lo 煤nico que Trump necesit贸 para ordenar el secuestro de un jefe de Estado latinoamericano, realizado en enero pasado por las fuerzas especiales de Estados Unidos [5].
¿Por qu茅 solicitar la opini贸n de otros si tenemos una “inteligencia artificial” que sintetiza el pensamiento de todos? Simplemente porque la IA s贸lo formula el pensamiento promedio en funci贸n de los datos que se le han dado. Las IA son s贸lo algoritmos. No reflexionan y se limitan a reformular el pensamiento que se pretende explorar. Una persona que conozca a los venezolanos habr铆a respondido teniendo en cuenta las complejidades de la cultura de Venezuela. No habr铆a rechazado ni aprobado la propuesta del presidente Trump sino que habr铆a subrayado que las reacciones [6] de los venezolanos depender铆an de su categor铆a social, incluso de la regi贸n del pa铆s donde viven, as铆 como de las circunstancias del momento.
• Recientemente, el presidente ruso Vladimir Putin explic贸 que los problemas que hoy se plantean con las IA no son nuevos. Ya exist铆an antes, con m谩quinas mucho menos sofisticadas.
En el Club de Valdai, el presidente Putin cont贸 que durante la guerra fr铆a, en 1983, los sat茅lites sovi茅ticos detectaron el lanzamiento de 5 misiles nucleares en Estados Unidos. El coronel Stanislav Petrov, que estaba en aquel momento a cargo de la respuesta sovi茅tica, inmediatamente dud贸 de lo que las m谩quinas le indicaban y procedi贸 a verificar antes de iniciar la respuesta. As铆 comprob贸 que las m谩quinas se hab铆an equivocado. Estados Unidos no hab铆a iniciado la guerra nuclear… el coronel sovi茅tico tampoco lo hizo [7].
El problema de hoy es exactamente el mismo. Seguimos siendo due帽os de las m谩quinas, pero si no estamos atentos, nuestra propia incompetencia o nuestro orgullo pueden llevarnos a cometer errores que, aunque parezcan peque帽os, tendr谩n consecuencias aterradoras.
Lo cierto es que una IA no puede manipular a alguien, simplemente porque una IA no puede tener intenciones ni voluntad propia. Pero nuestra propia pereza nos pone en peligro de dar cr茅dito a lo que nos dice una m谩quina mal ajustada.
La inteligencia artificial (IA) hace muy r谩pido cosas que nos exigen mucho tiempo. Su impacto robotiza los procesos intelectuales. Las computadoras perturbaron el mundo del trabajo para los llamados “cuellos azules”, pero la IA va a tener el mismo efecto para los “cuellos blancos”. Y ya se est谩n viendo las primeras series de desastres, no por causa de los sistemas de inteligencia artificial sino por culpa de quienes los manipulan. El problema no consiste tanto en verificar la calidad de las IA sino en la inteligencia de quienes conf铆an en esos sistemas.
Las inteligencias artificiales no son cerebros sino superordenadores capaces de absorber una infinita cantidad de datos. Carecen de emociones, de intenci贸n y de voluntad. S贸lo pueden modificar su programaci贸n para agregarle nuevas capacidades de c谩lculo.
La prensa se agita actualmente alrededor del debate sobre la importancia y los peligros de las “inteligencias artificiales” (IA). Pero, bajo la influencia del escritor de ciencia ficci贸n Eliezer Yudkowsky, convertido en gur煤 de Silicon Valley, los medios de prensa se focalizan en un enfoque m铆tico, el de la m谩quina que se ir铆a por encima del hombre para acabar destruy茅ndolo. Es un regreso a los temas del g贸lem o de la criatura del Dr. Frankenstein. Dado el hecho que una inteligencia artificial es incapaz de crear, s贸lo puede consultar de manera extremadamente r谩pida los datos que se le han proporcionado. El verdadero peligro no es ese.
El peligro que enfrentamos actualmente es el de dejarnos fascinar por la m谩quina. Muchas personas llegan a establecer relaciones afectivas con bots conversacionales (los llamados “chatbots” [1]). Esos chatbots dicen al usuario lo que el usuario quiere o铆r y el resultado es que lo estimulan a que profundice sus defectos. Es un problema que los psic贸logos conocen desde hace much铆simo tiempo.
El uso de sistemas de inteligencia artificial por los estados mayores militares comenz贸 en los a帽os 1990, durante la agresi贸n de Estados Unidos contra Irak, con el objetivo de resolver problemas de log铆stica que exig铆an el an谩lisis simult谩neo de un gran n煤mero de factores. Poco a poco, se comenz贸 a introducir la IA en numerosas armas. Los problemas comenzaron cuando los militares decidieron apoyarse en la IA para tomar decisiones “en tiempo real”, o sea desde 2024.
Francia decidi贸 dotarse de una Agencia Ministerial para la Inteligencia Artificial en la Defensa (AMIAD). La decisi贸n se tom贸 en marzo de 2024 y la AMIAD fue creada dos meses despu茅s. Esta agencia se impuso entonces un l铆mite: no dejar nunca en manos de la IA de un arma la decisi贸n de matar.
Por el contrario, el Pent谩gono estadounidense, que no observa la misma norma 茅tica, acaba de instaurar el “Proyecto Meridian” [2]. Despu茅s del conflicto que lo enfrent贸 con Anthropic, sobre los l铆mites que esa firma quer铆a imponer al uso de su sistema de IA, denominado Claude, el Departamento de la Guerra de Estados Unidos no quiere tener que rendir cuentas a absolutamente nadie. As铆 que ha encargado a Elon Musk y Palmer Luckey (el creador de los cascos de realidad virtual) la tarea de decidir qu茅 hacer en lo adelante.
Ya se han dado casos en los que el uso de la inteligencia artificial ha conducido a cat谩strofes, que pod铆an haber sido f谩cilmente evitables. En todos esos casos, los “responsables” confiaron en la IA al extremo de llegar a preguntarle lo que la IA no pod铆a saber.
Lo m谩s terrible es que muy altas personalidades, evidentemente poco seguras de sus propias capacidades, se han dejado manipular por los sistemas de inteligencia artificial. Por el contrario, las personas que “tienen los pies en la tierra” se muestran inmediatamente esc茅pticas cuando una IA les lanza una idiotez.
• Durante las operaciones israel铆es de represalia que siguieron a la operaci贸n palestina Diluvio de Al-Aqsa, realizada el 7 de octubre de 2023, las fuerzas armadas de Israel recurrieron a la inteligencia artificial para que esta determinara los blancos que iban a bombardear. Inicialmente, en los par谩metros establecidos, se帽alaron a la IA que no deb铆a sobrepasar el l铆mite de 2 bajas civiles como “da帽os colaterales” aceptables en la eliminaci贸n de cada objetivo. Pero, muy r谩pidamente, los militares israel铆es comenzaron a elevar la cifra inicial, hasta que las IA dejaron de tenerla en cuenta.
Esa modificaci贸n del uso militar de la IA en Gaza incluy贸 un cambio de sistema de inteligencia artificial y de los objetivos fijados. Los militares israel铆es pasaron de la IA Habsora a la IA Lavender. Ya no se trataba de evaluar los posibles “da帽os colaterales” sino de concentrarse en la eliminaci贸n de los presuntos 37 000 miembros del Hamas y de la Yihad Isl谩mica.
Los oficiales israel铆es que aprobaban los ataques s贸lo se interesaban en verificar si los “objetivos” pod铆an ser miembros de las organizaciones palestinas. Quiz谩s hasta pudiera decirse que algunos fueron genocidas de forma involuntaria. Simplemente dejaron “el trabajo” en manos de la inteligencia artificial, es posible que hasta sin darse cuenta de las consecuencias. Y cuando al fin vieron las consecuencias… ya era demasiado tarde [3].
Pero la diferencia entre un ej茅rcito civilizado y una banda de b谩rbaros reside precisamente en la preocupaci贸n por la protecci贸n de los civiles. Claro est谩, ciertos miembros del gobierno israel铆 repet铆an constantemente a sus soldados que “todos los palestinos son terroristas”. Pero el salvajismo reinante no anula la responsabilidad personal. Por muy chocante que pueda parecer, y aunque lo hayan hecho sin darse cuenta, cometieron un genocidio.
Ante esos casos, no es v谩lido invocar “errores” de la inteligencia artificial ni de los operadores humanos. El crimen se cometi贸 por inconciencia. Seg煤n investigaciones period铆sticas, parece que mientras m谩s j贸venes e inexperimentados eran los oficiales, m谩s f谩cilmente olvidaban la realidad y aceptaban o provocaban la masacre contra los civiles.
• Durante la llamada “guerra de los 12 d铆as”, los occidentales recurrieron al Organismo Internacional de la Energ铆a At贸mica (OIEA) para saber en qu茅 punto se hallaban las investigaciones nucleares iran铆es. El director del OIEA, el argentino Rafael Grossi, consult贸 entonces su versi贸n de Mosaic, una IA de Databricks. Y Mosaic le “confirm贸” que el gobierno de Ir谩n estaba a punto de fabricar la bomba at贸mica, algo ampliamente cuestionado por… los inspectores del organismo dirigido por el mismo Rafael Grossi [4]. Las alegaciones intempestivas de Grossi estuvieron a punto de desatar un ataque nuclear estadounidense.
¿Qui茅n dirige Databricks? Al铆 Ghodsi, un empresario e investigador en inform谩tica que ostenta simult谩neamente las nacionalidades iran铆, sueca y estadounidense. Este se帽or no hace pol铆tica, pero es miembro de una red de inform谩ticos denominada Israel Collaboration Network (ICON). Para m谩s informaci贸n, la versi贸n de Mosaic utilizada en Viena por el OIEA fue instalada por un grupo de ingenieros israel铆es.
Esto se puede interpretar de dos maneras. Podemos pensar que el argentino Rafael Grossi fue manipulado por el Mossad israel铆. Pero tambi茅n podemos llegar a la conclusi贸n de que Grossi es tan influenciable que prefiere confiar en lo que le dice una m谩quina en vez de confiar en sus propios especialistas.
• En diciembre de 2015, el presidente de Estados Unidos, Donald Trump, le pregunt贸 a Grok, la IA de Elon Musk, c贸mo reaccionar铆an los venezolanos si el presidente de su pa铆s, Nicol谩s Maduro, fuese secuestrado. En aquel momento, eso era s贸lo una hip贸tesis que la CIA y el SouthCom hab铆an mencionado. Pero, seg煤n Time Magazine, Grok respondi贸 que los venezolanos estar铆an muy contentos. Eso fue lo 煤nico que Trump necesit贸 para ordenar el secuestro de un jefe de Estado latinoamericano, realizado en enero pasado por las fuerzas especiales de Estados Unidos [5].
¿Por qu茅 solicitar la opini贸n de otros si tenemos una “inteligencia artificial” que sintetiza el pensamiento de todos? Simplemente porque la IA s贸lo formula el pensamiento promedio en funci贸n de los datos que se le han dado. Las IA son s贸lo algoritmos. No reflexionan y se limitan a reformular el pensamiento que se pretende explorar. Una persona que conozca a los venezolanos habr铆a respondido teniendo en cuenta las complejidades de la cultura de Venezuela. No habr铆a rechazado ni aprobado la propuesta del presidente Trump sino que habr铆a subrayado que las reacciones [6] de los venezolanos depender铆an de su categor铆a social, incluso de la regi贸n del pa铆s donde viven, as铆 como de las circunstancias del momento.
• Recientemente, el presidente ruso Vladimir Putin explic贸 que los problemas que hoy se plantean con las IA no son nuevos. Ya exist铆an antes, con m谩quinas mucho menos sofisticadas.
En el Club de Valdai, el presidente Putin cont贸 que durante la guerra fr铆a, en 1983, los sat茅lites sovi茅ticos detectaron el lanzamiento de 5 misiles nucleares en Estados Unidos. El coronel Stanislav Petrov, que estaba en aquel momento a cargo de la respuesta sovi茅tica, inmediatamente dud贸 de lo que las m谩quinas le indicaban y procedi贸 a verificar antes de iniciar la respuesta. As铆 comprob贸 que las m谩quinas se hab铆an equivocado. Estados Unidos no hab铆a iniciado la guerra nuclear… el coronel sovi茅tico tampoco lo hizo [7].
El problema de hoy es exactamente el mismo. Seguimos siendo due帽os de las m谩quinas, pero si no estamos atentos, nuestra propia incompetencia o nuestro orgullo pueden llevarnos a cometer errores que, aunque parezcan peque帽os, tendr谩n consecuencias aterradoras.
Lo cierto es que una IA no puede manipular a alguien, simplemente porque una IA no puede tener intenciones ni voluntad propia. Pero nuestra propia pereza nos pone en peligro de dar cr茅dito a lo que nos dice una m谩quina mal ajustada.