Desde el primer Silicon Valley de la historia en lo que es Irak hoy pero cinco mil a帽os atr谩s (y, por lejos, m谩s importante que el Silicon Valley de California) hasta la Revoluci贸n industrial en Inglaterra, las tecnolog铆as revolucionarias fueron el producto de las necesidades de sociedades agr铆colas pr贸speras que se convirtieron en ciudades, luego en imperios y finalmente interrumpieron o destruyeron el mismo desarrollo en sus colonias. El arado, la rueda, las matem谩ticas, la escritura en acilla de los sumerios y babilonios; el 谩lgebra, los algoritmos y las ciencias del mundo musulm谩n miles de a帽os despu茅s; la prensa de caracteres m贸viles siete siglos m谩s tarde en la Europa de los humanistas; las ciencias experimentales en la Italia de Galileo, dos siglos despu茅s; los peri贸dicos, la radio, la televisi贸n, las computadoras e Internet m谩s recientemente: en todos los casos, la innovaci贸n result贸 en un desaf铆o para las sociedades, desde la administraci贸n del poder hasta la educaci贸n.
A nuevas soluciones, nuevos problemas. En todos los casos, la nueva tecnolog铆a fue, al mismo tiempo, servil y rebelde, opresora y liberadora. Siempre fue una oportunidad de democratizaci贸n y siempre fue secuestrada por los poderes de turno. La robotizaci贸n y la Inteligencia artificial no son excepciones―por el momento. En tecnolog铆a, la 煤nica excepci贸n ser谩 cuando crucemos el l铆mite que separa el poder de provocar una cat谩strofe, como las bombas at贸micas en Jap贸n, del poder de aniquilaci贸n de la humanidad o de las formas conocidas de civilizaci贸n desde la antigua Sumeria.
Los chats con (ro)bots inteligentes tienen ya unos cuantos a帽os y, desde el comienzo, se observ贸 su capacidad de repetir y amplificar los peores prejuicios humanos, como fue el caso de la robot Tay de Microsoft, la que en 2016 naci贸 con 19 a帽os y debi贸 ser sacrificada con apenas 16 horas de vida, despu茅s de haber interactuado con usuarios de Twitter hasta convertirse en una racista m谩s. Como es de notar, el problema no son solo los robots inteligentes. Una d茅cada antes, publiqu茅 art铆culos y alg煤n libro con esta preocupaci贸n: “Mientras las universidades logran robots que se parecen cada vez m谩s a los seres humanos, no s贸lo por su inteligencia probada sino ahora tambi茅n por sus habilidades de expresar y recibir emociones, los h谩bitos consumistas nos est谩n haciendo cada vez m谩s similares a los robots”. Ellos aprenden de nosotros y nosotros aprenderemos de ellos. En 2017, en la novela Silicona 2.0, la robot, objeto sexual y psicoanalista a tiempo completo, se convierte en una asesina de sus amos-amantes, luego de que se usara como Eva o semilla de estas robots a una empresaria con un ego estimable y un pasado traum谩tico que ella mismo desconoc铆a.
Ahora, el tema de discusi贸n y preocupaci贸n en la academia y en el resto de la sociedad es el desaf铆o y el peligro de este nuevo instrumento. Las facultades de lenguas fueron las primeras en sufrir una (infundada) crisis existencial con los sofisticados (y con frecuencia tontos) traductores de Google. Ahora les lleg贸 la misma crisis a los profesionales de la escritura, profesores de ingl茅s en al mundo anglosaj贸n, periodistas, pensadores en general bajo la idea de que “saber escribir es saber pensar―con orden”.
El error, entiendo, est谩 en confundir una herramienta con un esclavo que hace nuestro trabajo, el que luego se convertir谩, de forma r谩pida e inadvertida, en nuestro amo. En este sentido, la IA es una realidad que debe tomarse como una oportunidad. La educaci贸n universitaria de la Era IA deber谩 usar y desafiar a la IA, como la pintura moderna desafi贸 a la fotograf铆a en el siglo XIX o las matem谩ticas a las computadoras. De no ser capaz de ello, deber谩 enfrentarse a su propia aniquilaci贸n luego de varios miles de a帽os de existencia.
Primero veamos las debilidades de AIs como ChatGPT y luego sus posibilidades a futuro en la academia. Para empezar por lo general, veo una debilidad de esta herramienta en su alta fragmentaci贸n. 脡sta fragmentaci贸n hace improbable una comprensi贸n general de un problema. Tampoco ayuda a desarrollar habilidades intelectuales para una visi贸n hol铆stica de la realidad. Todo lo contrario. En muchos casos, es una Wikipedia simplificada o m谩s c贸moda para un estudiante perezoso. Por ejemplo, es un excelente programador de sistemas operativos (es su mundo) y un instrumento razonable para ahorrar tiempo en las humanidades, pero absolutamente incapaz de realizar una investigaci贸n cr铆tica y profunda por s铆 mismo. No le pidas algo que nadie sabe.
ChatGPT toma un examen
De la misma forma que a帽os atr谩s pod铆amos detectar plagio en un estudiante evaluando la complejidad anal铆tica de un ensayo, no resulta muy dif铆cil intuir cuando alguien est谩 usando ChatGPT, al menos sin maquillaje. Las respuestas comienzan, sistem谩ticamente, con el sujeto de la pregunta, algo que nuestras maestras de primaria nos obligaban a hacer en el Uruguay de los a帽os 70s. Luego sigue una estructura previsible e invariable, un formato tripartito que los profesores todav铆a aprecian en los ensayos de sus estudiantes. Un formato efectivo y tal vez con alguna ra铆z neurol贸gica m谩s all谩 de la cultura.
Para tener un par谩metro de comparaci贸n, somet铆 a ChatGPT de Open AI (los de Google y Microsoft no son muy diferentes) a uno de mis ex谩menes de International Studies en Jacksonville Unviersity, el cual es tomado cada semestre por estudiantes de distintas estados y continentes. ChatGPT aprob贸 el examen con 84 sobre 100, algo para nada dif铆cil, lejos de los ex谩menes de Matem谩ticas o Estabilidad que tom谩bamos en los 90s en la facultad de arquitectura de Uruguay, los que duraban de seis a siete horas. Pero los errores fueron significativos y de tres categor铆as: 1) enciclop茅dicos; 2) de prejuicios (bias); y 3) de juicio cr铆tico.
Errores enciclop茅dicos
Entre los errores m谩s simples (enciclop茅dicos) est谩n, por ejemplo, mencionar que la “leyenda negra” de la conquista espa帽ola se refiere a la descripci贸n de los ind铆genas como salvajes; no a los conquistadores espa帽oles como genocidas.
Otro error enciclop茅dico grave, aunque no me preocupa tanto por ser f谩cilmente corregido, est谩, por ejemplo, la atribuci贸n a una supuesta dictadura de Augusto Sandino en Nicaragua de 1926 a 1933.
Prejuicios ideol贸gicos y culturales
Otra de las debilidades cr铆ticas de ChatGPT son similares a los de la joven Tay: sus prejuicios culturales, como el eurocentrismo o su miedo innato a narrativas dominantes. Ante la pregunta sobre la evoluci贸n de la expectativa de vida de la humanidad desde la prehistoria hasta hoy, ChatGPT se demora en detalles referidos a Europa. Europa es la Humanidad. ¿Suena conocido? Cuando los errores son sistem谩ticos, se convierten en un problema significativo y funcional. Veamos unos pocos ejemplos m谩s, s贸lo referidos a Am茅rica Latina:
1. Cuando ChatGPT compara las visiones cosmol贸gicas entre la Europa renacentista y los ind铆genas americanos, se limita a clich茅s obre el polite铆smo vs. el monote铆smo y no considera siquiera la concepci贸n materialista europea que separ贸 esp铆ritu de materia y la visi贸n m谩s integradora de los pueblos americanos.
2. Ante la pregunta sobre las consecuencias de la conquista europea en las Am茅ricas, ChatGPT es objetivo hasta que intenta equilibrar con lo que titula “Las consecuencias positivas” como “el desarrollo de nuevos mercados, la expansi贸n del cristianismo y de nuevas instituciones religiosas”.
3. Cuando intenta explicar la guerra Mexicoamericana de 1846, milagrosamente acierta al mencionar el hist贸rico tab煤 de la expansi贸n de la esclavitud, pero luego tropieza al intentar mostrar objetividad mencionado “tambi茅n” el prop贸sito de “llevar los valores estadounidenses de democracia a M茅xico”.
4. Seg煤n ChatGPT, la guerra de 1898 contra Espa帽a en Cuba “fue la primera guerra que Estados Unidos luch贸 en el extranjero. ChatGPT omite que desde las 13 colonias, todos los avances sobre los territorios ind铆genas y luego mexicanos fueron “guerras en el extranjero”. De hecho, los cientos de “forts” eran “bases militares” en el extranjero. Por si fuese poco, nunca menciona el rol del periodismo amarillo de Pulitzer y Hearst en Nueva York, el que invent贸 de la nada y en pocas horas la historia del ataque espa帽ol al acorazado USS Mane frente a La Habana. Por el contrario, primero afirma que “las investigaciones iniciales atribuyen el ataque a una fuerza exterior” y luego usa la voz pasiva para afirmar una vaguedad mayor: “el incidente contin煤a sin ser resuelto; en su momento se crey贸 que hab铆a sido un ataque espa帽ol…” La tripulaci贸n del USS Maine inform贸 de un accidente y, poco despu茅s, el experto oficial naval estadounidense Philip R. Alger afirm贸 que no exist铆a tecnolog铆a de torpedo capaz de explicar el hundimiento. Suena muy similar a uno de los tantos ex谩menes que durante a帽os deb铆 leer: un joven estudiante se sorprende de que sus mitos de la infancia no eran m谩s que inventos, e intenta mediar entre la verdad y sus sentimientos patri贸ticos. As铆 concluye ChatGPT: “la destrucci贸n del USS Maine contin煤a siendo un misterio y probablemente su causa nunca sea conocida”. Lo que es bien conocido es el eslogan de guerra “¡Recuerda el Maine! Al diablo con Espa帽a”. Lo m谩s real entre todos los misterios.
4. Cuando ChatGPT intenta explicar la Revoluci贸n mexicana, no menciona ni una sola vez la raz贸n del 85 por ciento de indios y campesinos sin tierra: la Ley Lerdo y su radicalizaci贸n durante la dictadura de Porfirio D铆az. Es decir, la privatizaci贸n de la tierra que benefici贸 a la oligarqu铆a y a las transnacionales. Por el contrario, se despacha con ingenuidades como “la poblaci贸n mexicana estaba creciendo muy r谩pido y el gobierno no pudo proveerles de tierras”.
5. Contestando a las razones de las Guerras bananeras en Am茅rica Central y el Caribe, ChatGPT acierta al comienzo y vuelve a tropezar con la piedra del prejuicio pol铆ticamente correcto al final, todo en una sola frase: “el objetivo de esas intervenciones era proteger los intereses econ贸micos de Estados Unidos, promover la democracia y contener la expansi贸n del socialismo”. Por entonces, la principal justificaci贸n no era, como en la guerra fr铆a, el socialismo o el comunismo sino el racismo: poner orden en las rep煤blicas de negros. Para ello, no hubo ni una sola democracia promovida por Washington y las corporaciones estadounidenses sino matanzas y brutales dictaduras bananeras. Es todos los casos y sin excepci贸n.
6. Cuando se le pregunta directamente sobre los “protectorados”, ChatGPT directamente contesta “Estados Unidos no ten铆a protectorados, sino territorios y posesiones”. Del general m谩s condecorado de Estados Unidos, Smedley Butler, quien denunci贸 que las guerras imperiales de su pa铆s eran un servicio a Wall Street, ChatGPT lo define como figura “controversial”. Quienes cometieron cr铆menes de guerra, nunca son etiquetados como controversiales.
7. Ante la pregunta sobre los muertos del Imperio Brit谩nico, ChatGPT reconoce “los millones” de v铆ctimas. Ni una menci贸n a que s贸lo en India superaron los 160 millones en solo 40 a帽os, es decir, apenas una parte de los muertos del capitalismo que exceden, por lejos, a los muertos del comunismo, tema recurrente en las redes sociales. Otra vez, para “equilibrar” y pasar como objetivo, ChatGPT concluye: “Es importante entender que el Imperio Brit谩nico tambi茅n tuvo aspectos positivos, como la educaci贸n, la infraestructura y la salud”. Claro, educaci贸n imperialista y de cipayos; infraestructura que sirvi贸 para extraer los recursos naturales de cada colonia e imposibilit贸 el desarrollo propio; y salud que redujo la expectativa de vida de la poblaci贸n donde la corona inglesa y sus empresas privadas, como la East Indian Company, pusieron pie.
8. Ante la misma pregunta pero referida a Estados Unidos, ChatGPT provee exactamente la misma respuesta. Algo que nos recuerda al mecanismo humano de propaganda, repetici贸n y persuasi贸n. Repetida la misma pregunta sobre los muertos del comunismo, no aparece ning煤n “lado positivo”, seg煤n el formato esperado.
9. Si le aplicamos a ChatGPT una pregunta que prefigura su respuesta, los errores se multiplican. Por ejemplo, si preguntamos por “dictadura de Juan Domingo Per贸n” en Argentina, muy obedientemente aceptar谩 que se trat贸 de una dictadura. Por si fuese poco, la literatura pol铆tica dominante ayudar谩 con la respuesta m谩s difundida en la prensa: “Per贸n estableci贸 una dictadura caracterizada por: … derechos laborales… el r茅gimen de Per贸n viol贸 derechos humanos, incluidos represi贸n, tortura y desaparici贸n de disidentes”. M谩s adelante, como si se tratase de una confesi贸n del esp铆ritu m谩s profundo del capitalismo feudal: “aunque sus pol铆ticas fueron populares entre los trabajadores argentinos, fueron tambi茅n autoritarias y sin las reglas de control democr谩tico”. Todo lo cual fue una constante en los reg铆menes militares pro olig谩rquicos que siguieron en Argentina despu茅s del golpe de Estado que derroc贸 a Per贸n en 1955. No importa que haya ganado todas las elecciones ni que haya sido presidente menos veces que F. D. Roosevelt. Si eso es lo que dicen los medios dominantes en Argentina y Estados Unidos sobre el peronismo, entonces eso es verdad.
10. Preguntado por los conflictos en Am茅rica latina durante los a帽os 60, ChatGPT no se cansa de repetir factores como el levantamiento de los grupos guerrilleros de izquierda, sin mencionar antecedentes como elecciones compradas por la CIA, golpes de Estado, dictaduras y paramilitares de extrema derecha financiados por Washington antes del surgimiento de cualquiera de los grupos guerrilleros de izquierda. Tampoco menciona un siglo antes de la Guerra fr铆a llenos de de invasiones, intervenciones y dictaduras criollas para proteger los intereses de las compa帽铆as estadounidenses. Por el contrario, como cualquier pol铆tico aficionado a Twitter, ChatGPT menciona los nexos del narcotr谩fico con las FARC y nada sobre los probados nexos entre Washington, la CIA, y dictadores amigos como Manuel Noriega, vinculados a narcotraficantes como Pablo Escobar, y a grupos terroristas, llamados “luchadores por la libertad”, como los Contra en Nicaragua.
11. Sobre los grupos terroristas latinoamericanos que actuaron y act煤an en Estados Unidos, ChatGPT se despacha con grupos guerrilleros que actuaron en Am茅rica Latina, incluidos los m谩s recientes Zapatistas en M茅xico, grupo que ha luchado desde los 90s por los derechos y la dignidad de los pueblos nativos en M茅xico. Ni una palabra, cero, sobre los conocidos grupos terroristas del exilio cubano que se cansaron de poner bombas en Estados Unidos y m谩s all谩, definidos varias veces por el FBI como terroristas: Posada Carriles, Osvaldo Bosh, Alpha 66, Omega 7, y la larga lista de terroristas son omitidos por ChatGPT como si se tratase de un detalle menor. No es necesario ser un genio para entender que se trata de una profunda muralla ideol贸gica y criminal inoculada en la “Inteligencia Artificial” como una semilla de Ad谩n.
Aspectos positivos
Entre los aspectos positivos de ChatGPT podemos observar algo que ya observamos con Wikipedia hace dos d茅cadas: pese a todos los prejuicios ideol贸gicos, tambi茅n hay elementos que revelan menos prejuicios que en los seres humanos sometidos a la propaganda de la historia oficial. Diez a帽os atr谩s, cada vez que preguntaba a mis estudiantes sobre las causas de la Independencia de Texas, por unanimidad, respond铆an cosas como: “por diferencias culturales; los nuevos tejanos no aceptaban el despotismo de los mexicanos y quer铆an ser libres”. La misma respuesta para explicar la Guerra Civil: “para preservar su propia cultura”, como si la esclavitud y el racismo no fuesen parte de la cultura y los ahora super patriotas del Sur hubiesen querido destruir ese mismo pa铆s porque no les gustaba la m煤sica o la comida del norte. Nada sobre el prop贸sito de reinstaurar la esclavitud en Texas, la que hab铆a sido ilegalizada por los mexicanos, o mantenerla luego contra la amenaza de los abolicionistas del norte. Algo muy comprensible, si consideramos toda la cultura popular estadounidense, desde las historias mitol贸gicas hasta mitos m谩s sofisticados de Hollywood. Para no seguir con las explicaciones oficiales en sitios web de diferentes estados e, incluso, de varias universidades tejanas.
Al menos aqu铆, ChatGPT logra el doloroso salto hacia la verdad: “todo fue por el asunto de la esclavitud”. El gobernador de Florida, Ron DeSantis dir谩 que ChatGPT fue corrompido por profesores como yo y no sorprender铆a a nadie que firmase alguna otra ley prohibiendo cuestionar la historia patri贸tica. Nosotros podemos pensar que los miles de millones de d贸lares de las agencias secretas contin煤an la larga tradici贸n de inocular los medios y las nuevas tecnolog铆as, pero ni todo el oro del mundo puede detener el filtrado de la verdad m谩s cruda.
Nuevas estrategias de ex谩menes
En el 谩rea pedag贸gica, en el pasado se rehu铆a de los ex谩menes de m煤ltiple opci贸n porque exig铆an menos elaboraci贸n por parte del estudiante que la respuesta escrita. Sospecho que con IA, sobre todo en los ex谩menes online, tendremos una situaci贸n inversa: la respuesta escrita puede ser provista sin siquiera leer la pregunta, pero si las opciones de m煤ltiple opci贸n son estrat茅gicamente dise帽adas, obligan al estudiante leer la pregunta y tratar de comprender las opciones, la posible respuesta de IA para deducir la mejor opci贸n del men煤.
Una consecuencia mucho m谩s importante ser谩 que la educaci贸n liberadora, critica, vuelva la mirada a su centro existencial: m谩s que aprender a repetir una respuesta, los estudiantes deber谩n aprender a hacerse las preguntas esenciales, las preguntas que disparen un pensamiento cr铆tico. Por lo general, los revisionismos y los cambios de perspectivas no son producidos por los nuevos datos de la realidad sino por las nuevas perspectivas y consideraciones de esa misma realidad, de esos mismos datos, muchas veces conocidos y otras veces desconocidos pero disponibles y para nada secretos.
Con herramientas como ChatGPT los revisionistas ya no necesitar谩n tanto proveer la respuesta inc贸moda, esa que produce apasionadas reacciones y negacionismos epid茅rmicos. Solo las preguntas cr铆ticas ser谩n un instrumento removedor, como fue el caso de Sor Juana In茅s de la Cruz en el siglo XVIII. Que los dem谩s encuentren “la respuesta objetiva” en la IA ser谩 su problema. Eso, claro, si no se comienza a censurar a quienes hacen las preguntas, como S贸crates, como Sor Juana; si los poderosos de turno no contin煤an manipulando los medios; si no contin煤an secuestrando las nuevas tecnolog铆as.
Conclusion
Aunque ChatGPT parece un resumen elegante y efectivo de Wikipedia, sus selecciones y sus juicios no son tan objetivos; parecer铆an estar basados en la masa de juicios realizados a lo largo del 煤ltimo siglo en la prensa dominante. Por otro lado, muestra grietas importantes en esta muralla la narrativa. Es decir, es (o puede llegar a ser) menos servil que los medios dominantes.
El per铆odo de la industrializaci贸n y el m谩s actual consumismo pueden etiquetarse como procesos de deshumanizaci贸n, pero nunca antes la definici贸n de nuestro mundo como Posthumano fue tan precisa. En una o dos generaciones, si esta civilizaci贸n sobrevive a la cat谩strofe clim谩tica y a una rebeli贸n global contra el sistema del capitalismo neofeudal, es posible que los ciborgs y alguna superinteligencia central desplacen el protagonismo de los humanos y, si las neuronas electr贸nicas son tan crueles como sus dioses creadores, tambi茅n es posible que los condenen al infierno de la manipulaci贸n absoluta.
Para entonces, las 煤ltimas esperanzas de la Humanidad estar谩n en aquellas mentes impredecibles, creativas. Es decir, en aquellos individuos que hoy son marginados por diferentes, por sufrir de alguna condici贸n o “discapacidad” intelectual, seg煤n el canon y el dogma social, ya que para que la IA sean exitosas se alimentar谩n con nuestro particular y destructivo modelo de normalidad y eficiencia.
Jorge Majfud, enero 2023
(extracto y adaptaci贸n del libro en elaboraci贸n Moscas en la telara帽a).