Citizen AI

In dreams begin responsibilities.

W.B. Yeats

Paul Daugherty, Marc Carrel-Billiard y Michael Biltz trabajan en Accenture Technology Vision; el primero encabeza la oficina de Tecnología e Innovación, el segundo dirige el Laboratorio de Realidad Extendida y el tercero la división de Prospección Tecnológica. Juntos escribieron el paper en el que su compañía identifica las tecnologías emergentes “que tendrán un impacto considerable en todas las industrias durante los próximos tres años, y que ya es posible empezar a utilizar” —Technology Vision 2018—. Mencionan cinco; aquí solamente me referiré a la primera, a la cual llaman “el Ciudadano AI” (Inteligencia Artificial, por sus siglas en inglés). Estos tecno-agoreros sostienen que los artilugios de AI se encuentran ya en los inicios de su propia educación. Según ellos la tendencia es que la IA adquiera pronto la mayoría de edad y su “ciudadanía”, para lo cual “es necesario que supere muchos de los retos que las personas hacen frente al crecer, desde explicar decisiones y acciones, hasta asumir responsabilidades por sus propios actos”.

Ciertamente, cada vez más y más decisiones importantes están siendo confiadas a los algoritmos, a sabiendas o no del gran público e, incluso, de la gente sobre la cual en un momento dado pueden tener una incidencia directa. Entre los ejemplos típicos están los bancarios. Planea usted un negocio, hace cuentas, prospecta y al fin se decide a ir al banco a solicitar un crédito hipotecario; llena todos los formularios, entrega la documentación comprobatoria que le piden y se arma de paciencia para esperar el fallo… Tres días después usted recibe un correo electrónico…: que no, le niegan el crédito. ¡¿Pero por qué…, si cubro todos los requisitos?! Acude al banco a pedir explicaciones y un funcionario le responde justo lo que ya sabía:

— Lo sentimos mucho, pero el sistema consideró que su perfil crediticio es improcedente.

— Sí, eso es exactamente lo que dice el correo que recibí…, ¿pero por qué?
— Bueno…, el sistema así lo determinó.
— Pero…
— El sistema, mi amigo…

 

En fin, no usted no consigue sacar al hombre de ahí; de hecho, lo más que logra del funcionario es un gesto que en inglés se denomina con una sola palabra, shrug, y que en español mentamos con una descripción incompleta: un encogimiento de hombros —incompleta, porque no menciona las palmas de las manos vueltas hacia arriba—… Lo cual es como decir al menos dos cosas: 1) yo no tengo ni idea y 2) a mí qué.
Tome aire porque la vida cotidiana, nuestra vida cotidiana, se irá plagando cada vez más de cajas negras como esta —una entrada que uno más o menos sabe o al menos intuye de qué se trata, en este caso cantidades ingentes de datos, y una salida, resoluciones, pero dentro no sabemos exactamente cómo ocurre el procesamiento—. Enseguida, dos botons de muestra, dos escenarios que no pertenecen a la ciencia ficción sino a un futuro mediato sumamente probable:
 

a)    El joven Daniel, quien está a punto de concluir la preparatoria y sueña con dedicarse a componer música sinfónica, recibe un sobre certificado en el cual le envían la resolución final de la Gran Gestor Informático de las Instituciones de Educación Superior (GIIES) de todo el país. Por medio de sus poderosos algoritmos y echando mano de bases de datos no sólo relacionadas con todo el historial académico del muchacho, sino también de sus redes sociales, el perfil financiero de sus tutores, las necesidades del mercado laboral nacional y el desempeño de la economía global, el GIIES ha decidido que Daniel no va a estudiar Música, sino una carrera técnica en enfermería geriátrica en una ciudad del norte del país en la que hasta ahora jamás ha puesto un pie. ¿Por qué? Shrug.

b)   Xóchitl —actuaria, 33 años, soltera, deportista— lleva once años trabajando en un órgano autónomo del Estado, y desde entonces tiene un seguro de gastos médicos mayores. Jamás lo ha requerido, afortunadamente. Una tarde recibe un sobre de la empresa aseguradora. Un fajo de papeleo legal, una carta y un cheque a su nombre. La cantidad es fuerte y la carta dice, en pocas palabras, que lo sienten pero que ya no pueden seguir asegurándola, que disuelven el contrato unilateralmente por lo que optan por pagarle la multa… ¿Por qué? Xóchitl corre a preguntar al departamento de recursos humanos. Shrug. Le sugieren llamar a la compañía de seguros. Después de navegar más de diez minutos por incontables menús y submenús con el teclado del teléfono, al fin le contesta un ser humano. Expone su situación y su duda: ¿por qué? Nuestro sistema determinó que no le conviene a la empresa mantener su contrato, señorita. ¿Por qué? Silencio… Shrug.

No parte de la paranoia la perspectiva anterior. La Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA, por sus siglas en inglés) de Estados Unidos dispuso hace apenas unos meses una bolsa de 6.5 millones de dólares para que un grupo de académicos de distintas universidades gringas desarrollen soluciones tecnológicas que permitan que las decisiones que tomen los artefactos AI no resulten para nosotros inexplicables. El reporte de Accenture Technology Vision establece que “resulta indispensable que la AI pueda ser capaz de explicar el proceso utilizado para llegar a una decisión. Dado que un sistema de AI está diseñado fundamentalmente para colaborar con las personas, las empresas deben construir y entrenar sus AI para proporcionar explicaciones claras de las acciones que deciden tomar, en un formato que la gente entienda”.
En dado caso, la pregunta no es tanto si los algoritmos son o no capaces de cometer errores —obviamente lo son—, sino si realmente nos gustaría conocer las razones por las que determinen tal o cual decisión.

Miedo y ficción krauzianas

Laughter is poison to fear.

George R.R. Martin, A Game of Thrones.

Si a uno le cae muy gordo, digamos, el candidato de la coalición Por México al Frente, puede, pongamos, subrayar su juventud, su menudencia curricular y hasta su aniñada apariencia, y llamarlo candidatito. Así nomás, no se tiene que probar nada, ni documentar nada. O uno puede idear un palíndroma en el que se retrotraiga la acusación que en mancuerna le hacen el PRI y la PGR: ¿Lava lana? ¡Ay, Anaya! Anal aval. Habrá a quienes les dé risa y a los que el juego de palabras les parezca tonto y de mal gusto, pero no se necesita más que hacerlo para hacerlo. O si el guamazo quiere dirigirse en contra del candidato de Enrique Peña Nieto, más de uno ha jugado con el apellido del abanderado priísta, que se escribe Meade pero se dice Mid y suena a Me-ha-de querer seguir fregando… En este caso tampoco hay que desarrollar un razonamiento lógico para, sin más, soltar a la chanza. ¿O qué tal que sea el tabasqueño el que te provoca náuseas? Puedes hacerlo público diciéndole Lopitos, como hace Fox, con todo el afán de ningunearlo… Y otra vez: no es necesario fundamentar la ocurrencia, la espetas y listo, a ver a quién le hace gracia…

No es lo mismo si eres un insigne intelectual mexicano y publicas en The New York Times un texto editorial que titulas “The End of Mexican Democracy?” (7/III/2018). No es lo mismo porque, de entrada, los lectores llegarán al texto predispuestos a atender un discurso serio, bien hilado y fundamentado. Por supuesto, habrá quienes vayan más allá e incluso se predispongan, erróneamente, y pretendan encontrar en los juicios de Enrique Krauze verdades, si no científicas, al menos historiográficas, desatendiendo lo que en negritas advierte la propia publicación antes del título: Opinion —que en español significa tal cual, pero con acento ortográfico en la última sílaba—. Es decir, el autor presenta una serie de pensamientos con los que cada quien podrá o no estar de acuerdo: sus pareceres, pues. Claro, no todo lo que en su escrito afirma es una opinión —por ejemplo, el primer enunciado expresa un hecho: “El primero de julio, los mexicanos elegiremos a nuestro presidente para los próximos seis años”*—. Con todo, hay de opiniones a opiniones: hemos quienes opinamos que fue una gran falta de respeto que el presidente constitucional de la República Mexicana le haya dicho a sus gobernados que “no hay chile que les embone” (17/IV/2017), y habrá otros que piensen que su dicho coloquial no pasa de una bromita inofensiva…; de acuerdo, cada quien en su derecho, y si se tiene el ánimo y la educación suficientes incluso se puede dedicar tiempo a discutir las opiniones y tratar de convencer a los demás. Sin embargo, opinión, como cualquier otro concepto, tiene sus límites, sus fronteras semánticas, de tal suerte que hay significados que simplemente no están contenidos en él. Así como ni un camello ni una molécula de aluminio ni una artículo de la Constitución es una historia, así tampoco ni una fobia ni una mentira ni una cuento de hadas pueden pasar por una opinión… El problema es que sí es posible confundir un miedo o una fábula con una opinión, o peor, con una verdad indiscutible. Más grave que confundir resulta camuflar propositivamente una fobia y una ficción en un bosque de opiniones e informes, para hacerlos pasar por verdades. Tal es la operación que realiza Krauze.

Sería impertinente juzgar una opinión en términos de veracidad. Por ejemplo, el viernes pasado el monero Patricio tuiteó: “Yo opino que deberían hacer una Barbie de @RosarioRobles”. No sería adecuado calificar tal proposición —la entrecomillada— como verdadera o falsa; el caricaturista eso opina, y uno podrá estar a favor o en contra de su idea, pero no tacharla de mentira, ni siquiera de ilógica. Es igual que el segundo aserto que sentencia Krauze: “No serán unas elecciones ordinarias”. Una opinión…, discutible, por supuesto —¿qué proceso electoral ha sido ordinario?—, pero no en cuanto a su conformidad con respecto a la verdad. Enseguida, el enunciado que se cuela en el texto como la tesis central: “… lo que está en juego no es sólo un cambio de gobierno sino también un cambio en la naturaleza misma de la democracia liberal que México ha construido en lo que va del siglo”. Y líneas más abajo, ya afinado el tono de gravedad apocalíptica, la advertencia: “no será la primera vez que una elección democrática ponga a prueba a la democracia” —¿algo así como un suicidio del sistema? En fin, otra opinión—. Una vez que ha revelado la terrible amenaza, ya agazapada desde el título/pregunta de su artículo, el señor Krauze, antes de señalar al ente amenazante, dedica dos párrafos a esbozar un relato de nuestra historia política reciente, mismo que podría resumirse así: a partir de 1928, el país vivió una monarquía sexenal, “con ropajes de republicanismo”; muchos años después, en 2000, ¡albricias!, “la victoria de Vicente Fox…, puso fin al largo reinado del PRI. Y comenzó el experimento democrático en el que vivimos hasta ahora”. Las siguientes elecciones las despacha con nueve palabras: “El PAN ganó nuevamente con Felipe Calderón en 2006”, y las más recientes con trece: “en 2012 el poder presidencial regresó al PRI con Enrique Peña Nieto”. Informes ambos que, dada su concisión, resultan indiscutibles, aunque den cuenta de sucesos que merecerían una problematización mínima —más aún si el asunto central es, precisamente, la democracia y las elecciones presidenciales—. Pero nada, Enrique Krauze establece que México ya es una democracia, y presenta sus pruebas: alternancia, “el presidente ya no es un monarca absoluto”, el Congreso se integra por representantes de varios partidos políticos, “la Suprema Corte de Justicia es independiente” y “los órganos autónomos clave… operan profesionalmente” (particularmente menciona al INE y a Banco de México). Una maravilla, pues, en la que además agrega, en el mismo párrafo, como una prueba de la existencia de la democracia mexicana —¡oh, alquimia!—, la libertad de expresión, gracias a la cual, “aunque todavía es algo limitada…, se han revelado casos de corrupción que habrían permanecido ocultos en el siglo XX”. Enseguida, ¡faltaba más!, Krauze dedica un párrafo a criticar la situación del país —67 palabras en el texto original en inglés—, después dos para presentar a los candidatos en contienda —190 palabras— y luego la médula de su discurso: seis párrafos —524 palabras— en los que enjuicia a Andrés Manuel López Obrador, la amenaza para la democracia.

El diagnóstico de la actualidad comienza reiterando que “México es ya una democracia”, pero, enseguida, la enorme piedra en el arroz: “hay un profundo descontento con sus resultados”. La primera parte de la oración puede entenderse como una opinión, pero la segunda es, si no una mentira, por lo menos una imprecisión: el profundo descontento no es con los resultados de la democracia, sino con los resultados de los gobiernos emanados de la presunta democracia instaurada —ojo, digo presunta democracia porque habrá quienes recuerden el hecho irrebatible de que ninguno de dichos gobiernos ha representado a la mayoría de los electores, por no mencionar que hay datos duros suficientes para, por lo menos, afirmar que las dos últimas elecciones no fueron limpias, de tal manera que desde dicha perspectiva podría decirse que más bien que el “profundo descontento” se debe a la deficiente instauración del sistema democrático—. Y enlista los malos resultados achacados a la democracia: escaso crecimiento económico, pobreza, desigualdad… “y cuatro terribles problemas complican esta situación: violencia, inseguridad, impunidad y corrupción”. Cierto, aunque puesto así parecen como si los mentados problemas nos hubieran caído del cielo y no pasaran de complicaciones… Aquí sí no menciona agentes responsables.

Siguen los dos párrafos en los que presenta a los candidatos en contienda: el pobre Meade, quien “sufre las consecuencias” de los susodichos “terribles problemas”; Anaya, a quien los electores “no tienen aún manera de juzgar porque no ha presentado un programa detallado”; AMLO, el candidato de Morena, y finalmente la morralla, los independientes que aparecerán en la boleta pero que “no tienen ninguna posibilidad real de ganar”. La presentación del elenco no termina sin un juicio en conjunto, en el cual sólo uno sale raspado: “Más allá de sus diferencias políticas, todos ellos, con excepción del Sr. López Obrador, comparten un respeto por la democracia”. En la anterior opinión va implícito, claro, un diagnóstico: el Peje está loco porque, no respetando la democracia, participa en la contienda democrática. Muy su opinión de Krauze.

El más de medio millar de palabras con los que el articulista refiere “los precedentes” antidemocráticos de López Obrador aglutina las consabidas pruebas —para quienes así lo creen— de que el hombre es un peligro para México… Que mandó al diablo a las instituciones, que el plantón de Reforma, que si ha dicho que la Suprema Corte es un instrumento de la oligarquía, que si ha ofrecido amnistía a los narcos, que si “ha mostrado una intolerancia inflexible con los intelectuales y la prensa”…, en fin, casi todos, más que hechos, dichos más o menos comprobables… —todos, salvo la liga de “fervor religioso entre el Sr. López Obrador y sus seguidores”; juicio que es imposible de probar—…, a partir de los cuales Krauze expresa opiniones críticas contra el Peje. Bien, muy sus opiniones, discutibles todas… 

El problema se encuentra al final de su diatriba, en donde Enrique Krauze inserta un miedo y una ficción. Entiendo que el miedo que expresa no sólo lo siente un grupo de personas no especificado sino también él mismo: “Muchos mexicanos liberales tienen miedo de que [López Obrador] revierta la apertura a la inversión privada y extranjera en la producción petrolera mexicana y opte por proteger la economía nacional de la competencia internacional”. Más allá de que es discutible que 1) sea o no fundado el temor, y 2) que en efecto sea inconveniente para los intereses nacionales revertir la Reforma Energética, subrayo que lo que se expresa es un miedo —fear—, y me temo —aquí yo expreso el mío propio— que lo que pretende es propagarlo.

Enrique Krauze dedica el penúltimo párrafo de su artículo de opinión a su miedo personal, un miedo a una “actitud” del candidato morenista: “Mi principal preocupación… es su actitud hacia nuestra aún frágil democracia”, lo cual basa no en hechos, no en noticias, ni siquiera en opiniones, sino en una ficción de tres pisos, que no tiene desperdicio:

Primera parte: “Si el Sr. López Obrador eligiera incitar a movilizaciones populares y plebiscitos…”. Segunda: “… su gobierno podría convocar a una Asamblea Constituyente y avanzar hacia la anulación de la división de poderes y la subordinación de la Corte Suprema y otras instituciones autónomas después de restringir la libertad de los medios y silenciar cualquier voz disidente”. Tercera: “En tales circunstancias, México podría convertirse una vez más en una monarquía, mesiánica con el estilo de un caudillo sin vestimenta republicana: ‘el país de un solo hombre’.”

La ficción es kafkiana: resulta que el tabasqueño, por medio de plebiscitos, es decir, de un instrumento democrático —la Real Academia define plebiscito como una “consulta por medio de la cual se somete una propuesta a votación para que los ciudadanos se manifiesten en contra o a favor”—, instauraría una monarquía. Ya en la ruta de la fabulación —confabulando—, resulta meritorio que don Enrique no haya también escrito que el Peje podría, ya siendo monarca-caudillo por elección popular, implantar la República Bolivariana en México y en un descuido hasta reinstaurar los sacrificios humanos.

 

“The End of Mexican Democracy?” cierra con una esperanza: “que el legítimo descontento de los mexicanos y la urgente necesidad de cambio no nos lleve a la desaparición de nuestra incipiente pero genuina democracia”. Genuina, genuina, pero incapaz, según el articulista, de resistir que gane el contendiente que le cae más gordo.

 

* La traducción del inglés al español es mi responsabilidad.

Serendipia

-->

Belief in the causal nexus is superstition.

Ludwig Wittgenstein, Tractatus Logico-Philosophicus

Catapulta onírica y serendípica: una mañana de 1764, un aristócrata londinense despertó con un recuerdo truncado, aunque vivido, de lo que había soñado: “… me había visto a mí mismo en un antiguo castillo. En la baranda superior de una enorme escalera vi una mano gigantesca enfundada en una armadura. Ese mismo día, al anochecer, me senté y comencé a escribir, sin saber en lo absoluto qué era lo tenía intención de decir o relatar”. Dos meses después, aquel hombre puso punto final a El castillo de Otranto; estaba inaugurando el subgénero literario de terror gótico. Desde el subtítulo de la novela el autor embaucaba: A Story. Translated by William Marshal, Gent. From the Original Italian of Onuphrio Muralto, Canon of the Church of St. Nicholas at Otranto. Y en el prefacio de la primera edición, la quimera se cimentaba informando a los lectores que la obra —ésa que supuestamente había traducido el tal William Marshal— provenía de un manuscrito de 1529 recientemente descubierto en la biblioteca de “una antañona familia católica del norte de Inglaterra”, en el cual se recogía una historia escrita en Italia entre 1095 y 1243. Establecido el origen misterioso, el pretendido traductor incluso enjuiciaba el texto: “No hay grandilocuencia, símiles, florituras, digresiones o descripciones innecesarias. Cada elemento tiende directamente a la catástrofe”. Eruditos y reseñistas se tragaron el cuento, al igual que el público, y la novela resultó un éxito comercial… Ese mismo año, en la segunda edición, el autor ya no etiquetaba su libro como una historia, sino como una historia gótica, y además se descubría, dando a conocer su verdadero nombre: Horace Walpole.

Horace Walpole (1717-1797) se dedicaba a vivir bien, a la historia del arte, al coleccionismo y a la arquitectura… Adinerado, ilustrado e inteligente, además de escribir El castillo de Otranto, fiel a su rol de hombre de letras dieciochesco, se carteaba con muchas personas —se conservan más de tres mil misivas de su puño y letra—. En una epístola fechada el 28 de enero de 1754 le cuenta a su tocayo Horace Mann —embajador británico ante la corte de Florencia—, que accidentalmente había hecho un gran hallazgo mientras trabajaba en la curaduría de una pintura de Bianca Cappello (1548-1587), amante y luego segunda esposa de Francisco I de Medici, realizada por el italiano Giorgio Vasari (1511-1574): al tratar de encontrar en un viejo tratado de heráldica un escudo de los Medici, se topó con el de los Cappello…

Así que más que accidental, resulta más certero decir que el encuentro heráldico fue fortuito —la palabra fortuito viene del latín fortuitus, “inesperado, que sucede por casualidad”, y tiene dos componentes léxicos: fortuna (suerte) y el sufijo -ito (pequeño)—. Además de contar la anécdota, la denominaba: “este descubrimiento ha sido casi como de los que yo llamo de serendipia, una palabra muy expresiva…” En el mismo texto Walpole explica el origen de su neologismo: “El descubrimiento es, realmente, de la clase que yo denomino serendipity, una palabra muy expresiva, que como no tengo nada mejor que contarte, procedo a explicar… Una vez leí un tonto cuento de hadas llamado Los tres príncipes de Serendipia. A medida que sus altezas viajaban estaban siempre haciendo descubrimientos, por accidente y sagacidad, de cosas que no estaban buscando: por ejemplo, uno de ellos descubre que una mula ciega del ojo derecho ha viajado por el mismo camino recientemente, porque el pasto estaba comido sólo del lado izquierdo, que estaba peor que del derecho… ¿Ahora, entiendes serendipity?” Nótese cómo le llegó a Walpole el vocablo que acuñó; serendipia es una serendipia.

El relato al que se refería Walpole es la versión inglesa de un texto publicado en 1557en Venecia por Michele Tramezzino: Peregrinaggio di tre giovani figliuoli del re di Serendippo —Peregrinación de los tres hijos jóvenes del rey de Serendippo—, a su vez una traducción al italiano realizada por Cristoforo Armeno (1534-1557) de un relato antiquísimo, seguramente basado en la vida de Bahram V Gour, rey sasánida de Persia entre 420 y 438. En Francia el cuento también era muy conocido y, como se sabe, un famoso coetáneo de Horace Walpole echó mano de la historia de los tres príncipes de Serendippo —es decir, la isla de Ceilán, hoy la República Democrática Socialista de Sri Lanka—: Voltaire (1694-1778), en su novela Zadig ou la Destinée (1747) haría que el protagonista, un filósofo de Babilonia, dejara a medio mundo con la boca abierta describiendo a un perro y a un gato que jamás había visto, al igual que siglos atrás lo habían hecho los príncipes de Serendippo —en su caso, con un camello—.

La Real Academia Española define serendipia como “hallazgo valioso que se produce de manera accidental o casual”. ¿Hallar algo que no se busca? Curiosamente, el diccionario otorga a la palabra hallazgo, cuya primera acepción es la obvia —“acción y efecto de hallar”— un significado casi serendípico: “encuentro casual de cosa mueble ajena que no sea tesoro oculto”. En inglés, el sentido del término es más amplio: serendipity se refiere tanto al hecho del hallazgo afortunado como a la facultad de lograrlo, lo cual, bien pensado, resulta alucinante: ¿tener la aptitud de hacer algo que no se quiere hacer? 

El concepto de serendipia sigue siendo difícil de contener. Apenas en 2006, Princeton University Press publicó una obra póstuma del sociólogo norteamericano Robert K. Merton (1910-2003), en coautoría con Elinor Barber, The Travels and Adventures of Serendipity. Extrañas coincidencias: la primera edición de este ensayo se realizó en italiano: Viaggio e Aventure della Serendipity (Il Mulino, 2002).

AI ahí

¿La libertad? Sofisma de la gente sana.

E. M. Cioran, Silogismos de la amargura.

¿Vas a leer o no esta columna?

Bien, has tomado la decisión más inteligente:

 … decía que, según Daniel Dennett, los artefactos de AI (inteligencia artificial, por sus siglas en inglés), al menos mientras no tengan conciencia de su propia finitud, como nosotros, continuarán viajando en el asiento del copiloto: los seres humanos seguiremos teniendo la última palabra. La moderadora entonces tiró la pelota al más joven de los participantes en el panel “La evolución de la conciencia” —Foro Económico Mundial; 25/I/2018—, el profesor Yuval Noah Harari (Israel, 1976), quien en lugar de seguir incordiando a las máquinas y sus algoritmos más bien la tomó en contra de nosotros, los homo sapiens, los autodenominados hombres sabios… Afirmó que los humanos no somos muy buenos en materia de tomar decisiones, especialmente en el campo de la ética. Y no es porque carezcamos de valores, el problema está en una falta de comprensión cabal de las cadenas de causas y efectos en las que se involucran nuestros actos. “Si se trata de ser realmente responsables, no es suficiente tener valores y asumir responsabilidades, es necesario entender la cadena de causas y efectos”. Explicó que el sentido de la moral de los sapiens evolucionó cuando aún éramos cazadores-recolectores. A lo largo de toda aquella prolongadísima etapa, a cualquier persona le resultaba relativamente sencillo observar y entender las cadenas de causas y efectos en el mundo que lo rodeaba —el mundo se reducía casi sólo a eso, a lo que lo rodeaba—: cada quien podía saber de dónde provenía su alimento, ya fuera si lo había cazado uno mismo o alguien más del grupo; de dónde provenía las prendas con que se protegía, si uno mismo las había confeccionado o bien su familia o sus compañeros… “En cambio ahora, incluso una pregunta de lo más simple como ¿de dónde salió esto? —se cuestionó agarrándose las solapas del saco—… No lo sé. Me tomaría por lo menos un año lograr averiguar quiénes confeccionaron esto, en qué condiciones, si fue justo o no… El mundo se ha complicado en muchos ámbitos, no en todos, pero en muchos es demasiado complicado…” Refiriéndose a los instrumentos de acuerdo de los que hablaba Dennett, al acotar que los sistemas AI no pueden firmar contratos porque carecen de personalidad moral, Yuval Noah Harari apuntó: “Yo firmo contratos casi diariamente… Descargo una nueva aplicación y de inmediato aparece un contrato, páginas y páginas de paja legal, y yo, y supongo que casi toda la demás gente, no leo una sola palabra de todo aquello… Simplemente doy clic en el recuadro ‘He leído’ y listo… ¿Es esto responsable? No estoy seguro…” Conforme al autor de De animales a dioses y Homo Deus, a través de la historia hemos venido construyendo la idea de que los grandes sucesos de la vida consisten en tomar decisiones. ¿Qué es la vida humana de acuerdo a esta visión? “El drama de tomar decisiones… Y ello puede apreciarse en cualquier comedia hollywoodense, en cualquier novela de Jane Austen… Cualquier tragedia de Shakespeare se reduce al gran momento de la decisión crucial… ¿Me caso con míster Collins o con míster Darcy? —Pride and Prejudice—… ¿Ser o no ser? ¿Asesino o no al rey Duncan? —Macbeth—… Y ocurre lo mismo en la religión… ¿Seré freído durante toda la eternidad en el Infierno por tomar la decisión equivocada?… Sucede lo mismo con las ideologías modernas… La democracia es votar por tal o cual candidato, tomar decisiones. En la economía tenemos el poder del cliente, que siempre tiene la razón., es el de la elección… Así que todo se reduce a ese momento de decisión…” Es por esto que los artefactos AI pueden parecernos tan aterradores… Si en un momento dado transfiriéramos la autoridad de tomar decisiones a las AI —como en el caso del hipotético electrodo de la pregunta que la psiquiatra Jodi Halpern hace a sus alumnos semestre a semestre—, las AI tomarían el control de los momentos que consideramos más importantes de nuestras vidas; no solamente determinarían qué ruta seguirías para ir al trabajo, también votarían por nosotros, harían la lista del súper, determinarían con quién te conviene salir el sábado… ¿Con qué nos quedaríamos los tontos seres humanos? La respuesta de Yuval Noah Harari resulta provocativa: “Tal vez el error haya sido perfilar la vida como un drama de toma de decisiones. Quizá no sea eso de lo que se trata la vida humana, quizá la toma de decisiones haya sido un ingrediente necesario de nuestras vidas durante miles de años, pero tal vez no sea necesariamente eso de lo que deba tratarse…” 

No es necesario tramar una historia de ciencia ficción demasiado elaborada para proyectar el escenario al que alude Yuval Noah Harari… Basta imaginar un Waze de todo o de casi todo, digamos, un AI ahí contigo, quizá anexado al iPhone o a un reloj de pulsera… Ahora mismo, tengo ganas de dejar de escribir e ir a la cocina a prepararme un café… Siri, voy a prepararme un expreso… El mensaje vuela a los enormes servidores instalados en Silicon Valley y en menos de un par de segundos los algoritmos procesan todos los datos de que disponen sobre mi rutina diaria, la agenda para hoy y mis distintos niveles bioquímicos, en tiempo real, y determina: Mejor termina tu columna; ya has consumido demasiada cafeína el día de hoy… Por cierto, ya casi no hay café; lo voy a agregar a la lista del súper.

Hay AI

La inteligencia comete tonterías

que sólo la tontería puede corregir.

Augusto Monterroso

… decía yo que las decisiones más inteligentes no son necesariamente las que más nos gustan a los humanos. No hablo de las malas decisiones que tomamos por brutos, es decir, a las sendas equivocadas que tomamos porque nuestra escuálida inteligencia ante un determinado problema no nos alcanza para poder elegir el mejor camino… No, no me refiero a esas; más bien afirmo que es frecuente que las personas no opten por lo más conveniente, a sabiendas…  Sucede que el poder determinar cuál es la alternativa más inteligente no garantiza que una persona en su sano juicio efectivamente se decida por ella, y mucho menos que actúe en consecuencia. Ejemplos hay para dar y regalar… Van dos…

Seguramente no todos, quizá ni siquiera la mayoría, pero podemos tener plena certeza de que muchísimos fumadores saben perfectamente que no es la mejor decisión gastar su dinero envenenándose, y sin embargo lo siguen haciendo, ¿cierto?… El otro: ¿ qué pensar del adulto dueño de todas sus facultades que muy tranquilo va manejando cuando recibe un whats importantísimo, urgente como todos, el cual lee echando un ojo al gato y otro al garabato, y luego decide, sabiendo que no es las más óptima de las elecciones, contestar ipso facto “ja, ja, ja!”, y por ello, justo cuando teclea el emoji de carita-llorando-de-risa, se estampa contra la pipa de gas estacionario que circula en frente…? Sostengo la aventurada hipótesis de que, en ambos casos, nadie necesita instalarse un electrodo para despejar inteligentemente la incógnita a la que se enfrenta.

Abundan las circunstancias en las que a cualquier persona normal le gusta meter la pata. Todos lo sabemos: no siempre actuamos lógicamente. El sapiens ha evolucionado de tal forma que incluso puede caer en la situación de sentir un profundo desagrado al decidirse efectivamente por lo más inteligente… La diferencia aquí respecto a todas los sistemas de AI (Inteligencia Artificial, por sus siglas en inglés) es tajante: ninguna computadora puede hoy sentir feo por tener que sacrificar un caballo para preparar el jaque al rey contrario…, y probablemente jamás lo logre. ¿Por qué? Claro: porque ninguna máquina puede hasta ahora pensar acerca de sus propios.

La psiquiatra Jodi Halpern —autora de From Detached Concern to Empathy: Humanizing Medical Practice, 2011— considera que la ausencia absoluta de conciencia que hoy caracteriza a todo artilugio AI está vinculada directamente con la cuestión de la finitud. En ello concuerda Daniel Dennett: “Hoy los AI son distintos a nosotros en un sentido fundamental: los puedes reiniciar, los puedes copiar, los puedes echar a dormir durante cien años y después despertarlos; en cierto sentido son inmortales, así que si los desarrolláramos de tal manera que fueran capaces de enfrentar su propia finitud en la vida, de la forma en la que nosotros tenemos que hacerlo, abriríamos un orden totalmente diferente. No creo que sea imposible conseguirlo, pero me parece que nadie está trabajando ahora para ello.” Así las cosas, al menos por ahora, tenemos en los AI sólo herramientas, instrumentos, entes irresponsables… “Mientras no seamos capaces de crear sistemas de AI con los cuales podamos sentirnos racionalmente confortables haciéndoles una promesa o firmando con ellos un contrato, los humanos seguiremos teniendo la última palabra (the bus stops with us…)…”, y los AI no pasarán de ser consejeros, súper inteligentes tal vez, pero sólo consejeros. “Así que cuando actuemos de acuerdo a sus consejos, deberemos asumir la responsabilidad de hacerlo. En tanto mantengamos la responsabilidad moral por las decisiones que tomemos con ayuda de las AI, habrá que continuar en el asiento del conductor”.

La metáfora que emplea Dennett también puede entenderse en sentido literal, y entonces ya no es necesario tirar la mirada al futuro sino escudriñar en el presente… Vamos a celebrar el aniversario del restaurante de un amigo que está en la Condesa, en donde resulta complicadísimo encontrar en dónde estacionarse… Optamos entonces por pedir un Uber. El algoritmo se activa, estima el costo del viaje, localiza y contacta al conductor más cercano y tres minutos después el taxi ya está esperándonos…

— ¿Germán?

 — Sí. ¿Dámaso?

— Sí, buenas noches

 Abordamos.

— ¿Vamos a la calle de Alfonso Reyes, entre Cuautla y Cuernavaca?

 — Sí, amigo.

 — ¿Seguimos la ruta que me marca la aplicación o ustedes me dicen por dónde?

 — Siga el camino que le indica…

 ¿Quién toma la decisión? ¿Quién es el responsable? Los algoritmos de Waze entonces comienzan a trabajar…:  Tomemos vía Viaducto Río Becerra —instruye la aplicación con la vocecita femenina que se ha vuelto familiar—… El auto avanza, se aproxima a la esquina… Gira a la derecha en Indiana…, y el conductor atiende la recomendación. ¿Recomendación? Recomendación, que esta vez el señor Dámaso atiende…, a diferencia de lo que hizo semanas atrás un colega suyo… El Waze había dado la misma indicación, tomar Indiana, pero él siguió de frente…

 — Es lo mismo por acá, eh…  Es que hace rato pasé por Indiana y hay un bache enorme… –explicó. Avanzó hasta la lateral de Río Becerra, en donde tuvimos que avanzar una tortuosa cuadra a vuelta de rueda, por la congestión vehicular. Luego retomó la ruta inicialmente marcada por la aplicación. La decisión fue la más inteligente… para el conductor… considerando como criterio principal no el tiempo del recorrido sino la integridad de sus llantas… Lo mejor sin destinatario, me temo, no existe…

¡Ay, AI!

The mind is the effect, not the cause.

Daniel C. Dennett

Hace unos días se llevó a cabo el Foro Económico Mundial (WEF, por sus siglas en inglés). Indubitablemente me importa un bledo la inmensa mayoría de los supuestos acuerdos que surgieron durante este encuentro de gente monstruosamente adinerada —el execrable 1% de la población de todo el orbe, conformado por los más poderosos, según su propia narrativa— y los políticos que los representan. En cambio, encontré apasionante uno de los paneles de discusión que, como parte del Foro, se organizaron allá en Davos, Suiza…

El 25 de enero se llevó a cabo el diálogo “La evolución de la conciencia”. Amy Bernstein, editora en jefe de la Harvard Business Review, fue la encargada de templar el coloquio, en el que participaron Jodi Halpern, profesora de Bioética y Humanidades Médicas en la Universidad de Berkeley, California; Daniel C. Dennett, profesor de Filosofía en la Universidad de Tufts, y Yuval Noah Harari, profesor de Historia en la Universidad Hebrea de Jerusalén.

De entrada, la moderadora refirió que durante las jornadas del WEF se había podido percibir una fuerte corriente de esperanza desmedida en torno a las bondades de la Inteligencia Artificial (AI, por sus siglas en inglés), a la que, en suma, se ve como una panacea… Después de presentar a los panelistas, arrancó la sesión dando lectura a unas líneas que, según dijo, extrajo de un artículo difundido por la revista Wired, y que le provocaron pesadillas: “Incontables artilugios de AI están siendo fabricados y programados. No sólo serán cada vez más inteligentes, cada vez serán mejores que nosotros y nunca serán como nosotros”. Luego pidió comenzar por donde se debe, intentando establecer un piso conceptual… A ver, ¿qué diablos es la conciencia? Dennett —autor entre otras muchas otras obras de Consciousness Explained (1995) y de From Bacteria to Bach and Back: The Evolution of Minds (2017), su más reciente publicación— tiró a la mesa una aguda síntesis: la conciencia es “la capacidad de final abierto de representar tus propias representaciones, de reflexionar acerca de tus propias reflexiones; y es lo que nos da el poder de imaginar una serie de futuros posibles, a gran detalle, y pensar acerca de ellos”. Por su parte, Yuval Noah Harari —autor del extraordinario libro Sapiens: A Brief History of Humankind (2011)— afirmó que hoy día existe una confusión extendida: nos cuesta distinguir entre inteligencia y conciencia, especialmente cuando se habla de AI. “Inteligencia —discernió— es la habilidad de solucionar problemas”, mientras que “conciencia es la habilidad de sentir cosas, de tener experiencias subjetivas, como amor, odio, miedo, en fin”. El israelí explicó que “la confusión entre inteligencia y conciencia es comprensible porque en el caso de los seres humanos siempre están juntas. Nosotros solucionamos problemas a través de sentimientos, pero en las computadoras pueden presentarse de manera totalmente separada, de tal modo que podemos tener súper inteligencia sin absolutamente nada de conciencia”. Llegado su turno, la psiquiatra Jodi Halpern apuntó que a la gente poco le preocupa la distinción entre conciencia e inteligencia, y más bien se cuestiona por la definición del yo. Restó entonces importancia a las diferencias semánticas que pudieran tener entre los tres dialogantes, y prefirió plantear un dilema, el cual resultó lo suficientemente interesante y provocativo para colocarse desde ese momento en el centro del debate… Relató que ha impartido la cátedra de Ética de la Ciencia a nivel posgrado desde hace más de veinte años, y que siempre, desde que comenzó, les ha hecho la misma pregunta a todos sus alumnos: “Si tuvieras la posibilidad de implantarte un pequeño electrodo en el cerebro que pudiera tomar por ti las mejores decisiones existenciales —con quién casarte, tener o no tener hijos, a qué dedicarte en la vida…—, y asegurar así resultados felices y una mejor vida…, ¿te lo colocarías?” Contó que hacía apenas catorce días había planteado el mismo cuestionamiento a un grupo de jóvenes estudiantes, y el resultado fue el mismo desde que comenzó a realizar el sondeo: todos y cada uno de sus alumnos han contestado que no. Sorprendentemente, enseguida, la doctora Halpern dijo que después de haber investigado más y más acerca de lo que es realmente la AI, creía que sus alumnos están equivocados. “Pienso que yo sí optaría por la implantación del electrodo… Para tomar decisiones inteligentes confío en la AI; para entenderme y transformarme y relacionarme, no”.

No voy a continuar, por ahora, con lo que respondieron los sapientísimos Dennett y Harari. Quisiera anotar que mi respuesta al dilema no habría sido ni si ni no, quiero decir, no en primera instancia. Hubiera pedido opinión al dichoso electrodo; me lo hubiera colocado provisionalmente para preguntarle si me convendría su implantación definitiva, sí o no y por qué… Y claro, aquí se halla todo el meollo del dilema, me parece: el asunto no es tanto si la dichosa AI pueda determinar por nosotros la mejor opción, la cuestión estriba en si le cederemos o no la voluntad para actuar conforme a dicha decisión, y entonces la interrogante se multiplica al menos por dos: la incógnita no sólo es si será posible crear algún día un artefacto AI capaz de realizar dicha tarea —tomar las mejores decisiones existenciales por nosotros—, sino además si el ser humano podría ser modificado de manera tal que transfiera o entregue su voluntad a un ente autónomo, en este caso un electrodo…, porque, claro, a los humanos, las decisiones más inteligentes no son necesariamente las que más nos gustan.

¡Adiós, Nicanor!

Ni muy listo ni tonto de remate

Fui lo que fui: una mezcla

De vinagre y de aceite de comer

¡Un embutido de ángel y bestia!

Nicanor Parra, Epitafio.

Nicanor Parra llegó al mundo en otra época y falleció hace apenas unos días. Nació en un pueblito de la provincia chilena de Ñuble, San Fabián de Alico, en un año en el cual todavía existía el Imperio Otomano y a la guerra que entonces había comenzado aún nadie la llamaba Primera Guerra Mundial, 1914… Así que la aritmética dicta que el poeta murió con 103 años a cuestas… Afortunados, nosotros; él se nos fue dejando mucho… Por poemario de muestra pongamos Poemas y antipoemas, de 1954 —entonces Nicanor Segundo Parra Sandoval estaba por cumplir 40 años y previamente apenas había publicado un librito, Cancionero sin nombre (1937)—. En estricto desorden permítaseme traer a cuentas el último poema, Soliloquio del individuo, un artefactote textual que bien permite leerse como una Historia Universal, nada más ni nada menos… Arranca:

Yo soy el Individuo.

Primero viví en una roca

(Allí grabé algunas figuras).

Luego busqué un lugar más apropiado

Y uno —ese uno que soy yo— no puede evitar el recuerdo de la hermosa y sabia explicación que escribió Lewis Mumford —La ciudad en la historia (1961)— respecto al lugar de la cueva en la historia de los lugares humanos: “… la caverna le dio al hombre primitivo su primera concepción del espacio arquitectónico, su primero atisbo del poder de un recinto amurallado como medio para intensificar la receptividad espiritual y la exaltación emotiva… […]…  Pero más importante que su uso con fines domésticos fue la función que la caverna desempeñó en el arte y en el ritual”.

Yo soy el Individuo.

Primero tuve que procurarme alimentos,

Buscar peces, pájaros, buscar leña,

(Ya me preocuparía de los demás asuntos).

Hacer una fogata,

Leña, leña, dónde encontrar un poco de leña,

Algo de leña para hacer una fogata.

Y sigo espejeando con Mumford: “El primer requisito necesario para la existencia de una abundante provisión segura de alimentos surgió en el período mesolítico, tal vez hace quince mil años. A esta altura, el arqueólogo comienza a encontrar claras huellas de asentamientos permanentes desde la India hasta la región del Báltico. Se trata de una cultura basada en el aprovechamiento de mariscos y peces, posiblemente también de algas y tubérculos…” Salto varios versos maravillosos y miles y miles de años —nada más para dejarte con las dudas, con la espina clavada para que busques y halles el libro—, para dejar que Nicanor llegue a la Modernidad:

Produje ciencia, verdades inmutables,

Produje tanagras,

Di a luz libros de miles de páginas,

Se me hinchó la cara,

Construí un fonógrafo,

La máquina de coser,

Empezaron a aparecer los primeros automóviles,

Y hablando de Modernidad, el antepenúltimo poema del mismo libro, Los vicios del mundo moderno, una joya de ya más de medio siglo… Un retablo de nuestro tiempo, aquel que Nicanor vivía y atisbaba a medio siglo XX, el mismo que se resiste a trasmutar en otra cosa y por tanto en el que en la actualidad seguimos. El poema inicia perfilando a personajes harto conocidos hoy…, míralos, reconócelos que hasta parecen salidos de cualquiera de los spots con los que a diario nos bombardean:

Los delincuentes modernos

están autorizados para concurrir diariamente

                                                  a parques y jardines.

Provistos de poderosos anteojos y de relojes de bolsillo

Entran a saco en los kioskos favorecidos por la muerte

E instalan sus laboratorios entre los rosales en flor.

Desde allí controlan a fotógrafos y mendigos que

                                 [deambulan por los alrededores

Procurando levantar un pequeño templo a la miseria.

Y si se presenta la oportunidad llegan a poseer

                                 [a un lustrabotas melancólico.

Y luego, versos más adelante, un cabal inventario, atinadísimo, de las depravaciones del mundo/época que nos tocó en suerte:

El automóvil y el cine sonoro,

Las discriminaciones raciales,

El exterminio de los pieles rojas,

Los trucos de la alta banca,

La catástrofe de los ancianos,

El comercio clandestino de blancas realizado por sodomitas internacionales,

El autobombo y la gula,

Las pompas fúnebres,

Los amigos personales de su excelencia,

La exaltación del folklore a categoría del espíritu,

El abuso de los estupefacientes y de la filosofía,

El reblandecimiento de los hombres favorecidos

                                                                   [por la fortuna,

El auto-erotismo y la crueldad sexual,

La exaltación de lo onírico y del subconsciente en desmedro del sentido común,

La confianza exagerada en sueros y vacunas,

El endiosamiento del falo,

La política internacional de piernas abiertas

               [patrocinada por la prensa reaccionaria,

El afán desmedido de poder y de lucro,

La carrera del oro,

La fatídica danza de los dólares,

La especulación y el aborto,

La destrucción de los ídolos,

El desarrollo excesivo de la dietética y

                    [de la psicología pedagógica,

El vicio del baile, del cigarrillo, de los juegos de azar,

Las gotas de sangre que suelen encontrarse entre

                       [las sábanas de los recién desposados,

La locura del mar,

La agorafobia y la claustrofobia,

La desintegración del átomo,

El humorismo sangriento de la teoría de la relatividad,

El delirio de retorno al vientre materno,

El culto de lo exótico,

Los accidentes aeronáuticos,

Las incineraciones, las purgas en masa, la retención

                                                              [de los pasaportes,

Todo esto porque sí, porque produce vértigo,

La interpretación de los sueños

y la difusión de la radiomanía.

Cierro esta invitación a que leas al antipoeta con la estrofa de un poema —Coplas del vino— que hallo en el tercer libro de Parra, La cuenca larga (1958):

Algunos toman por sed

Otros por olvidar deudas

Y yo por ver lagartijas

Y sapos en las estrellas.

¡Salud!