Citizen AI

In dreams begin responsibilities.

W.B. Yeats

Paul Daugherty, Marc Carrel-Billiard y Michael Biltz trabajan en Accenture Technology Vision; el primero encabeza la oficina de Tecnología e Innovación, el segundo dirige el Laboratorio de Realidad Extendida y el tercero la división de Prospección Tecnológica. Juntos escribieron el paper en el que su compañía identifica las tecnologías emergentes “que tendrán un impacto considerable en todas las industrias durante los próximos tres años, y que ya es posible empezar a utilizar” —Technology Vision 2018—. Mencionan cinco; aquí solamente me referiré a la primera, a la cual llaman “el Ciudadano AI” (Inteligencia Artificial, por sus siglas en inglés). Estos tecno-agoreros sostienen que los artilugios de AI se encuentran ya en los inicios de su propia educación. Según ellos la tendencia es que la IA adquiera pronto la mayoría de edad y su “ciudadanía”, para lo cual “es necesario que supere muchos de los retos que las personas hacen frente al crecer, desde explicar decisiones y acciones, hasta asumir responsabilidades por sus propios actos”.

Ciertamente, cada vez más y más decisiones importantes están siendo confiadas a los algoritmos, a sabiendas o no del gran público e, incluso, de la gente sobre la cual en un momento dado pueden tener una incidencia directa. Entre los ejemplos típicos están los bancarios. Planea usted un negocio, hace cuentas, prospecta y al fin se decide a ir al banco a solicitar un crédito hipotecario; llena todos los formularios, entrega la documentación comprobatoria que le piden y se arma de paciencia para esperar el fallo… Tres días después usted recibe un correo electrónico…: que no, le niegan el crédito. ¡¿Pero por qué…, si cubro todos los requisitos?! Acude al banco a pedir explicaciones y un funcionario le responde justo lo que ya sabía:

— Lo sentimos mucho, pero el sistema consideró que su perfil crediticio es improcedente.

— Sí, eso es exactamente lo que dice el correo que recibí…, ¿pero por qué?
— Bueno…, el sistema así lo determinó.
— Pero…
— El sistema, mi amigo…

 

En fin, no usted no consigue sacar al hombre de ahí; de hecho, lo más que logra del funcionario es un gesto que en inglés se denomina con una sola palabra, shrug, y que en español mentamos con una descripción incompleta: un encogimiento de hombros —incompleta, porque no menciona las palmas de las manos vueltas hacia arriba—… Lo cual es como decir al menos dos cosas: 1) yo no tengo ni idea y 2) a mí qué.
Tome aire porque la vida cotidiana, nuestra vida cotidiana, se irá plagando cada vez más de cajas negras como esta —una entrada que uno más o menos sabe o al menos intuye de qué se trata, en este caso cantidades ingentes de datos, y una salida, resoluciones, pero dentro no sabemos exactamente cómo ocurre el procesamiento—. Enseguida, dos botons de muestra, dos escenarios que no pertenecen a la ciencia ficción sino a un futuro mediato sumamente probable:
 

a)    El joven Daniel, quien está a punto de concluir la preparatoria y sueña con dedicarse a componer música sinfónica, recibe un sobre certificado en el cual le envían la resolución final de la Gran Gestor Informático de las Instituciones de Educación Superior (GIIES) de todo el país. Por medio de sus poderosos algoritmos y echando mano de bases de datos no sólo relacionadas con todo el historial académico del muchacho, sino también de sus redes sociales, el perfil financiero de sus tutores, las necesidades del mercado laboral nacional y el desempeño de la economía global, el GIIES ha decidido que Daniel no va a estudiar Música, sino una carrera técnica en enfermería geriátrica en una ciudad del norte del país en la que hasta ahora jamás ha puesto un pie. ¿Por qué? Shrug.

b)   Xóchitl —actuaria, 33 años, soltera, deportista— lleva once años trabajando en un órgano autónomo del Estado, y desde entonces tiene un seguro de gastos médicos mayores. Jamás lo ha requerido, afortunadamente. Una tarde recibe un sobre de la empresa aseguradora. Un fajo de papeleo legal, una carta y un cheque a su nombre. La cantidad es fuerte y la carta dice, en pocas palabras, que lo sienten pero que ya no pueden seguir asegurándola, que disuelven el contrato unilateralmente por lo que optan por pagarle la multa… ¿Por qué? Xóchitl corre a preguntar al departamento de recursos humanos. Shrug. Le sugieren llamar a la compañía de seguros. Después de navegar más de diez minutos por incontables menús y submenús con el teclado del teléfono, al fin le contesta un ser humano. Expone su situación y su duda: ¿por qué? Nuestro sistema determinó que no le conviene a la empresa mantener su contrato, señorita. ¿Por qué? Silencio… Shrug.

No parte de la paranoia la perspectiva anterior. La Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA, por sus siglas en inglés) de Estados Unidos dispuso hace apenas unos meses una bolsa de 6.5 millones de dólares para que un grupo de académicos de distintas universidades gringas desarrollen soluciones tecnológicas que permitan que las decisiones que tomen los artefactos AI no resulten para nosotros inexplicables. El reporte de Accenture Technology Vision establece que “resulta indispensable que la AI pueda ser capaz de explicar el proceso utilizado para llegar a una decisión. Dado que un sistema de AI está diseñado fundamentalmente para colaborar con las personas, las empresas deben construir y entrenar sus AI para proporcionar explicaciones claras de las acciones que deciden tomar, en un formato que la gente entienda”.
En dado caso, la pregunta no es tanto si los algoritmos son o no capaces de cometer errores —obviamente lo son—, sino si realmente nos gustaría conocer las razones por las que determinen tal o cual decisión.

Miedo y ficción krauzianas

Laughter is poison to fear.

George R.R. Martin, A Game of Thrones.

Si a uno le cae muy gordo, digamos, el candidato de la coalición Por México al Frente, puede, pongamos, subrayar su juventud, su menudencia curricular y hasta su aniñada apariencia, y llamarlo candidatito. Así nomás, no se tiene que probar nada, ni documentar nada. O uno puede idear un palíndroma en el que se retrotraiga la acusación que en mancuerna le hacen el PRI y la PGR: ¿Lava lana? ¡Ay, Anaya! Anal aval. Habrá a quienes les dé risa y a los que el juego de palabras les parezca tonto y de mal gusto, pero no se necesita más que hacerlo para hacerlo. O si el guamazo quiere dirigirse en contra del candidato de Enrique Peña Nieto, más de uno ha jugado con el apellido del abanderado priísta, que se escribe Meade pero se dice Mid y suena a Me-ha-de querer seguir fregando… En este caso tampoco hay que desarrollar un razonamiento lógico para, sin más, soltar a la chanza. ¿O qué tal que sea el tabasqueño el que te provoca náuseas? Puedes hacerlo público diciéndole Lopitos, como hace Fox, con todo el afán de ningunearlo… Y otra vez: no es necesario fundamentar la ocurrencia, la espetas y listo, a ver a quién le hace gracia…

No es lo mismo si eres un insigne intelectual mexicano y publicas en The New York Times un texto editorial que titulas “The End of Mexican Democracy?” (7/III/2018). No es lo mismo porque, de entrada, los lectores llegarán al texto predispuestos a atender un discurso serio, bien hilado y fundamentado. Por supuesto, habrá quienes vayan más allá e incluso se predispongan, erróneamente, y pretendan encontrar en los juicios de Enrique Krauze verdades, si no científicas, al menos historiográficas, desatendiendo lo que en negritas advierte la propia publicación antes del título: Opinion —que en español significa tal cual, pero con acento ortográfico en la última sílaba—. Es decir, el autor presenta una serie de pensamientos con los que cada quien podrá o no estar de acuerdo: sus pareceres, pues. Claro, no todo lo que en su escrito afirma es una opinión —por ejemplo, el primer enunciado expresa un hecho: “El primero de julio, los mexicanos elegiremos a nuestro presidente para los próximos seis años”*—. Con todo, hay de opiniones a opiniones: hemos quienes opinamos que fue una gran falta de respeto que el presidente constitucional de la República Mexicana le haya dicho a sus gobernados que “no hay chile que les embone” (17/IV/2017), y habrá otros que piensen que su dicho coloquial no pasa de una bromita inofensiva…; de acuerdo, cada quien en su derecho, y si se tiene el ánimo y la educación suficientes incluso se puede dedicar tiempo a discutir las opiniones y tratar de convencer a los demás. Sin embargo, opinión, como cualquier otro concepto, tiene sus límites, sus fronteras semánticas, de tal suerte que hay significados que simplemente no están contenidos en él. Así como ni un camello ni una molécula de aluminio ni una artículo de la Constitución es una historia, así tampoco ni una fobia ni una mentira ni una cuento de hadas pueden pasar por una opinión… El problema es que sí es posible confundir un miedo o una fábula con una opinión, o peor, con una verdad indiscutible. Más grave que confundir resulta camuflar propositivamente una fobia y una ficción en un bosque de opiniones e informes, para hacerlos pasar por verdades. Tal es la operación que realiza Krauze.

Sería impertinente juzgar una opinión en términos de veracidad. Por ejemplo, el viernes pasado el monero Patricio tuiteó: “Yo opino que deberían hacer una Barbie de @RosarioRobles”. No sería adecuado calificar tal proposición —la entrecomillada— como verdadera o falsa; el caricaturista eso opina, y uno podrá estar a favor o en contra de su idea, pero no tacharla de mentira, ni siquiera de ilógica. Es igual que el segundo aserto que sentencia Krauze: “No serán unas elecciones ordinarias”. Una opinión…, discutible, por supuesto —¿qué proceso electoral ha sido ordinario?—, pero no en cuanto a su conformidad con respecto a la verdad. Enseguida, el enunciado que se cuela en el texto como la tesis central: “… lo que está en juego no es sólo un cambio de gobierno sino también un cambio en la naturaleza misma de la democracia liberal que México ha construido en lo que va del siglo”. Y líneas más abajo, ya afinado el tono de gravedad apocalíptica, la advertencia: “no será la primera vez que una elección democrática ponga a prueba a la democracia” —¿algo así como un suicidio del sistema? En fin, otra opinión—. Una vez que ha revelado la terrible amenaza, ya agazapada desde el título/pregunta de su artículo, el señor Krauze, antes de señalar al ente amenazante, dedica dos párrafos a esbozar un relato de nuestra historia política reciente, mismo que podría resumirse así: a partir de 1928, el país vivió una monarquía sexenal, “con ropajes de republicanismo”; muchos años después, en 2000, ¡albricias!, “la victoria de Vicente Fox…, puso fin al largo reinado del PRI. Y comenzó el experimento democrático en el que vivimos hasta ahora”. Las siguientes elecciones las despacha con nueve palabras: “El PAN ganó nuevamente con Felipe Calderón en 2006”, y las más recientes con trece: “en 2012 el poder presidencial regresó al PRI con Enrique Peña Nieto”. Informes ambos que, dada su concisión, resultan indiscutibles, aunque den cuenta de sucesos que merecerían una problematización mínima —más aún si el asunto central es, precisamente, la democracia y las elecciones presidenciales—. Pero nada, Enrique Krauze establece que México ya es una democracia, y presenta sus pruebas: alternancia, “el presidente ya no es un monarca absoluto”, el Congreso se integra por representantes de varios partidos políticos, “la Suprema Corte de Justicia es independiente” y “los órganos autónomos clave… operan profesionalmente” (particularmente menciona al INE y a Banco de México). Una maravilla, pues, en la que además agrega, en el mismo párrafo, como una prueba de la existencia de la democracia mexicana —¡oh, alquimia!—, la libertad de expresión, gracias a la cual, “aunque todavía es algo limitada…, se han revelado casos de corrupción que habrían permanecido ocultos en el siglo XX”. Enseguida, ¡faltaba más!, Krauze dedica un párrafo a criticar la situación del país —67 palabras en el texto original en inglés—, después dos para presentar a los candidatos en contienda —190 palabras— y luego la médula de su discurso: seis párrafos —524 palabras— en los que enjuicia a Andrés Manuel López Obrador, la amenaza para la democracia.

El diagnóstico de la actualidad comienza reiterando que “México es ya una democracia”, pero, enseguida, la enorme piedra en el arroz: “hay un profundo descontento con sus resultados”. La primera parte de la oración puede entenderse como una opinión, pero la segunda es, si no una mentira, por lo menos una imprecisión: el profundo descontento no es con los resultados de la democracia, sino con los resultados de los gobiernos emanados de la presunta democracia instaurada —ojo, digo presunta democracia porque habrá quienes recuerden el hecho irrebatible de que ninguno de dichos gobiernos ha representado a la mayoría de los electores, por no mencionar que hay datos duros suficientes para, por lo menos, afirmar que las dos últimas elecciones no fueron limpias, de tal manera que desde dicha perspectiva podría decirse que más bien que el “profundo descontento” se debe a la deficiente instauración del sistema democrático—. Y enlista los malos resultados achacados a la democracia: escaso crecimiento económico, pobreza, desigualdad… “y cuatro terribles problemas complican esta situación: violencia, inseguridad, impunidad y corrupción”. Cierto, aunque puesto así parecen como si los mentados problemas nos hubieran caído del cielo y no pasaran de complicaciones… Aquí sí no menciona agentes responsables.

Siguen los dos párrafos en los que presenta a los candidatos en contienda: el pobre Meade, quien “sufre las consecuencias” de los susodichos “terribles problemas”; Anaya, a quien los electores “no tienen aún manera de juzgar porque no ha presentado un programa detallado”; AMLO, el candidato de Morena, y finalmente la morralla, los independientes que aparecerán en la boleta pero que “no tienen ninguna posibilidad real de ganar”. La presentación del elenco no termina sin un juicio en conjunto, en el cual sólo uno sale raspado: “Más allá de sus diferencias políticas, todos ellos, con excepción del Sr. López Obrador, comparten un respeto por la democracia”. En la anterior opinión va implícito, claro, un diagnóstico: el Peje está loco porque, no respetando la democracia, participa en la contienda democrática. Muy su opinión de Krauze.

El más de medio millar de palabras con los que el articulista refiere “los precedentes” antidemocráticos de López Obrador aglutina las consabidas pruebas —para quienes así lo creen— de que el hombre es un peligro para México… Que mandó al diablo a las instituciones, que el plantón de Reforma, que si ha dicho que la Suprema Corte es un instrumento de la oligarquía, que si ha ofrecido amnistía a los narcos, que si “ha mostrado una intolerancia inflexible con los intelectuales y la prensa”…, en fin, casi todos, más que hechos, dichos más o menos comprobables… —todos, salvo la liga de “fervor religioso entre el Sr. López Obrador y sus seguidores”; juicio que es imposible de probar—…, a partir de los cuales Krauze expresa opiniones críticas contra el Peje. Bien, muy sus opiniones, discutibles todas… 

El problema se encuentra al final de su diatriba, en donde Enrique Krauze inserta un miedo y una ficción. Entiendo que el miedo que expresa no sólo lo siente un grupo de personas no especificado sino también él mismo: “Muchos mexicanos liberales tienen miedo de que [López Obrador] revierta la apertura a la inversión privada y extranjera en la producción petrolera mexicana y opte por proteger la economía nacional de la competencia internacional”. Más allá de que es discutible que 1) sea o no fundado el temor, y 2) que en efecto sea inconveniente para los intereses nacionales revertir la Reforma Energética, subrayo que lo que se expresa es un miedo —fear—, y me temo —aquí yo expreso el mío propio— que lo que pretende es propagarlo.

Enrique Krauze dedica el penúltimo párrafo de su artículo de opinión a su miedo personal, un miedo a una “actitud” del candidato morenista: “Mi principal preocupación… es su actitud hacia nuestra aún frágil democracia”, lo cual basa no en hechos, no en noticias, ni siquiera en opiniones, sino en una ficción de tres pisos, que no tiene desperdicio:

Primera parte: “Si el Sr. López Obrador eligiera incitar a movilizaciones populares y plebiscitos…”. Segunda: “… su gobierno podría convocar a una Asamblea Constituyente y avanzar hacia la anulación de la división de poderes y la subordinación de la Corte Suprema y otras instituciones autónomas después de restringir la libertad de los medios y silenciar cualquier voz disidente”. Tercera: “En tales circunstancias, México podría convertirse una vez más en una monarquía, mesiánica con el estilo de un caudillo sin vestimenta republicana: ‘el país de un solo hombre’.”

La ficción es kafkiana: resulta que el tabasqueño, por medio de plebiscitos, es decir, de un instrumento democrático —la Real Academia define plebiscito como una “consulta por medio de la cual se somete una propuesta a votación para que los ciudadanos se manifiesten en contra o a favor”—, instauraría una monarquía. Ya en la ruta de la fabulación —confabulando—, resulta meritorio que don Enrique no haya también escrito que el Peje podría, ya siendo monarca-caudillo por elección popular, implantar la República Bolivariana en México y en un descuido hasta reinstaurar los sacrificios humanos.

 

“The End of Mexican Democracy?” cierra con una esperanza: “que el legítimo descontento de los mexicanos y la urgente necesidad de cambio no nos lleve a la desaparición de nuestra incipiente pero genuina democracia”. Genuina, genuina, pero incapaz, según el articulista, de resistir que gane el contendiente que le cae más gordo.

 

* La traducción del inglés al español es mi responsabilidad.

Serendipia

-->

Belief in the causal nexus is superstition.

Ludwig Wittgenstein, Tractatus Logico-Philosophicus

Catapulta onírica y serendípica: una mañana de 1764, un aristócrata londinense despertó con un recuerdo truncado, aunque vivido, de lo que había soñado: “… me había visto a mí mismo en un antiguo castillo. En la baranda superior de una enorme escalera vi una mano gigantesca enfundada en una armadura. Ese mismo día, al anochecer, me senté y comencé a escribir, sin saber en lo absoluto qué era lo tenía intención de decir o relatar”. Dos meses después, aquel hombre puso punto final a El castillo de Otranto; estaba inaugurando el subgénero literario de terror gótico. Desde el subtítulo de la novela el autor embaucaba: A Story. Translated by William Marshal, Gent. From the Original Italian of Onuphrio Muralto, Canon of the Church of St. Nicholas at Otranto. Y en el prefacio de la primera edición, la quimera se cimentaba informando a los lectores que la obra —ésa que supuestamente había traducido el tal William Marshal— provenía de un manuscrito de 1529 recientemente descubierto en la biblioteca de “una antañona familia católica del norte de Inglaterra”, en el cual se recogía una historia escrita en Italia entre 1095 y 1243. Establecido el origen misterioso, el pretendido traductor incluso enjuiciaba el texto: “No hay grandilocuencia, símiles, florituras, digresiones o descripciones innecesarias. Cada elemento tiende directamente a la catástrofe”. Eruditos y reseñistas se tragaron el cuento, al igual que el público, y la novela resultó un éxito comercial… Ese mismo año, en la segunda edición, el autor ya no etiquetaba su libro como una historia, sino como una historia gótica, y además se descubría, dando a conocer su verdadero nombre: Horace Walpole.

Horace Walpole (1717-1797) se dedicaba a vivir bien, a la historia del arte, al coleccionismo y a la arquitectura… Adinerado, ilustrado e inteligente, además de escribir El castillo de Otranto, fiel a su rol de hombre de letras dieciochesco, se carteaba con muchas personas —se conservan más de tres mil misivas de su puño y letra—. En una epístola fechada el 28 de enero de 1754 le cuenta a su tocayo Horace Mann —embajador británico ante la corte de Florencia—, que accidentalmente había hecho un gran hallazgo mientras trabajaba en la curaduría de una pintura de Bianca Cappello (1548-1587), amante y luego segunda esposa de Francisco I de Medici, realizada por el italiano Giorgio Vasari (1511-1574): al tratar de encontrar en un viejo tratado de heráldica un escudo de los Medici, se topó con el de los Cappello…

Así que más que accidental, resulta más certero decir que el encuentro heráldico fue fortuito —la palabra fortuito viene del latín fortuitus, “inesperado, que sucede por casualidad”, y tiene dos componentes léxicos: fortuna (suerte) y el sufijo -ito (pequeño)—. Además de contar la anécdota, la denominaba: “este descubrimiento ha sido casi como de los que yo llamo de serendipia, una palabra muy expresiva…” En el mismo texto Walpole explica el origen de su neologismo: “El descubrimiento es, realmente, de la clase que yo denomino serendipity, una palabra muy expresiva, que como no tengo nada mejor que contarte, procedo a explicar… Una vez leí un tonto cuento de hadas llamado Los tres príncipes de Serendipia. A medida que sus altezas viajaban estaban siempre haciendo descubrimientos, por accidente y sagacidad, de cosas que no estaban buscando: por ejemplo, uno de ellos descubre que una mula ciega del ojo derecho ha viajado por el mismo camino recientemente, porque el pasto estaba comido sólo del lado izquierdo, que estaba peor que del derecho… ¿Ahora, entiendes serendipity?” Nótese cómo le llegó a Walpole el vocablo que acuñó; serendipia es una serendipia.

El relato al que se refería Walpole es la versión inglesa de un texto publicado en 1557en Venecia por Michele Tramezzino: Peregrinaggio di tre giovani figliuoli del re di Serendippo —Peregrinación de los tres hijos jóvenes del rey de Serendippo—, a su vez una traducción al italiano realizada por Cristoforo Armeno (1534-1557) de un relato antiquísimo, seguramente basado en la vida de Bahram V Gour, rey sasánida de Persia entre 420 y 438. En Francia el cuento también era muy conocido y, como se sabe, un famoso coetáneo de Horace Walpole echó mano de la historia de los tres príncipes de Serendippo —es decir, la isla de Ceilán, hoy la República Democrática Socialista de Sri Lanka—: Voltaire (1694-1778), en su novela Zadig ou la Destinée (1747) haría que el protagonista, un filósofo de Babilonia, dejara a medio mundo con la boca abierta describiendo a un perro y a un gato que jamás había visto, al igual que siglos atrás lo habían hecho los príncipes de Serendippo —en su caso, con un camello—.

La Real Academia Española define serendipia como “hallazgo valioso que se produce de manera accidental o casual”. ¿Hallar algo que no se busca? Curiosamente, el diccionario otorga a la palabra hallazgo, cuya primera acepción es la obvia —“acción y efecto de hallar”— un significado casi serendípico: “encuentro casual de cosa mueble ajena que no sea tesoro oculto”. En inglés, el sentido del término es más amplio: serendipity se refiere tanto al hecho del hallazgo afortunado como a la facultad de lograrlo, lo cual, bien pensado, resulta alucinante: ¿tener la aptitud de hacer algo que no se quiere hacer? 

El concepto de serendipia sigue siendo difícil de contener. Apenas en 2006, Princeton University Press publicó una obra póstuma del sociólogo norteamericano Robert K. Merton (1910-2003), en coautoría con Elinor Barber, The Travels and Adventures of Serendipity. Extrañas coincidencias: la primera edición de este ensayo se realizó en italiano: Viaggio e Aventure della Serendipity (Il Mulino, 2002).

AI ahí

¿La libertad? Sofisma de la gente sana.

E. M. Cioran, Silogismos de la amargura.

¿Vas a leer o no esta columna?

Bien, has tomado la decisión más inteligente:

 … decía que, según Daniel Dennett, los artefactos de AI (inteligencia artificial, por sus siglas en inglés), al menos mientras no tengan conciencia de su propia finitud, como nosotros, continuarán viajando en el asiento del copiloto: los seres humanos seguiremos teniendo la última palabra. La moderadora entonces tiró la pelota al más joven de los participantes en el panel “La evolución de la conciencia” —Foro Económico Mundial; 25/I/2018—, el profesor Yuval Noah Harari (Israel, 1976), quien en lugar de seguir incordiando a las máquinas y sus algoritmos más bien la tomó en contra de nosotros, los homo sapiens, los autodenominados hombres sabios… Afirmó que los humanos no somos muy buenos en materia de tomar decisiones, especialmente en el campo de la ética. Y no es porque carezcamos de valores, el problema está en una falta de comprensión cabal de las cadenas de causas y efectos en las que se involucran nuestros actos. “Si se trata de ser realmente responsables, no es suficiente tener valores y asumir responsabilidades, es necesario entender la cadena de causas y efectos”. Explicó que el sentido de la moral de los sapiens evolucionó cuando aún éramos cazadores-recolectores. A lo largo de toda aquella prolongadísima etapa, a cualquier persona le resultaba relativamente sencillo observar y entender las cadenas de causas y efectos en el mundo que lo rodeaba —el mundo se reducía casi sólo a eso, a lo que lo rodeaba—: cada quien podía saber de dónde provenía su alimento, ya fuera si lo había cazado uno mismo o alguien más del grupo; de dónde provenía las prendas con que se protegía, si uno mismo las había confeccionado o bien su familia o sus compañeros… “En cambio ahora, incluso una pregunta de lo más simple como ¿de dónde salió esto? —se cuestionó agarrándose las solapas del saco—… No lo sé. Me tomaría por lo menos un año lograr averiguar quiénes confeccionaron esto, en qué condiciones, si fue justo o no… El mundo se ha complicado en muchos ámbitos, no en todos, pero en muchos es demasiado complicado…” Refiriéndose a los instrumentos de acuerdo de los que hablaba Dennett, al acotar que los sistemas AI no pueden firmar contratos porque carecen de personalidad moral, Yuval Noah Harari apuntó: “Yo firmo contratos casi diariamente… Descargo una nueva aplicación y de inmediato aparece un contrato, páginas y páginas de paja legal, y yo, y supongo que casi toda la demás gente, no leo una sola palabra de todo aquello… Simplemente doy clic en el recuadro ‘He leído’ y listo… ¿Es esto responsable? No estoy seguro…” Conforme al autor de De animales a dioses y Homo Deus, a través de la historia hemos venido construyendo la idea de que los grandes sucesos de la vida consisten en tomar decisiones. ¿Qué es la vida humana de acuerdo a esta visión? “El drama de tomar decisiones… Y ello puede apreciarse en cualquier comedia hollywoodense, en cualquier novela de Jane Austen… Cualquier tragedia de Shakespeare se reduce al gran momento de la decisión crucial… ¿Me caso con míster Collins o con míster Darcy? —Pride and Prejudice—… ¿Ser o no ser? ¿Asesino o no al rey Duncan? —Macbeth—… Y ocurre lo mismo en la religión… ¿Seré freído durante toda la eternidad en el Infierno por tomar la decisión equivocada?… Sucede lo mismo con las ideologías modernas… La democracia es votar por tal o cual candidato, tomar decisiones. En la economía tenemos el poder del cliente, que siempre tiene la razón., es el de la elección… Así que todo se reduce a ese momento de decisión…” Es por esto que los artefactos AI pueden parecernos tan aterradores… Si en un momento dado transfiriéramos la autoridad de tomar decisiones a las AI —como en el caso del hipotético electrodo de la pregunta que la psiquiatra Jodi Halpern hace a sus alumnos semestre a semestre—, las AI tomarían el control de los momentos que consideramos más importantes de nuestras vidas; no solamente determinarían qué ruta seguirías para ir al trabajo, también votarían por nosotros, harían la lista del súper, determinarían con quién te conviene salir el sábado… ¿Con qué nos quedaríamos los tontos seres humanos? La respuesta de Yuval Noah Harari resulta provocativa: “Tal vez el error haya sido perfilar la vida como un drama de toma de decisiones. Quizá no sea eso de lo que se trata la vida humana, quizá la toma de decisiones haya sido un ingrediente necesario de nuestras vidas durante miles de años, pero tal vez no sea necesariamente eso de lo que deba tratarse…” 

No es necesario tramar una historia de ciencia ficción demasiado elaborada para proyectar el escenario al que alude Yuval Noah Harari… Basta imaginar un Waze de todo o de casi todo, digamos, un AI ahí contigo, quizá anexado al iPhone o a un reloj de pulsera… Ahora mismo, tengo ganas de dejar de escribir e ir a la cocina a prepararme un café… Siri, voy a prepararme un expreso… El mensaje vuela a los enormes servidores instalados en Silicon Valley y en menos de un par de segundos los algoritmos procesan todos los datos de que disponen sobre mi rutina diaria, la agenda para hoy y mis distintos niveles bioquímicos, en tiempo real, y determina: Mejor termina tu columna; ya has consumido demasiada cafeína el día de hoy… Por cierto, ya casi no hay café; lo voy a agregar a la lista del súper.