[publicó “ethic” – diciembre 2024] por:
Mariana Toro Nader
Para el escritor y cronista Juan Villoro (Ciudad de México,
1956), la cultura digital ha alterado el paradigma de la lectura. En su
ensayo ‘No soy un robot’
(Anagrama, 2024) demuestra que, de cara al avance vertiginoso de la
inteligencia artificial, tenemos la opción de «acudir a un instrumento que
contiene la gran reserva de lo humano: el libro».
Afirma que «el siglo XXI asiste a un cambio en el paradigma
lector que no ocurría desde el siglo XII». ¿Cómo hemos llegado a este
punto?
Las transformaciones de la lectura han sido lentas. En los
siglos XII y XIII los escolásticos consolidaron la paginación y la estructura
de los libros hechos a mano, y el siglo XV los popularizó con la imprenta.
Desde entonces no había habido un cambio tan radical como el que ahora
experimentamos.
Vivimos rodeados de aparatos alimentados de letras; a tal grado
que los mensajes escritos se han vuelto atmosféricos, están en todas partes.
Esto ha alterado en forma definitiva las costumbres, la economía y la arena
política. El caso de Cambridge Analytica revela que la voluntad popular puede
ser manipulada con mensajes en red. Estamos ante un horizonte inédito que
resulta preocupante para todos y fascinante para un cronista.
«Mariana Toro Nader»
«Quien habla maravillas de su refrigerador parece un idiota»,
escribe, mientras en todos los sectores hay quienes hablan maravillas de la IA.
¿Cómo salir de esa oposición entre el consumidor acrítico y el ludista? O,
mejor dicho, ¿cómo se ve el punto medio?
Geoffrey Hinton, conocido como «padre de la IA», renunció a su
cargo en Google porque consideró que había creado un monstruo. Es el más
reciente Premio Nobel de Física y sorprende que sus logros sean tan
significativos como su arrepentimiento.
La IA aporta beneficios extraordinarios, de eso no hay duda. No
creo que la solución a los excesos de la tecnología consista en refugiarse en
una cueva y renunciar a la luz eléctrica. Hay que convivir de la mejor manera
posible con un instrumento útil pero peligroso, que sustituye progresivamente
tareas humanas.
En el escenario más dramático, la IA se puede convertir en su
propio amo. Pero tal y como está ahora es acaso peor, pues depende de amos muy
poco confiables. ¿Podemos pensar que Vladimir Putin o Elon Musk actúen con
solidaria responsabilidad social?
Otro asunto por destacar es la forma en que la IA procesa los
datos. Recientemente, el campeón de Go perdió ante un procesador preparado para
disputar ese juego. Lo más peculiar es que el campeón no entendió el modo en
que jugaba la máquina y la máquina tampoco pudo explicarlo. Ciertos movimientos
fueron rigurosamente inexplicables.
La IA entrega el resultado sin que resulte claro el proceso para
llegar ahí. Esto me recuerda las clases de Matemáticas que sufrí en el
bachillerato. Cuando nos pedían despejar una ecuación, no bastaba con mostrar
el resultado; había que poner los pasos para llegar ahí, de ese modo el maestro
sabía cómo razonábamos. La IA da el resultado sin que conozcamos todos los
pasos. A cierto nivel de complejidad, no es posible saber cómo procesa los
datos, es decir, cómo «piensa».
Desde un punto de vista meramente pragmático o comercial, se
puede confiar en que entregue resultados; desde un punto de vista cultural,
desconcierta no poder seguir su «razonamiento», sobre todo cuando dependemos de
sus decisiones.
Hablemos sobre la historia de Stanislav Petrol, «el hombre
que salvó al mundo», que decidió no activar el protocolo de
contraataque nuclear en plena Guerra Fría. Si la decisión hubiera estado a
cargo de una máquina, simplemente habría leído los datos y se hubiera desatado
una guerra nuclear. Lo mismo sucede con Chesley Sullenberger y su amerizaje en
el río Hudson. Una IA habría buscado la opción menos mala entre las únicas
que conocía: tratar de llegar a un aeropuerto. Los pasajeros se salvaron porque
el avión iba en manos de un humano, gracias a esa creatividad…
Ambos ejemplos me parecen estupendos. A veces el ser humano opta
por lo improbable y actúa movido por intuición o por mera superstición. No
siempre acierta, pero la supervivencia de la especie ha dependido de ciertas
corazonadas eficaces. Nuestra subjetividad es sumamente compleja. Una de las
principales habilidades humanas es la capacidad de autoengaño, que permite
hacer cosas para las que en principio no estamos capacitados. Y algunas de
nuestras principales motivaciones provienen de una carencia o del dolor. En eso
aventajamos a las máquinas, que no saben sufrir.
«Las máquinas carecen de dos recursos esenciales para el
conocimiento: el gusto y el capricho»
Al respecto del síndrome de Chaplin:
--- ¿qué tan parecidos somos a nosotros mismos cuando
estamos llenos de filtros, mostrando solo el mejor ángulo, la mejor
comida, el mejor viaje?
--- Qué tan parecidos somos a esa marca personal que nos
instan a crear en redes sociales?
--- ¿Cómo ser una marca –por definición monolítica y
perdurable– cuando el ser humano es, en esencia, voluble?
Sí, la leyenda cuenta que Chaplin se presentó a un concurso de
aficionados que lo imitaban y no obtuvo el primer lugar. Ser genuino no es lo
mismo que parecerlo. Esto cobra especial sentido en la espectral sociedad de
las cámaras y las pantallas.
Nuestra personalidad cívica depende de tener un NIP definido y
estables señas de identidad. Lo importante no es que la foto del pasaporte se
parezca a nosotros, sino que nosotros nos parezcamos a ese documento. Somos una
huella dactilar, un iris en el ojo, un password.
Las máquinas nos registran de modo alfanumérico al tiempo que
nuestra conducta se vuelve más limitada y reiterativa.
Vivimos en una etapa de homologación donde los algoritmos
procuran que seamos semejantes a nosotros mismos. Las ofertas que recibimos en
red tienen que ver con lo que ya hemos buscado; en este sentido, el algoritmo
repite nuestros intereses, apostando por lo que ya nos gusta. Es la sutil
tiranía de lo mismo. En cambio, la literatura nos diversifica, no pretende
repetir el efecto de otro libro sino entusiasmarte con algo que no sabías que
te podía gustar.
Habla de la «crisis de pasado», que lo anterior se descarta
solo porque ya sucedió. Sin embargo, ¿no cree que hay también una «crisis
de futuro»? ¿Una incapacidad para imaginar futuros mejores? ¿La
imposibilidad de la utopía?
En los años 60 las utopías estuvieron en oferta. Hoy, la
guerrilla, la revolución psicodélica, el amor libre sin protección, la aurora
comunista y el regreso a una naturaleza intacta son rutas inviables. Después de
una sobredosis de promesas es lógico que no abunden los heraldos del futuro.
En cambio, el orden digital ha reforzado el «adanismo» del que
hablaba Ortega y Gasset, la sensación de que todo se debe conseguir de manera
instantánea y de que somos los primeros en nombrar lo que sucede. Las nuevas
generaciones desconfían de lo ya sucedido y el pasado se ha convertido en una
tarea para especialistas.
Esto explica que numerosos políticos propongan como novedades
idearios que ya fracasaron en otros tiempos. En el plano familiar, el célebre
abismo generacional pasa por un descrédito de todo lo que huela a algo
anterior. El pasado se ha sometido a un embargo, lo cual permite reinventarlo
en forma indiscriminada. Los videojuegos y la PlayStation ofrecen con enorme
éxito una Edad Media que nunca ocurrió o una mitología maya diseñada por gamers.
«Ser culto sirve para leer menos»
Paul Virilio dice que cada tecnología crea su accidente. Por su
parte, Mustafa Suleyman habla del «efecto venganza», el problema de la
contención: toda tecnología es capaz de fallar, y a veces en formas que
contradicen su propósito original. En su opinión, ¿cuáles serán –o son– los «efectos
venganza» de la IA?
El principal temor fue expresado en 2001: Odisea del
espacio: la computadora que se independiza de su programación original y
actúa por cuenta propia. El escenario más extremo es la rebelión de las
máquinas. Sin embargo, no es muy útil establecer un temor límite porque eso
permite pensar que, mientras no se llegue ahí, lo que tenemos no es tan malo.
Eso deja el campo libre a los cambios minuciosos que se producen en nombre de
la eficacia tecnológica.
La huelga de guionistas en Hollywood frenó una transformación
que ya estaba en curso. La inmensa mayoría de los argumentistas del cine y la
televisión industriales puede ser desplazada por procesadores; esa medida solo
se detuvo por una protesta gremial bien organizada. Por desgracia, esa
resistencia no prospera en otros ámbitos.
¿Y AL RESPECTO DE LA LECTURA?
Respecto a la lectura, la principal «venganza» consiste en que
las máquinas leen más que nosotros y se confía progresivamente en sus análisis.
La gran reserva de la cultura no está en la cantidad de libros sino en el modo
del leer, en los valores entendidos o implícitos, en la capacidad de leer entre
líneas.
En No soy un robot sostengo que ser culto sirve
para leer menos. Nadie puede asimilarlo todo. Ante la inmoderada marea de datos
que recibimos en las redes, la formación literaria sirve para descartar lo que
no nos conviene: un dato crucial o el tono de una frase hacen que sepamos si
eso sirve o no para nosotros.
En cambio, las máquinas deben leer todo lo que enfrentan y
carecen de dos recursos esenciales para el conocimiento: el gusto y el
capricho. En el arte todo juicio es relativo. Cuando Nabokov critica a
Dostoievski eso no invalida a Dostoievski, simplemente señala que es un autor
que no pertenece al «sistema Nabokov».
Las máquinas carecen de verdades relativas y afinidades
electivas. Mi libro dispara algunas alarmas, pero también trata de ofrecer
recursos de resistencia.
«El mundo digital ha creado una esclavitud feliz»
Por otro lado, ¿qué cree que se puede hacer ante el
colonialismo de datos?
En el trabajo fabril, la enajenación es evidente y se padece de
manera física. En cambio, el mundo digital ha creado una esclavitud feliz.
La gente es adicta al teléfono, pero no vive eso como una
enajenación sino como la posibilidad de revisar miles de opciones y de
mantenerse conectado con la tribu. Mientras tanto, entrega sus datos personales
y se convierte en mercancía.
Los creadores de Internet imaginaron un medio gratuito y
liberador; ahora critican que se haya monetizado y manipule a los usuarios.
Urge una legislación más eficaz para proteger a los ciudadanos. Hay muchas
tareas necesarias; entre otras cosas, la educación debe replantearse en la era
del copy paste.
Hay datos alarmantes sobre la pérdida de la memoria, que se ha
desplazado a los repositorios de silicona. Preservar la memoria es una tarea
social de primera necesidad. También hay que combatir la discriminación
digital. Mi madre tiene 91 años y perdió las huellas dactilares; esto la alejó
de manera definitiva del sistema bancario. Y en todas partes asoma este asunto.
En México, la indígena María de Jesús Patricio Martínez trató de
ser candidata independiente a la presidencia. El requisito para lograrlo era
conseguir un millón de firmas de votantes, pero se debían recabar en una
aplicación que se descargaba en teléfonos celulares de gama media, algo
imposible de conseguir para las comunidades indígenas. Las anécdotas al
respecto abundan; es absurdo, por ejemplo, que en un museo debas acudir a un
código QR para recibir información sobre una pieza.
Mi libro se llama No soy un robot en alusión a
la frase con la que debemos estar de acuerdo en una página web. La paradoja es
que quien nos acredita como humanos es una máquina.
En numerosos niveles de la vida estamos siendo juzgados por
aparatos. Debemos reaccionar ante esto y una de las mejores formas de hacerlo
consiste en acudir a un instrumento que contiene la gran reserva de lo humano:
el libro.
«Los influencers caducan rápido, pero lo que hoy escribe
un poeta tendrá formas lentas de perdurar»
Los textos virtuales son literales. Las redes sociales suelen
ser el hogar del tópico. No dan suficiente tiempo para el contexto, para una
lírica bien planteada. ¿Estamos asistiendo a la muerte de la metáfora?
De repente, en un chat alguien lanza un lúcido aforismo o una
metáfora deslumbrante, pero se trata de excepciones. La red es un basurero en
el que a veces brillan joyas. Pero la poesía sigue sucediendo. Rara vez los
versos se vuelven virales, lo cual no importa mucho porque su función es otra:
son anticuerpos.
Los vendavales de la modernidad pasan, pero la poesía permanece.
Hace poco hablé con un booktuber mexicano que ha tenido enorme
éxito. No llega a los 30 años, pero se siente acabado, según me dijo después de
unos tequilas. La causa es esta: la gente que lo seguía en YouTube se ha
desplazado a TikTok; en un par de años se volvió obsoleto. Mientras tanto,
Vallejo y Quevedo siguen siendo clásicos.
Los influencers caducan rápido, pero lo que hoy
escribe un poeta tendrá formas lentas de perdurar.
«El libro ya cambió el mundo, pero si se inventara hoy,
sería aún mejor». El lector literario interpreta la información; el lector
digital solo la consume. ¿Si se inventara el libro hoy se recuperaría la
posibilidad de que hubiera más lectores literarios, es decir, críticos?
Lo más importante de un libro no es lo que dice del autor sino
lo que dice del lector. La lectura es un peculiar proceso de autoconocimiento.
De pronto, un ruso o un japonés con el que no tienes nada, te revelan algo
insólito de ti mismo. A diferencia de los discursos unívocos, que solo pueden
ser interpretados de una manera, la literatura tiene muchos modos de ser
comprendida y cambia de un lector a otro.
Un libro cerrado no es una obra de arte; solo se convierte en
eso cuando un lector le insufla vida. En «Pierre Menard, autor del Quijote»,
Borges copia dos fragmentos idénticos de la novela de Cervantes. Aunque se
trata del mismo pasaje, significa cosas muy diferentes porque es leído en
contextos muy distintos.
Lo que está en juego en la lectura es nuestra propia vida. La
literatura es un espejo cambiante que se aparta por completo del flujo lineal
de la información.
