«LA IA PERMITE UNA VIGILANCIA TOTAL QUE ACABA CON CUALQUIER LIBERTAD»
En su nuevo ensayo, ‘Nexus‘, el historiador y filósofo Yuval Noah
Harari (Israel, 1976) enciende las alarmas sobre el creciente poder de la
inteligencia artificial, el avance de la hipervigilancia y el debilitamiento de
la conversación. Así, el autor de bestsellers como ‘Sapiens’ y ‘Homo Deus’
plantea una paradoja:
--- si nuestra especie es tan sabia, ¿por qué somos tan
autodestructivos?
¿QUÉ
DIFERENCIA A LA INTELIGENCIA ARTIFICIAL (IA) DE UN TOTALITARISMO O
AUTORITARISMO?
Los
regímenes autoritarios controlan la esfera política y militar y el presupuesto,
pero dejan que la gente tenga un margen. El rey o el tirano no puede saber lo
que cada uno de nosotros hace o piensa cada minuto del día. Los regímenes
totalitarios intentan precisamente hacer eso.
Stalin en
la Unión Soviética o Hitler en Alemania no solo querían controlar el ámbito
militar y el presupuesto, sino la totalidad de la vida de cada uno de sus
habitantes.
Pero
incluso Hitler y Stalin tenían límites frente al nivel de control de sus
súbditos porque no podían seguir a todo el mundo constantemente, ni mucho menos
disponer de unos 400 millones de agentes para vigilar y controlar a sus 200
millones de ciudadanos.
La IA permite una vigilancia total que acaba con cualquier
libertad, porque no necesita agentes para seguir a cada humano: hay teléfonos
inteligentes, ordenadores, cámaras, reconocimiento facial y de voz…
La IA
tiene la capacidad de revisar una cantidad ingente de videos, audios, textos,
analizarlos y reconocer patrones.
«La gente del sector de la IA está atrapada en una mentalidad de
carrera armamentística»
¿ESTO YA
ESTÁ SUCEDIENDO?
Por
supuesto.
--- En
Israel hay territorios ocupados con cámaras y drones, siguiendo a todo el mundo
constantemente.
--- En
Irán, donde las mujeres deben cubrir su rostro, hay cámaras de vigilancia
con software de reconocimiento facial que identifica a las
mujeres que, por ejemplo, van en su vehículo sin cubrirse la cara.
Ellas
reciben de inmediato en su teléfono móvil un SMS que les recuerda su falta y su
castigo: la confiscación de su vehículo; deben descender del coche y
entregarlo.
La
autoridad para castigarlas está en manos de la IA. No es un escenario de
ciencia ficción ni algo que pasará en 100 años. Ya estamos viviéndolo.
¿CONSIDERA
QUE DEBEMOS ASUMIRNOS COMO ESPECIE EN PELIGRO?
Sí, pues la IA es diferente a cualquier tecnología previamente
inventada. No es una herramienta sino un agente independiente.
Todas las anteriores tecnologías —la bomba atómica o las armas
nucleares— tenían un inmenso poder destructivo, pero su poder estaba en las
manos de los humanos, ellos decidían cómo y dónde usarlas. No sucede lo mismo
con la IA, pues esta toma decisiones por sí misma.
En el
ámbito periodístico, las decisiones más importantes en un periódico están en
manos de su editor. Un periodista puede escribir la historia que desee, pero,
al final, es el editor quien decide qué publicar en la primera página del
periódico.
Ahora, en
la mayoría de los principales medios de comunicación y plataformas digitales
como Twitter y Facebook, el rol del editor ha sido reemplazado por la IA.
Son
algoritmos los que deciden cuál debe ser la historia recomendada, cuál debe ir
en la parte alta del news feed.
Ahora la IA no solo toma decisiones por su cuenta, sino que
también crea ideales, en cuanto produce mil cosas nuevas por sí misma, desde
textos, imágenes, etc.
«Los medios de comunicación integran la base de una democracia a
gran escala»
¿QUÉ PAPEL
DEBE ASUMIR LA PRENSA PARA FORTALECER LA DEMOCRACIA?
Antes del
mundo premoderno no conocíamos una democracia —la palabra «democracia»
significa «conversación»— en sí, pues una conversación a gran escala era
imposible.
En una
pequeña ciudad, sus habitantes podían reunirse en la plaza y conversar llegando
a acuerdos, pero en un reino era técnicamente imposible mantener una
conversación entre millones de personas.
Una
conversación a gran escala fue posible con la llegada de la tecnología de la
información moderna, cuya primera herramienta fueron los periódicos que
surgieron entre los siglos XVII y XVIII en Países Bajos o Inglaterra, en donde
nacieron las primeras democracias de la historia.
Luego
llegaron otras nuevas tecnologías como el telégrafo, la radio, etc.,
demostrando que los medios de comunicación integran la base de una democracia a
gran escala.
Algunos
dictadores de la era moderna empezaron como periodistas. Lenin antes de ser
dictador fue editor de un periódico. Mussolini empezó como periodista
socialista y después cambió de parecer y fundó un periódico fascista; era
editor de un periódico y a partir de ese poder se convirtió en dictador de
Italia.
Hoy este poder está en manos de los gigantes: Facebook,
Instagram y Twitter y en manos de sus algoritmos.
EN ESTE
MARCO, ¿CABEN LA LIBERTAD DE EXPRESIÓN Y LA CENSURA?
Si bien
existe un fuerte debate sobre la responsabilidad de estos nuevos gigantes
tecnológicos, cuando se les acusa de algo siempre hablan de la libertad de
expresión: «Nosotros, por la libertad de expresión, no queremos censurar
a nadie» y este tema está en el centro de la polémica.
Estoy de
acuerdo en que las empresas de redes sociales deben ser cuidadosas con el tema
de la censura a sus usuarios, pero el problema no son …
los contenidos producidos por humanos sino las decisiones
editoriales de los algoritmos.
«Insto a la gente a marcar la diferencia entre las decisiones de
los usuarios humanos y las del algoritmo»
¿QUÉ
PUEDEN HACER LAS PERSONAS DEL COMÚN?
Insto a la
gente a marcar la diferencia entre las decisiones de los usuarios humanos y las
del algoritmo. Si el usuario humano decide inventar una historia,
publicar fake news y mentir (tal vez por error o a propósito),
en situaciones extremas, podría ser perseguido y castigado; en términos
generales, la gente miente, pero en una democracia debemos tener cuidado antes
de empezar a censurar.
Además, creo que la gente tiene derecho a la estupidez,
inclusive a decir mentiras —excepto cuando se vinculan a un delito—.
No es bueno que la gente mienta, pero forma parte de la libertad
de expresión.
Sin
embargo, el tema principal con esas teorías de conspiración y fake news no
son
las decisiones de los seres humanos protegidos por la libertad
de expresión, sino las decisiones de los algoritmos de las corporaciones, pues
su modelo de negocio se basa en la implicación del usuario.
¿CÓMO
DESCRIBE EL MODELO DE NEGOCIO DE LAS EMPRESAS DE REDES DE INFORMACIÓN?
La
implicación del usuario es la base de todo. Si las personas pasan más tiempo en
las plataformas, las empresas ganan más dinero pues venden más anuncios y
recaban datos que más adelante venderán a terceros. Este es su modelo de
negocio.
Y
persiguiendo este objetivo, los algoritmos de las empresas han descubierto que
hay que diseminar fake news y teorías que aumentan las
dosis de odio, miedo y rabia en los usuarios porque esto hace que la gente se
implique, esté más tiempo en las plataformas y envíe enlaces para que sus
amigos también se puedan enfadar y tengan miedo.
De eso sí
que deberían ser responsables las empresas porque esto no es libertad de
prensa.
¿QUÉ
PUEDEN HACER LAS EMPRESAS DE REDES DE INFORMACIÓN?
No hay que
detener todo esto; simplemente hay que invertir más en seguridad, como sucede
por sentido común en cualquier otro sector.
Por
ejemplo, si vas a fabricar un fármaco o una vacuna hay que invertir tiempo,
esfuerzo y talento para que funcione sin generar efectos adversos. Si las
empresas de IA invirtieran, por ejemplo, 20% de su presupuesto, su tiempo y
talento en seguridad, sería un paso significativo que podría protegernos de su
lado más pernicioso.
Pero la gente del sector está atrapada en una mentalidad de
carrera armamentística, de competidores, y de no dejarse ganar.
Así que
cuando les hablas de los peligros de la IA te responden:
«Ahora estamos desarrollando la IA y si tenemos un problema en
el camino, pues ya lo trataremos».
Esto es
muy peligroso porque es como si alguien pusiera en la carretera un vehículo sin
frenos y dijera: «Solo queremos que vaya lo más rápido posible y, si luego hay
un problema en carretera con los frenos, inventaremos algo cuando eso suceda».
Esto no
funciona así en los vehículos y tampoco debería hacerlo en la IA.
«La IA tiene un potencial enorme; no creo que toda la gente en
Silicon Valley sea malvada»
¿ALGO
POSITIVO O APORTE DE IA A LA HUMANIDAD?
Sin duda,
la IA tiene un potencial enorme; no creo que toda la gente en Silicon Valley sea malvada.
La IA
puede darnos a todos la mejor atención sanitaria, pues hay falta de médicos en
muchos países y la IA podría crearlos; inclusive, el médico de IA puede
actualizarse a diario con los descubrimientos, estudios y desarrollos que se
producen en todo el mundo. El médico IA puede estar 24 horas con nosotros
mientras que los médicos humanos no pueden (además, el médico IA es más
barato). En este sentido, dentro de 20 o 30 años la IA podrá crear la mejor
atención sanitaria incluso en zonas remotas o de pobreza extrema.
Ahora, en
el campo de la prevención de accidentes de tránsito, muchas veces los
siniestros son producidos por errores humanos, pero cuando le das a la IA el
control de un vehículo autónomo, esta no se va a dormir al volante, no bebe
alcohol y luego conduce, etc. No hay tecnología perfecta, pero creo que
automatizar la conducción salvará millones de vidas.
Esta
entrevista hace parte de un acuerdo de colaboración entre el periódico ‘El Tiempo‘
y ‘Ethic’. Publicó: 
- 27-01-2025
No hay comentarios:
Publicar un comentario