QUÉ ES EL ‘COLONIALISMO DIGITAL’ Y POR QUÉ LAS IA HEREDAN LOS PREJUICIOS DE SUS CREADORES
Se sigue alimentando a la inteligencia artificial con datos de entrenamiento racistas y sexistas que después se distribuyen por todo el mundo; las ‘Big Tech’ son parte del problema.
“El poder de las gigantes tecnológicas es comparable al de los antiguos imperios coloniales”,
declara Abeba Birhane, doctora en ciencias cognitivas que investiga los prejuicios dentro de modelos de IA.fatido/Getty Images
Se ha dicho que los algoritmos son ‘opiniones incrustadas en código’.
Pocas personas entienden mejor las implicaciones de esto que Abeba Birhane, quien nació y creció en Bahir Dar, Etiopía, y luego se trasladó a Irlanda para estudiar: primero psicología, después filosofía y más tarde un doctorado en ciencias cognitivas en el University College de Dublín, en Irlanda.
Durante su doctorado, se vio rodeada de desarrolladores de software y estudiantes de ciencia de datos, inmersos en los modelos que construían y en los conjuntos de datos que utilizaban para entrenarlos. Pero empezó a darse cuenta de que nadie se preguntaba qué era realmente lo que con
Algoritmos racistas y clasistas.
En la campaña ‘Revoluciona el Algoritmo’, una iniciativa de la UNESCO y Racismo MX, personalidades como Tenoch Huerta, Maya Zapata o Jordan Giger
denuncian cómo la tecnología también obstaculiza la erradicación de prejuicios y desigualdades
El ‘colonialismo digital’ invade a las minorías con la inteligencia artificial
La inteligencia artificial se ha infiltrado en casi todos los aspectos de nuestras vidas: puede
Los sistemas de IA suelen entrenarse con conjuntos de datos gigantescos, normalmente tomados de internet por rentabilidad y facilidad.
Pero esto significa que la IA puede heredar
todos los prejuicios de los humanos que la diseñan, así como los presentes en los datos que la alimentan.
El resultado final es un reflejo de la sociedad, con toda su fealdad incluida.
Si no reconocemos esto, corremos el riesgo de causar daños en el mundo real.
Ya se ha acusado a la inteligencia artificial de subestimar las necesidades médicas de los pacientes negros y de reducir las probabilidades de que se apruebe una hipoteca a personas de ese grupo étnico.
Birhane reorientó su investigación hacia los conjuntos de datos que configuran cada vez más nuestro mundo. Quiere revelar los prejuicios y pedir cuentas a las grandes compañías que los diseñan y se benefician de ellos. Su trabajo ha obtenido reconocimiento mundial. En octubre de 2022, incluso tuvo la oportunidad de hablar de los efectos negativos de la gran tecnología en una reunión con el Dalai Lama.
A veces, Birhane solo tiene que rascar la superficie para que salten los problemas. En 2020, ella y su colega Vinay Prabhu auditaron dos populares conjuntos de datos.
El primero es 80 Million Tiny Images, un conjunto del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) citado en cientos de artículos académicos y utilizado durante más de una década para enseñar a los sistemas de aprendizaje automático a reconocer personas y objetos. Estaba lleno de etiquetas ofensivas, incluidos insultos racistas para las imágenes de personas negras.
En el otro conjunto de datos, ImageNet, encontraron contenido pornográfico, como archivos de mujeres a quienes se les había tomado fotografías sin autorización por debajo de la falda y que aparentemente no requerían el consentimiento explícito de las víctimas porque se habían extraído de internet.
Dos días después de que ambos publicaran su estudio, el equipo del MIT se disculpó y retiró el conjunto de datos Tiny Images.
Estos problemas vienen desde el nivel más alto. La investigación sobre aprendizaje automático pertenece predominante y abrumadoramente a hombres y blancos, un mundo demográfico alejado de las diversas comunidades a las que pretende ayudar.
Y las grandes empresas tecnológicas
no solo ofrecen entretenimiento online,
también tienen un enorme poder para influir en los acontecimientos del mundo real.
Birhane y otros han denominado a esto ‘colonialismo digital’, argumentando
que el poder de las gigantes tecnológicas es comparable con el de los antiguos imperios coloniales.
Sus daños no nos afectarán a todos por igual, argumenta:
a medida que la tecnología se exporta al sur global, arrastra consigo normas y filosofías occidentales arraigadas.
Se vende como una forma de ayudar a los habitantes de los países en vías de desarrollo,
pero con frecuencia se les impone sin consultarles, marginándoles aún más.
"Nadie en Silicon Valley se queda despierto preocupándose por las mujeres negras no bancarizadas de una zona rural de Tombuctú", manifiesta Birhane.
Considera que el cambio de actitud de la población será
el motor más eficaz para impulsar la transformación: las grandes empresas tecnológicas responden más a la indignación que a los ajustes burocráticos.
Pero Birhane no desea vivir en una nube permanente de bilis: como mujer negra que hace un trabajo crucial, se ha enfrentado a la oposición desde el primer día.
"No sé si podré vivir luchando", comenta Birhane, quien ahora compagina la docencia con una beca de investigación en la Fundación Mozilla, prefiere dejar que su investigación haga la labor. “Soy una gran defensora de ‘mostrar los datos’”, asegura.
Analizamos un algoritmo que evalúa a las personas
que solicitan prestaciones de seguridad social y descubrimos niveles de discriminación impactantes.
Pero Birhane no cree que eso sea suficiente: no es optimista en cuanto a la autocorrección de las grandes tecnológicas.
Por cada conjunto de datos problemático que se revela y corrige, otro espera.
A veces ni siquiera varía nada: en 2021, Birhane y sus colegas publicaron un artículo sobre un conjunto de datos de más de 400 millones de imágenes, llamado LAION-400M, que mostraba pornografía explícita cuando se le daban instrucciones con palabras relacionadas con el género femenino, como ‘mamá’ o ‘tía’.
El documento provocó indignación, pero el conjunto de datos sigue existiendo y ha aumentado a más de cinco mil millones de imágenes; incluso ganó un premio recientemente.
Hay una razón por la que nada ha cambiado.
--- Aunque la creación de conjuntos de datos para la inteligencia artificial es relativamente sencilla, pues basta con navegar por internet, su auditoría lleva mucho tiempo y es costosa.
--- "Hacer el trabajo sucio es mucho más difícil", apunta Birhane. No hay ningún incentivo para crear un conjunto de datos limpio, solo uno rentable.
Pero esto significa que todo este esfuerzo recae sobre los hombros de investigadores como Birhane, para quien escudriñar estos conjuntos de datos pasa factura, al tener que pasar horas mirando imágenes racistas o escenas de violación.
"Es deprimente", afirma. “Ver estas cosas puede ser verdaderamente traumatizante”.
En un mundo ideal, la transformación vendría impulsada por los enormes recursos de las compañías tecnológicas, no por investigadores independientes.
Pero es poco probable que las empresas modifiquen sus métodos sin una presión considerable.
"Me gustaría contar con un sistema civilizado en el que las corporaciones rindieran cuentas, se responsabilizaran y se aseguraran de que los sistemas que ofrecen son precisos, justos y equitativos para todos", destaca Birhane. "Pero me parece que pido demasiado".
Artículo originalmente publicado en WIRED UK. Adaptado por Andrei Osornio.
martes, 16 de junio de 2026
COLONIALISMO DIGITAL - QUÉ ES EL ‘COLONIALISMO DIGITAL’ Y POR QUÉ LAS IA HEREDAN LOS PREJUICIOS DE SUS CREADORES
lunes, 15 de junio de 2026
CONTROL SOCIAL - MANIPULACIÓN - "1984" GEORGE ORWEL . UNA ADVERTENCIA QUE NO ENVEJECE -
UNA ADVERTENCIA QUE NO ENVEJECE
A 77 años de su primera edición, la novela de George Orwell adquiere sorprendente actualidad. Del Gran Hermano a un nuevo poder distribuido entre Gobiernos, corporaciones tecnológicas y sistemas automatizados de control.
13 de junio de 2026 – Autor FEDERICO LORENZ – Publicó – diario “ACCIÓN”
En junio de 1949 apareció en Gran Bretaña Nineteen Eighty-Four, la novela con la que George Orwell terminó de darle forma literaria a las pesadillas políticas del siglo XX. Publicada apenas cuatro años después del final de la Segunda Guerra Mundial, cuando todavía humeaban las ruinas de Europa y el mundo se dividía en bloques enfrentados,
1984 no fue solamente una novela sobre el futuro: fue una meditación amarga sobre el presente de Orwell.
Lo notable es que, más de siete décadas después, aún funciona como una alarma encendida.
Orwell, que había nacido como Eric Blair en la India colonial británica, fue policía imperial en Birmania, conoció la pobreza en París y Londres, y combatió en la Guerra Civil Española.
Había visto de cerca cómo
las grandes ideologías del siglo podían deformarse hasta justificar el crimen, la mentira y la persecución.
Esa experiencia concreta, física, de la política y de la violencia marcó toda su obra.
Orwell escribía desde la intemperie. En España, luchando contra el franquismo, vio también cómo el estalinismo perseguía a sus propios aliados.
Comprendió entonces que el poder no necesitaba solamente controlar los cuerpos,
sino también controlar la verdad.
Esa certeza atraviesa 1984. La novela cuenta la vida de Winston Smith, un empleado menor del Ministerio de la Verdad en Oceanía, un Estado totalitario gobernado por el Partido y por la figura omnipresente del Gran Hermano.
Winston trabaja
corrigiendo diarios viejos, borrando hechos incómodos y reescribiendo el pasado para que coincida con las necesidades políticas del presente.
Si el Partido cambia de enemigo, los archivos cambian.
Si una producción económica fracasa, las estadísticas se corrigen.
Si una persona cae en desgracia, desaparece también de la memoria pública.
En 1984 el terror no se sostiene solamente en la vigilancia o en la tortura. Se sostiene en algo más profundo:
la destrucción de la posibilidad misma de pensar.
Orwell imaginó un lenguaje reducido ‒la neolengua‒
diseñado para impedir ideas complejas o críticas.
Si faltan las palabras, terminan faltando también las ideas.
Por eso la novela conserva tanta fuerza. Mucho de lo que Orwell imaginó aparece hoy
disperso, fragmentado, diluido en tecnologías y prácticas cotidianas que no necesitan campos de concentración para producir conformismo.
La vigilancia digital, la manipulación algorítmica, la circulación frenética de desinformación y la polarización permanente generan una sensación inquietante:
la verdad se vuelve inestable.
Cada grupo parece vivir en un universo paralelo de hechos propios. El problema ya no es solamente la censura clásica, sino la saturación.
Cuando todo circula al mismo tiempo,
distinguir entre verdad y propaganda se vuelve cada vez más difícil.
HONESTIDAD INTELECTUAL
El ensayista belga Simon Leys fue uno de los lectores más lúcidos de Orwell. Leys admiraba en él una virtud rara: la honestidad intelectual.
Decía que Orwell era capaz de mirar la realidad incluso
cuando esta realidad contradecía sus propias simpatías políticas.
En tiempos donde muchos intelectuales europeos justificaban los crímenes del maoísmo o del estalinismo porque creían servir a una causa superior, Leys insistía en que Orwell entendió algo esencial:
cuando la política destruye deliberadamente el lenguaje,
también destruye la capacidad moral de una sociedad.
Leys observó que la mentira organizada
no es simplemente un instrumento del poder,
sino una forma de remodelar la percepción humana.
Ese es uno de los núcleos más inquietantes de 1984. El Partido obliga a aceptar contradicciones evidentes:
«La guerra es la paz»,
«La libertad es la esclavitud»,
«La ignorancia es la fuerza».
No importa que las frases sean absurdas,
lo importante es entrenar la obediencia mental.
La naturalización de la brutalidad se vuelve cada vez más pronunciada.
Esa lógica no pertenece únicamente a las dictaduras clásicas.
En democracias contemporáneas también aparecen mecanismos similares, aunque bajo formas menos salvajes.
En Argentina, por ejemplo, la discusión pública parece organizada muchas veces
alrededor de relatos cerrados,
donde los datos importan menos que la pertenencia emocional.
Gobiernos de signos distintos han recurrido a
--- estadísticas manipuladas,
--- relatos épicos simplificados o
--- enemigos permanentes
para ordenar políticamente a sus seguidores.
La inflación puede cambiar de nombre; el ajuste puede llamarse «sinceramiento»; la precarización puede presentarse como modernización inevitable.
El lenguaje político se vuelve un territorio de disputa feroz.
Al mismo tiempo, las redes sociales multiplican el fenómeno. La velocidad de circulación de
rumores, operaciones y discursos de odio
produce un clima donde la indignación constante reemplaza a la reflexión.
El ciudadano aparece sometido a un bombardeo permanente de información contradictoria. En ese escenario,
la verdad ya no desaparece porque el Estado la prohíba: desaparece ahogada en el ruido.
En el plano global, los paralelos son igualmente visibles.
La expansión de sistemas de vigilancia masiva,
el uso político de noticias falsas en campañas electorales,
la manipulación de datos personales por grandes plataformas digitales y
la construcción de enemigos internos permanentes en numerosas democracias
muestran hasta qué punto Orwell sigue siendo actual.
El Gran Hermano ya no necesita necesariamente un rostro único ni un gran afiche colgado en una pared. Puede aparecer distribuido entre Gobiernos, corporaciones tecnológicas y sistemas automatizados capaces de registrar hábitos, deseos y opiniones en tiempo real.
Sin embargo, reducir 1984 a una simple profecía tecnológica sería un error. La novela no trata solamente de cámaras y vigilancia.
Trata del miedo, de la soledad y de la fragilidad humana frente al poder.
Winston Smith intenta resistir porque desea conservar un espacio íntimo de verdad.
Su tragedia es descubrir que el totalitarismo más eficaz
no es el que mata únicamente a sus enemigos, sino el que logra quebrarlos por dentro.
Tal vez por eso la novela sigue interpelándonos con tanta fuerza. Porque nos recuerda que
la libertad política depende también de una ética de la verdad.
Y porque advierte que las sociedades pueden acostumbrarse lentamente
a la manipulación, a la simplificación y al odio hasta considerarlos normales.
Orwell entendió que las democracias no desaparecen de un día para otro:
pueden erosionarse gradualmente, palabra por palabra, mentira por mentira.
En ese sentido, 1984 permanece menos como una predicción exacta del futuro que
como una advertencia moral.
Una advertencia incómoda.
Cada época encuentra en sus páginas el reflejo de sus propios temores. Quizás porque el problema central que plantea Orwell no pertenece solamente al siglo XX.
La pregunta sigue siendo la misma:
qué ocurre con una sociedad cuando ya no puede distinguir entre verdad y ficción, entre memoria y propaganda, entre ciudadanía y obediencia.
