María José Arancibia. Abogada Doctoranda Universidad de Talca.
En 1938, Orson Welles sorprendió a la audiencia radial con su adaptación de La guerra de los mundos. A pesar de las advertencias sobre la dramatización, muchos creyeron que la invasión marciana era real. Hoy, enfrentamos ficciones inquietantes que no solo resuenan en la radio, sino también en nuestros teléfonos y redes sociales, muchas impulsadas por la Inteligencia Artificial (IA).
Los deepfakes —videos, audios y fotos alterados mediante IA— dificultan cada vez más la diferenciación entre lo real y lo falso. Esta tecnología ha sido utilizada en campañas políticas para socavar candidaturas y generar dudas sobre procesos electorales, abandonando el objetivo de persuadir con argumentos y propuestas, a favor de confundir y deslegitimar, creando una opinión pública que parece orgánica, pero a menudo está manipulada.
El desafío no se limita a la desinformación política. La IA no es imparcial: echa mano de nuestros datos y refleja nuestros sesgos. Cuando los registros históricos son discriminatorios por género, raza o nivel socioeconómico, los algoritmos asumen que estas desigualdades son normales y las perpetúan. Un ejemplo es uno de los sistemas de salud en Estados Unidos, que subestimó la gravedad de pacientes negros porque utilizaba el gasto en salud como parámetro; al haber menos inversión en ellos, la IA dedujo que estaban más saludables.
Estos sesgos son particularmente peligrosos, ya que se presentan como “objetividad algorítmica”. La interfaz nunca dice “discriminé”, sino que ofrece un puntaje, una recomendación o una lista de candidatos. Sin embargo, tras ese resultado hay decisiones sobre qué datos se emplean, qué se considera éxito y quién es el más perjudicado cuando el sistema comete errores.
Además de esta dimensión ética, hay un impacto ambiental que raramente se discute. El entrenamiento y funcionamiento de grandes modelos de IA requieren vastos centros de datos, equipados con miles de procesadores que producen calor y necesitan ser refrigerados. En varios países, se han alzado preocupaciones acerca del uso intensivo de agua —en ocasiones potable— para enfriar estas instalaciones, además del consumo eléctrico y los minerales demandados para fabricar el hardware.
El debate público en torno a la IA frecuentemente se centra en la privacidad o el temor de que las máquinas “reemplazen” a las personas. No obstante, el verdadero reto radica en cómo diseñamos, regulamos y utilizamos estas tecnologías. ¿Quién decide qué problemas merecen ser abordados con IA? ¿Quién asume la responsabilidad cuando un sistema discrimina, desinforma o tiene un efecto negativo en una comunidad?
Chile ya ha comenzado a explorar marcos regulatorios inspirados en la experiencia europea, los cuales promueven la transparencia y la evaluación de riesgos. Son pasos necesarios, aunque no suficientes. También necesitamos desarrollar soberanía tecnológica: iniciativas que provengan de nuestra región, que reflejen nuestras lenguas, realidades y prioridades, en lugar de depender completamente de plataformas externas.
La lección de Welles en 1938 sigue siendo relevante: el miedo surgió de confiar ciegamente en una voz que provenía de la radio; hoy el riesgo es ceder sin cuestionamientos nuestra capacidad de juicio a sistemas de IA que no comprendemos y que no son infalibles. Ante esta nueva “guerra de los mundos”, el mejor escudo no es rechazar la tecnología, sino fomentar una ciudadanía informada y un compromiso activo para mantener una mirada crítica en esta era digital.
Con Información de www.diarioelcentro.cl
