El Estado Profundo está a punto de turboalimentarse, nos advierte John Whitehead: «Ahora todos somos considerados culpables hasta que se demuestre nuestra inocencia».
Si una empresa o un pequeño grupo de personas logra desarrollar una superinteligencia digital divina, podrían apoderarse del mundo. Al menos, cuando hay un dictador malvado, ese humano va a morir. Pero para una IA, no habría muerte. Viviría para siempre. Y entonces tendríamos un dictador inmortal del que nunca podríamos escapar ”. —Elon Musk (2018)
Mientras los medios de comunicación se centran en hasta qué punto el Proyecto 2025 puede ser la estrategia de la administración Trump para paralizar al país, hay un juego de poder más subversivo que se desarrolla bajo el manto de la singular política circense de Trump.
Si observamos con atención lo que está sucediendo, nos daremos cuenta de que, a pesar de todas las apariencias, Trump no tiene intención de acabar con el Estado profundo, sino que lo ha contratado para marcar el comienzo de la era dorada de la inteligencia artificial.
Prepárese para el Estado de Vigilancia 2.0.
Para lograr este estado de vigilancia turboalimentado, el gobierno está recurriendo a su arma más poderosa hasta el momento: la inteligencia artificial. La IA, con su capacidad de aprender, adaptarse y operar a velocidades inimaginables para los humanos, está lista para convertirse en el motor de este nuevo orden mundial.
A lo largo de 70 años, la tecnología se ha desarrollado tan rápidamente que ha pasado de las primeras computadoras que exhibían una forma primitiva de inteligencia artificial al aprendizaje automático (sistemas de IA que aprenden de datos históricos), al aprendizaje profundo (aprendizaje automático que imita el cerebro humano) y a la IA generativa, que puede crear contenido original, es decir, parece capaz de pensar por sí misma.
Nos estamos acercando al punto de no retorno.
En el lenguaje tecnológico, este punto sin retorno se denomina más acertadamente “singularidad”, el punto en el que la IA eclipsa a sus controladores humanos y se vuelve todopoderosa. Elon Musk ha predicho que la singularidad podría suceder en 2026. El científico de IA Ray Kurzweil imagina que sucederá más cerca de 2045.
Si bien la comunidad científica tiene mucho que decir sobre el impacto que la inteligencia artificial tiene en todos los aspectos de nuestras vidas, poco se ha dicho sobre su creciente papel en el gobierno y su efecto opresivo sobre nuestras libertades, especialmente “los principios democráticos fundamentales de privacidad, autonomía, igualdad, el proceso político y el estado de derecho ”.
Según un informe de Accenture, se estima que, tanto en el sector público como en el privado, la IA generativa tiene el potencial de automatizar una parte significativa de los trabajos en diversos sectores.
He aquí una idea: ¿qué pasaría si la promesa de Trump de recortar la fuerza laboral federal no se trata realmente de eliminar la burocracia gubernamental sino de externalizarla al sector de tecnología de inteligencia artificial?
Por cierto, Trump no ha ocultado sus planes de convertir la IA en una prioridad. De hecho, en 2019 firmó la primera orden ejecutiva sobre IA . Más recientemente, emitió una orden ejecutiva que daba luz verde al sector tecnológico para desarrollar e implementar la IA sin ningún tipo de protección que limitara los riesgos que pudiera suponer para la seguridad nacional, la economía, la salud pública o la seguridad de Estados Unidos.
El presidente Biden no hizo mejor las cosas. Su orden ejecutiva , que Trump derogó, simplemente instruía al sector tecnológico a compartir los resultados de las pruebas de seguridad de la IA con el gobierno estadounidense.
Sin embargo, siguiendo el mismo patrón que vimos con el lanzamiento de los drones, si bien el gobierno se apresuró a aprovechar la tecnología de inteligencia artificial, hizo poco o nada para garantizar que se protejan los derechos del pueblo estadounidense.
De hecho, carecemos por completo de medidas de protección en materia de transparencia, rendición de cuentas y adhesión al estado de derecho cuando se trata del uso de la IA por parte del gobierno.
Como señalan Karl Manheim y Lyric Kaplan en un escalofriante artículo publicado en el Yale Journal of Law & Technology sobre los riesgos que la IA plantea a la privacidad y la democracia, “la inteligencia artificial es la tecnología más disruptiva de la era moderna… Es probable que su impacto eclipse incluso el desarrollo de Internet a medida que se introduzca en todos los rincones de nuestras vidas… Los avances en IA no solo anuncian una nueva era en la informática, sino que también presentan nuevos peligros para los valores sociales y los derechos constitucionales. La amenaza a la privacidad que suponen los algoritmos de las redes sociales y la Internet de las cosas es bien conocida. Lo que se aprecia menos es la amenaza aún mayor que la IA plantea a la democracia misma”.
Señal del auge del “autoritarismo digital” o “ algocracia: gobierno mediante algoritmos ”.
En una algocracia, “Mark Zuckerberg y Sundar Pichai, directores ejecutivos de Facebook y Google, tienen más control sobre las vidas y el futuro de los estadounidenses que los representantes que elegimos ”.
El autoritarismo digital, como advierte el Centro de Estudios Estratégicos e Internacionales, implica el uso de la tecnología de la información para vigilar, reprimir y manipular a la población, poniendo en peligro los derechos humanos y las libertades civiles, y cooptando y corrompiendo los principios fundacionales de las sociedades democráticas y abiertas, “incluida la libertad de movimiento, el derecho a hablar libremente y expresar disenso político y el derecho a la privacidad personal, en línea y fuera de ella”.
¿Cómo protegemos nuestra privacidad frente a la creciente amenaza de extralimitación y abuso por parte de un sector tecnológico que trabaja con el gobierno?
Es posible que la capacidad para hacerlo ya esté fuera de nuestras manos.
En 2024, al menos 37 agencias del gobierno federal, desde los Departamentos de Seguridad Nacional y Asuntos de Veteranos hasta el de Salud y Servicios Humanos, informaron más de 1700 usos de IA en el desempeño de su trabajo , el doble que el año anterior. Eso ni siquiera comienza a mencionar a las agencias que no informaron sobre su uso, o el uso a nivel estatal y local.
De esos 1.700 casos a nivel federal, 227 fueron etiquetados como casos que impactaban los derechos o la seguridad .
Un ejemplo particularmente inquietante de cómo las agencias gubernamentales utilizan la IA en situaciones que afectan los derechos y la seguridad proviene de un informe de investigación de The Washington Post sobre cómo las agencias policiales de todo el país están utilizando «herramientas de inteligencia artificial de una manera para la que nunca se pretendió que se usaran: como un atajo para encontrar y arrestar sospechosos sin otra evidencia «.
Esto es lo que en los círculos tecnológicos se conoce como “sesgo de automatización”, una tendencia a confiar ciegamente en las decisiones que toma un software poderoso, ignorando sus riesgos y limitaciones. En un caso particular, la policía utilizó tecnología de reconocimiento facial impulsada por IA para arrestar y encarcelar a un hombre de 29 años por agredir brutalmente a un guardia de seguridad. Christopher Gatlin necesitaría dos años para limpiar su nombre .
Gatlin es uno de los al menos ocho casos conocidos en todo el país en los que la dependencia policial del software de reconocimiento facial con inteligencia artificial ha dado lugar a detenciones injustificadas derivadas de un total desprecio por el trabajo policial básico (como comprobar coartadas, recopilar pruebas, corroborar pruebas de ADN y huellas dactilares, ignorar las características físicas de los sospechosos) y la necesidad de cumplir con los estándares constitucionales del debido proceso y la causa probable. Según The Washington Post , «las personas asiáticas y negras tenían hasta 100 veces más probabilidades de ser identificadas erróneamente por algún software que los hombres blancos».
La cantidad de casos en los que la IA contribuye a arrestos falsos y trabajo policial cuestionable es probablemente mucho mayor , dada la medida en que las agencias policiales de todo el país están adoptando la tecnología y solo aumentará a raíz de la intención de la Administración Trump de cerrar la supervisión de las fuerzas del orden y las reformas policiales .
“¿Cómo puedo vencer a una máquina?”, preguntó un hombre que fue arrestado injustamente por la policía por agredir a un conductor de autobús basándose en una coincidencia incorrecta de IA.
Se está volviendo casi imposible vencer a la máquina de IA.
Cuando lo utilizan agentes del estado policial, nos deja a “nosotros, el pueblo” aún más vulnerables.
Entonces, ¿hacia dónde vamos desde aquí?
Para la administración Trump, todo parece ir a toda máquina, empezando por Stargate, una empresa de infraestructura de inteligencia artificial de 500.000 millones de dólares destinada a construir centros de datos masivos. Los informes iniciales sugieren que los centros de datos de inteligencia artificial podrían estar vinculados a los registros médicos digitales y utilizarse para desarrollar una vacuna contra el cáncer. Por supuesto, los centros de datos de salud masivos para el uso de la inteligencia artificial significarán que los registros médicos de una persona serán un blanco fácil para todo tipo de identificación, seguimiento y señalización.
Pero eso es sólo la punta del iceberg.
El estado de vigilancia, combinado con la inteligencia artificial, está creando un mundo en el que no hay dónde correr ni dónde esconderse. Ahora todos somos considerados culpables hasta que se demuestre nuestra inocencia.
Gracias a la vigilancia 24 horas al día, 7 días a la semana, que lleva a cabo la extensa red de espionaje del gobierno mediante centros de fusión, todos somos blancos fáciles, esperando ser etiquetados, marcados, apuntados, monitoreados, manipulados, investigados, interrogados, abucheados y, en general, acosados por agentes del estado policial estadounidense.
Sin haber cometido jamás conscientemente un delito ni haber sido condenado por uno, es probable que usted y sus conciudadanos hayan sido evaluados por conductas que el gobierno podría considerar tortuosas, peligrosas o preocupantes; se les haya asignado un puntaje de amenaza basado en sus asociaciones, actividades y puntos de vista; y se los haya catalogado en una base de datos del gobierno de acuerdo con cómo la policía y otras agencias gubernamentales deberían abordarlos en función de su nivel de amenaza particular.
En poco tiempo, todos los hogares en Estados Unidos serán marcados como una amenaza y se les asignará un puntaje de amenaza.
Es solo cuestión de tiempo antes de que usted se encuentre acusado injustamente, investigado y confrontado por la policía con base en un algoritmo basado en datos o una evaluación de riesgos recopilada por un programa de computadora manejado por inteligencia artificial.
Es una configuración propicia para el abuso.
Escribiendo para el Yale Journal , Manheim y Kaplan concluyen que “puede que los humanos no estemos en riesgo como especie, pero seguramente estamos en riesgo en términos de nuestras instituciones y valores democráticos ”.
Privacidad —Manheim y Kaplan lo describen sucintamente como “el derecho a tomar decisiones personales por uno mismo, el derecho a mantener confidencial la información personal y el derecho a que lo dejen en paz son todos ingredientes del derecho fundamental a la privacidad ”— está especialmente en riesgo.
De hecho, con cada nueva tecnología de vigilancia de inteligencia artificial que se adopta y se implementa sin tener en cuenta la privacidad, los derechos de la Cuarta Enmienda y el debido proceso, los derechos de la ciudadanía se ven marginados, socavados y eviscerados.
Nos encontramos al borde de una revolución cultural, tecnológica y social como nunca antes se ha visto.
La vigilancia mediante inteligencia artificial ya está reorientando nuestro mundo hacia uno en el que la libertad es casi irreconocible al hacer lo que el estado policial no puede hacer de manera eficiente o efectiva (por falta de personal y recursos) : estar en todas partes, vigilar a todos y todo, monitorear, identificar, catalogar, cotejar, hacer referencias cruzadas y coludir.
Como señaló Eric Schmidt, exdirector ejecutivo de Google: “Sabemos dónde estás. Sabemos dónde has estado. Podemos saber más o menos en qué estás pensando… Tu identidad digital vivirá para siempre… porque no existe un botón para borrarla ” .
Las ramificaciones de cualquier gobierno que ejerza un poder tan no regulado e irresponsable son escalofriantes, ya que la vigilancia mediante inteligencia artificial proporciona el medio definitivo de represión y control tanto para tiranos como para dictadores benévolos.
De hecho, el sistema de crédito social de China, donde a los ciudadanos se les asignan puntajes en función de su comportamiento y cumplimiento, ofrece una visión de ese futuro distópico.
No se trata de una batalla contra la tecnología en sí, sino contra su mal uso. Es una lucha por conservar nuestra humanidad, nuestra dignidad y nuestra libertad frente a un poder tecnológico sin precedentes. Es una lucha por garantizar que la IA esté a nuestro servicio, y no al revés.
Ante esta amenaza inminente, el momento de actuar es ahora, antes de que las líneas entre ciudadano y sujeto, entre libertad y control, se desdibujen irremediablemente.
El futuro de la libertad depende de ello.
Por eso, exijamos transparencia. Exijamos responsabilidad.
Exigir una Carta Electrónica de Derechos que proteja a “nosotros, el pueblo” del estado de vigilancia invasor.
Necesitamos salvaguardas para asegurar el derecho a la propiedad y control de los datos (el derecho a saber qué datos se están recopilando sobre ellos, cómo se están utilizando, quién tiene acceso a ellos y el derecho a ser «olvidados»); el derecho a la transparencia algorítmica (para comprender cómo los algoritmos que los afectan toman decisiones, particularmente en áreas como solicitudes de préstamos, contratación laboral y justicia penal) y la rendición de cuentas por el debido proceso; el derecho a la privacidad y la seguridad de los datos, incluidas las restricciones al uso gubernamental y corporativo de tecnologías de vigilancia impulsadas por IA, en particular el reconocimiento facial y la vigilancia predictiva; el derecho a la autodeterminación digital (libertad de discriminación automatizada basada en perfiles algorítmicos) y la capacidad de gestionar y controlar la propia identidad y reputación en línea; y mecanismos efectivos para buscar reparación por los daños causados por los sistemas de IA.
La IA implementada sin ninguna protección contra el exceso y el abuso, especialmente dentro de las agencias gubernamentales, tiene el potencial de convertirse en lo que Elon Musk describió como un “ dictador inmortal ”, uno que vive para siempre y del cual no hay escapatoria.
Como quiera que elijamos llamarlo (estado policial, estado profundo, estado de vigilancia), este “dictador inmortal” será el futuro rostro del gobierno a menos que lo controlemos ahora.
Como señalo en mi libro Battlefield America: The War on the American People y en su contraparte ficticia The Erik Blair Diaries , el año que viene podría ser demasiado tarde.
ACERCA DE JOHN W. WHITEHEAD
El abogado constitucionalista y autor John W. Whitehead es el fundador y presidente de The Rutherford Institute . Sus libros más recientes son el best-seller Battlefield America: The War on the American People , el galardonado A Government of Wolves: The Emerging American Police State y su primera novela de ficción distópica, The Erik Blair Diaries . Se puede contactar a Whitehead en staff@rutherford.org . Nisha Whitehead es la directora ejecutiva de The Rutherford Institute. Hay información sobre The Rutherford Institute disponible en www.rutherford.org .
Fuente: The Rutherford Institute
