El gigante de la tecnología estadounidense Microsoft se ha asociado con una universidad militar china para desarrollar  sistemas de inteligencia artificial (IA) que podrían mejorar las capacidades de vigilancia y censura del gobierno. Dos senadores estadounidenses condenaron públicamente la asociación, pero lo que la Universidad de Tecnología de Defensa Nacional de China  quiere de Microsoft no es la única preocupación.

Como muestra una investigación de Steven Feldstein - investigador de la Universidad Estatal de Boise - el advenimiento de la represión digital está afectando profundamente  la relación entre el ciudadano y el estado. Las nuevas tecnologías están armando a los gobiernos con capacidades sin precedentes para monitorear, rastrear y vigilar a personas individuales. Incluso los gobiernos en democracias con fuertes tradiciones de imperio de la ley se ven tentados a abusar de  estas nuevas habilidades.

En los estados con  instituciones que no rinden cuentas y frecuentes abusos contra los derechos humanos, los sistemas de inteligencia artificial probablemente causarán un daño mayor. China es un ejemplo prominente. Su liderazgo ha abrazado con entusiasmo las tecnologías de inteligencia artificial y ha establecido el estado de vigilancia más sofisticado  del mundo en la provincia de Xinjiang , rastreando los movimientos diarios de los ciudadanos y el uso de teléfonos inteligentes.

Su explotación de estas tecnologías presenta un modelo escalofriante  para los compañeros autócratas y representa una amenaza directa para abrir sociedades democráticas. Aunque no hay evidencia de que otros gobiernos hayan replicado este nivel de vigilancia de la IA, las compañías chinas están exportando activamente las mismas tecnologías subyacentes en todo el mundo.

Mayor confianza en las herramientas de inteligencia artificial en los Estados Unidos.

Los sistemas de inteligencia artificial están en todas partes en el mundo moderno, ayudando a ejecutar teléfonos inteligentes, motores de búsqueda en Internet, asistentes de voz digitales y búsqueda de películas de Netflix. Muchas personas no se dan cuenta de  la rapidez con la que se está expandiendo la IA, gracias a la cantidad cada vez mayor de datos que se analizarán, mejorando los algoritmos y los chips de computadora avanzados.

Cada vez que se dispone de más información y el análisis se hace más fácil, los gobiernos están interesados ​​y no solo los autoritarios. En los EE.UU., por ejemplo, en la década de 1970 se vieron revelaciones de que agencias gubernamentales, como el FBI, la CIA y la NSA, habían establecido amplias redes de vigilancia doméstica para vigilar y hostigar a los manifestantes de derechos civiles, activistas políticos y grupos de nativos americanos. Estos problemas no han desaparecido: la tecnología digital actual ha profundizado la capacidad de aún más agencias para llevar a cabo una vigilancia aún más intrusiva.

Por ejemplo, la policía de EE.UU. ha adoptado con entusiasmo las tecnologías de IA. Han empezado a utilizar un software destinado a predecir dónde ocurrirán los delitos para decidir a dónde enviar a los oficiales en patrulla. También están usando reconocimiento facial y análisis de ADN en investigaciones criminales. Sin embargo, los análisis de estos sistemas muestran que los datos sobre los cuales se capacitan esos sistemas suelen estar sesgados, lo que lleva a resultados injustos, como la determinación falsa de que los afroamericanos son más propensos a cometer delitos que otros grupos.

Vigilancia IA en todo el mundo

En los países autoritarios, los sistemas de inteligencia artificial pueden incidir directamente en el control y la vigilancia nacionales, ayudando a  las fuerzas de seguridad internas a procesar grandes cantidades de información , incluidas publicaciones en redes sociales, mensajes de texto, correos electrónicos y llamadas telefónicas, de forma más rápida y eficiente. La policía puede identificar las tendencias sociales y las personas específicas que podrían amenazar al régimen basándose en la información descubierta por estos sistemas.