La escuela secundaria N°11 Zhejiang Hangzhou, en las afueras del centro de la ciudad de Hangzhou en China oriental, es un lugar verde, y al parecer pacífico para aprender. Estructuras estilo Gazebo se enclavan entre el frondoso follaje; esculturas de piedra gris representan dioramas eternos y arces japoneses se mueven gentilmente en plácidos lagos. Es […]

  • 3 agosto, 2018

La escuela secundaria N°11 Zhejiang Hangzhou, en las afueras del centro de la ciudad de Hangzhou en China oriental, es un lugar verde, y al parecer pacífico para aprender. Estructuras estilo Gazebo se enclavan entre el frondoso follaje; esculturas de piedra gris representan dioramas eternos y arces japoneses se mueven gentilmente en plácidos lagos.

Es también un panóptico digital. Un sistema de vigilancia, accionado por reconocimiento facial e inteligencia artificial, monitorea los 1.010 estudiantes de la escuela estatal, informando a profesores cuáles están atrasados o han faltado a clases, mientras en la cafetería, la huella digital deja constancia de las elecciones de menú de los alumnos, que luego el personal monitorea para ver quién está cayendo muy seguido en atracones de comida grasosa.

En mayo, The People’s Daily, un medio de comunicación estatal, tuiteó aprobando el uso de cámaras en las escuelas para monitorear, a través de sus expresiones faciales, cómo los niños estaban involucrándose en la clase. Si el programa se hubiera llevado a cabo –finalmente no fue implementado debido a la controversia que provocó–, habría sido usado también para predecir qué alumnos (los flojos) eran propensos a reprobar.

Bienvenido a China, donde la inteligencia artificial está siendo presionada para ser la sirvienta de un gobierno autoritario. Para muchos críticos, esto parece estar plagado de peligros: un mundo “orwelliano” donde el “Gran Hermano” está siempre vigilando, capaz de espiar a cualquiera, desde abogados de derechos humanos a disidentes políticos y minorías perseguidas. Para los partidarios, está cerca de lo utópico: una tierra donde los criminales y malhechores son fácilmente eliminados, donde nadie puede jugar sucio, donde el buen comportamiento es recompensado y el malo, castigado.

La última visión es el objetivo declarado del gobierno chino. Para 2020, una red nacional de video vigilancia será “omnipresente, completamente interconectada, con un trabajo ininterrumpido y totalmente controlable”, según un documento oficial publicado en 2015.

Los “informantes”

La idea de un monitoreo constante sí tiene precedentes en China. De hecho, el nombre de un proyecto del gobierno para 2020, xueliang u “ojos agudos”, es el relanzamiento de un lema del Partido Comunista, “Las personas tienen ojos agudos”, refiriéndose a la estrategia totalitaria de incentivar a sus habitantes a espiar a sus vecinos.

Bajo el régimen de Mao Zedong, las ciudades eran divididas en redes de unidades de trabajo socialista donde el acceso a raciones, vivienda y otros beneficios era impuesto por espías locales que reportaban comportamientos disidentes de sus vecinos. Este sistema de control social fue construido en su turno sobre un modelo de autopolicía comunal introducido siglos antes, durante la dinastía Song.

Hoy, el sistema de redes ha sido revivido, manejado por una extensa red/conexión de voluntarios y vigilantes de medio tiempo. En las regiones más turbulentas, como Xinjiang y el Tíbet, las casetas de policía armada pueblan las esquinas. Beijing tiene cerca de 850.000 “informantes” patrullando las calles, según medios estatales. Renovar estas tácticas de la vieja escuela es una decisión deliberada: el gobierno sabe que si bien la tecnología de vigilancia avanza rápidamente, está lejos de ser perfecta.

Cheetah Mobile es una compañía china cuya filial de máquinas expendedoras con reconocimiento facial se anotó primera el año pasado en una prueba internacional patrocinada por Microsoft. Sin embargo, Fu Sheng, su fundador y director ejecutivo, admite que aún queda un largo camino en lo que respecta a divisar caras en las multitudes. “El ser humano es un producto excelente”, explica a Financial Times. “Ninguna tecnología puede superarlo”.

Eso puede no importar. Cuando el filósofo británico Jeremy Bentham concibió su penitenciaría panóptica a fines del siglo XVIII –una construcción circular con una torre de vigilancia en el centro–, la idea era que los reclusos nunca supieran si estaban siendo observados o no. Esta “simple idea en arquitectura” habría ofrecido “un nuevo modo de obtener poder mental sobre las personas”, escribió Bentham. Para algunos analistas que han estudiado el impacto del creciente Estado de vigilancia chino, cualquier ineficiencia tecnológica es incidental. Como en la cárcel panóptica misma, el miedo de estar siendo observado es la herramienta más poderosa de todas.

“Hay una ola de aumento en vigilancia sucediendo a nivel mundial”, dice Rogier Creemers, quien estudia la gobernanza china en la Universidad de Leiden. La diferencia en China es el contexto histórico: “Las instituciones de las democracias liberales están basadas en la noción de que el poder del Estado debe estar en las manos de su gente. Hay cosas que el Estado simplemente no se supone que deba saber o hacer”, dice. “China comienza desde un punto de vista distinto: que un Estado fuerte y empoderado es necesario, con el fin de empujar a la nación hacia adelante. En China, la vigilancia es casi una extensión lógica de lo que el Estado se supone que debe hacer, porque se supone que el Estado debe mantener a las personas a salvo”. 

El crédito social

Feng Xiang está traduciendo el libro de Jeremías del Antiguo Testamento cuando FT lo visita en su oficina en la Universidad Tsinghua, en Beijing. Prominente académico de derecho, ha estado estudiando la inteligencia artificial y sus implicancias para el trabajo, sociedad y capitalismo en China.

Su punto de vista es pesimista. La vigilancia pública vía cámaras de CCTV, como lo ve él, está siendo rápidamente reemplazada por una gama más maliciosa de dispositivos recolectores de datos y de monitoreo comunitario: los smartphones en los bolsillos de casi la mitad de los ciudadanos chinos. Esto, eventualmente, creará el fin de la privacidad a nivel mundial.

“No es como en la novela 1984, de George Orwell, pero es como una nueva forma de vivir”, dice Feng, dando cuenta que hasta una excursión en un parque natural o subir una montaña puede involucrar hoy identificación obligada con huella digital por parte de la policía en China. “En los viejos tiempos al menos tenías un lugar donde esconderte, o donde hacer tus cosas privadas. Pero ahora la suposición es que la gente sabe dónde estás”.

Como telón de fondo de la cada vez más intensa vigilancia, el gobierno chino está introduciendo un “sistema de crédito social”. Descrito por primera vez en un documento oficial en 2014 y ahora puesto a prueba de distintas formas en varias ciudades, la idea es que la gente será básicamente calificada según comportamientos pasados, tomando como delitos menores infracciones de tránsito y registros judiciales.

En el presente, un buen puntaje para créditos financieros que hoy operan como un programa de lealtad, puede conferir beneficios como no exigir depósitos en sistemas de bicicletas públicas o tasas preferenciales para créditos. En cambio, un puntaje bajo en el “sistema de crédito social” puede arriesgar un lugar en una universidad, despido de un trabajo o incluso limitar los viajes: a más de 10,5 millones de personas se les ha negado la venta de pasajes de avión o de trenes de alta velocidad, según la Corte Suprema, desde que la lista negra de deudores fue lanzada.

Los start-ups de la vigilancia

Mientras tanto, la tecnología por la cual el gobierno puede rastrear a las personas está en constante evolución. El reconocimiento facial está siendo cada vez más usado para desbloquear smartphones en China, y gracias a los múltiples usos comerciales –desde permitir facilitar el pago en una tienda de abarrotes a la seguridad del hogar– ha atraído, desde todas partes del mundo, a un montón de capital dispuesto a aventurarse. Un ejecutivo bancario experto en tecnología calificó al reconocimiento facial como “cosas de kindergarten” comparado con todo lo que vendrá después.

Por ejemplo, algunos de los actores líderes en reconocimiento facial están ahora movilizándose al reconocimiento en desplazamiento. Hangwang Technology fue un actor que entró prematuramente al campo: fue forzado a repensar su reconocimiento de huella digital cuando la epidemia de Sars en 2003 dejó a la gente en China aterrorizada con el contacto físico.

“Podemos ver la figura humana y su desplazamiento, entonces, si se baja la gorra todavía podemos reconocerlo”, explica Liu Changping, presidente de la compañía establecida en Beijing.

Nada de esto es barato. En total, el gasto en seguridad pública fue de 57.950 millones de yuanes (9.160 millones de dólares) en 2017, un incremento diez veces mayor que la década pasada. Eso explica por qué el dinero cae del cielo para las compañías de seguridad chinas. La inversión del gobierno en sociedades de seguridad público-privadas también se ha incrementado, desde 27,3 millones de dólares en 2015 a al menos 1.100 millones de dólares en 2017, basado en un conteo existente de licitaciones públicas y datos del Banco de China. Entre los más grandes de estos proyectos fundados privadamente, se encuentra el condado Shache de Xinjiang, donde casi cien personas murieron en 2014 en lo que la policía estatal llamó un ataque terrorista. La red ahí incluirá un centro de videovigilancia, facilidades de almacenamiento vía “nube” y un sistema de drones.

Compañías más pequeñas también están obteniendo una parte de la acción, especialmente start-ups apoyados por el gobierno que cuentan con los contactos correctos. Meiya Pico, una compañía privada ubicada en la provincia costera de Fujian, fue seleccionada para desarrollar una versión de escritorio del software móvil de vigilancia que los residentes de Xinjiang –una región pobre que ha tenido varios enfrentamiento étnicos en los últimos años– estaban forzados a descargar este año. El software ahora está instalado en los computadores de todas las compañías públicas e instituciones académicas. Varios académicos le dijeron a FT que las autoridades ahora son alertadas si se accede a archivos ilícitos.

La gerencia de Meiya Pico se reúne frecuentemente con funcionarios de alto rango del Partido Comunista y con los aparatos de seguridad del Estado, acorde a artículos y fotos en su sitio web. De hecho, muchas compañías de tecnología chinas hablan con orgullo de trabajar impulsando los objetivos del gobierno.

“Nuestro negocio está dictado por los requerimientos políticos de nuestro país. ‘Mantener la estabilidad’ es la prioridad nacional de seguridad de China, por ende, Xinjiang realmente necesita nuestros productos. La provincia es nuestro mayor cliente por lejos”, dijo Wang Wufei, un director de ventas en X-Face, una compañía ubicada en Shenzhen que fabrica softwares y hardwares de reconocimiento facial. En junio, X-Face ganó un contrato para abastecer 200 puntos de seguridad en Xingjiang.

Lo que viene es aún más aterrador. Un start-up de Shenzhen que fabrica drones lanzadores de granadas predice que las autoridades de Xingjiang serán su mayor cliente.

Reconocimiento facial

Tres siglos atrás, Jeremy Bentham sugirió que su panóptico guiaría a “la moral reformada, a la industria vigorizada y a las cargas públicas alivianadas”. Las compañías de tecnología facial tienen un tono siniestramente parecido. Megvii y SenseTime, dos de las compañías de reconocimiento facial más grandes del país, aseguran que su tecnología ha aprehendido a miles de criminales, todo sin la necesidad de ejércitos de personas viendo horas y horas de material de CCTV. Ambas han atraído miles de millones de dólares en financiamiento, desde fondos del Estado chino y ruso, como también de estrellas de la escena tecnológica china, tales como Alibaba.

Una de las historias de éxito reciente –y muy publicitada– de la industria de vigilancia tomó lugar en un concierto en china occidental. Mientras Jack Cheung, una estrella de pop de Hong Kong (rebautizado como un “cazador fugitivo” por los medios chinos) cantaba, varias cámaras automáticamente estaban “barriendo” la audiencia.

La tecnología de reconocimiento facial seleccionó a hombres acusados de crímenes, incluyendo a un revendedor de entradas y a un verdulero que habría perpetrado una estafa de papas por 110.000 yuanes en 2015. “Sonriendo, mientras se acercaba a su ídolo, no notó que ya había sido identificado”, presumió la policía de Jiaxing en una publicación en redes sociales.

Aparte de sus usos en cuerpos policiales, la vigilancia asistida por inteligencia artificial está siendo solicitada como una herramienta para la industria. Hanwang Technology, el abuelo del reconocimiento facial de China, les ha vendido su sistema de vigilancia a lugares de construcción, habilitando a gerentes monitorear cuántas horas están los trabajadores in situ y quiénes se la pasan holgazaneando.

Otra compañía, LL Vision, produce lentes de sol inteligentes con reconocimiento facial integrado. Estos se hicieron famosos luego de que la policía en Zhengzhou fuera fotografiada usándolos para monitorear viajeros en estaciones de tren a principios de este año. Pero la compañía también ha estado abasteciendo plantas de manufacturas para usarlos en gestión del tiempo y control de calidad.

Mientras la tecnología para permitir vigilancia e identificación de masas se vuelve más sofisticada, los gobiernos a través del mundo enfrentarán dilemas sobre cuándo y cómo usarla. Alemania desató una ola de críticas cuando comenzaron a probar el reconocimiento facial para ayudar a rastrear y capturar terroristas sospechosos, mientras el comité de vigilancia independiente de CCTV de Reino Unido les escribió el año pasado a los jefes de policía sobre su preocupación por el aumento del uso de tecnología de reconocimiento facial para monitorear multitudes. A principios de este año, cerca de 40 grupos de libertades civiles le escribieron a Amazon solicitando que detuvieran las ventas de su software Rekognition, que la compañía ha publicitado ofreciendo “reconocimiento facial en tiempo real entre decenas de millones de caras y detección de hasta 100 caras en complicadas fotos de multitudes”. El producto, que ha sido vendido a varias fuerzas policiales de Estados Unidos, “plantea una grave amenaza para comunidades, incluyendo gente de color e inmigrantes”, dijeron los activistas.

El aumento de la vigilancia masiva produce montones de datos, en ello yace uno de los grandes peligros para cualquier país que siga este camino, dice Nuala O’Connor, directora ejecutiva del Centro para la Democracia y Tecnología, ubicado en Estados Unidos. “Los riesgos son la creación de una base de datos generalizada y permanente de imágenes individuales para los agentes policiales, pero luego usadas para otros propósitos, quizás por actores de gobierno”, dice.

De acuerdo al estudio de la firma CB Insights, cerca de 530 patentes de cámaras y videovigilancias fueron inscritas por grupos chinos el año pasado, cinco veces más que el número de inscripciones en EE.UU. Sin obstáculos de preocupaciones acerca de privacidad o derechos individuales, la cada vez más intensa especialización de China ha atraído consumidores e inversionistas globales. “La industria de la vigilancia todavía está en fase de crecimiento”, dijeron analistas en Jefferies, un banco de inversión localizado en Nueva York.

Hikvision, una compañía poseída mayoritariamente por dos entidades estatales chinas cuyos sistemas de vigilancia han sido usados en todas partes, desde Xinjiang a bases militares estadounidenses, fue seleccionada para unirse al Índice de Mercados Emergentes de MSCI en junio. Sus acciones cotizadas en China han aumentado cinco veces en los últimos cinco años.

En Hangzhou, un start-up llamado Rokid se está preparando para lanzar lentes de realidad aumentada el próximo año. El fundador de la compañía, Mingming Zhu –conocido como Misa–, hace una demostración a FT con un prototipo. Los lentes están destinados a consumidores más que a agentes de seguridad: con su tecnología de reconocimiento facial, al llegar a una fiesta podrías ver inmediatamente los nombres de los invitados superpuestos sobre sus cabezas; los lentes podrían potencialmente agregar también información proveniente de sus cuentas en redes sociales.

Se ven geniales, pero hay algo espeluznante acerca de obtener todo sobre las personas sin más que un “hola”, y Misa ocupa un tono cauteloso. “Estamos haciendo que algo suceda, pero debemos ser muy cuidadosos. Con la inteligencia artificial tenemos un lado claro y un lado oscuro. La cosa más difícil en la que estás trabajando ahora podría llevarte a un lugar equivocado”.

Louise Lucas es el corresponsal de tecnología en Asia de FT; Emily Feng es la corresponsal de FT en Beijing.