Hace un año, el Instituto de Secundaria Número 11 de la ciudad china de Hangzhou saltó a la fama tras instalar en sus aulas cámaras dotadas con tecnología de reconocimiento facial. Colocadas sobre la pizarra, esos aparatos de la firma Hikvision escanean cada 30 segundos los rostros de los jóvenes y mandan la información a un ordenador, donde se clasifican sus expresiones en siete emociones (feliz, triste, decepcionado, molesto, asustado, sorprendido y neutro) y se aplican algoritmos para medir su nivel de concentración. Con esos datos, cada estudiante recibe una puntuación, que se muestra en una pantalla instalada en la pared del aula. El nivel de atención general de cada clase también se proyecta en un monitor del pasillo para que toda la escuela pueda comparar su rendimiento.
La medida llegó envuelta en cierta polémica. Pero diez meses más tarde, en el centro parecen estar satisfechos. “Es lo mismo que los maestros que dan clase con un asistente”, señaló el director de la escuela Ni Ziyuan, al medio local Sixth Tone. Además, apuntó, no interrumpen la clase y capturan el estado natural de los estudiantes, por lo que puede servir para impulsar los estándares educativos. Su escuela no es la única. Según este medio, varios centros más están llevando a cabo programas pilotos similares con firmas como Hanwang Technology, que incluso permiten a profesores y padres consultar en sus móviles el rendimiento de sus hijos en clase en tiempo real.
Los rostros de los estudiantes de un instituto de Hangzhou son monitorizados en clase con cámaras para detectar quién no está atento o quién está triste”
Mientras en Occidente hay un vivo debate sobre el reconocimiento facial, hasta el punto que San Francisco ha prohibido su uso a la policía, en China esta tecnología y las herramientas de inteligencia artificial (IA) viven una auténtica revolución. Hay de todo, desde lo más mundano a otras que parecen sacadas de la ciencia ficción o del libro “1984” de George Orwell: aplicaciones para racionar el papel higiénico que se distribuye en algunos baños públicos, ayudar a hacer la tarea a los niños, verificar un pago, localizar a gente perdida, detectar (y capturar) a un criminal entre una multitud de personas, mejorar el diagnóstico y tratamiento de enfermedades o la gestión hospitalaria, aliviar un atasco, sancionar a los que crucen un paso de cebra en rojo, censurar internet o incrementar las capacidades militares y armamentísticas, entre otros.
Los analistas parecen tenerlo claro. Si durante años China asistió desde la barrera a cómo Occidente -y especialmente Estados Unidos- tomaban la delantera y dominaban con su software y sus chips la era digital en la que vivimos, ese equilibrio de poder está cambiando. En los últimos años, a base de invertir recursos y capital humano, Pekín que se ha convertido en un jugador de primer nivel en el desarrollo de la IA, vista como algo vital para el futuro. De paso, Pekín ha dejado en entredicho a aquellos que defienden que un país gobernado por un régimen autoritario está limitado a la hora de innovar, algo que ya hizo al demostrar que el desarrollo económico de una nación no lleva implícito el desarrollo de un sistema democrático.
Muchos opinan que el punto de inflexión que espoleó la ambición china por cerrar la brecha digital llegó en mayo de 2017. Fue cuando el programa de inteligencia artificial Alpha Go, desarrollado por Google, batió al chino Ke Jie, el mejor jugador del mundo de carne y hueso de Go, un juego de estrategia sobre tablero. Dos meses más tarde, el gobierno presentaba una ambiciosa hoja de ruta para convertir al país en líder mundial de la inteligencia artificial para el año 2030, con el objetivo de superar a sus rivales y crear una industria que ronde los 150.000 millones de dólares.
Inmediatamente, el Estado se puso a bombear millones de yuanes destinados a investigación o laboratorios. Para finales de año, también los inversores privados se habían sumado al carro aportando sumas récord a las empresas de IA de todos los sectores, incluida la educación, salud, agricultura o finanzas. A la llamada también respondieron los gigantes de la tecnología patrios como Alibaba, Tencent o Baidu, firmas clave al poseer un gran acceso a una cantidad ingente de datos (de sus clientes) necesarios para la mejora y desarrollo de la IA.
SenseTime es la empresa con mejor tecnología de reconocimiento facial del mundo”
Para Wang Shengjin, profesor de ingeniería electrónica en la prestigiosa Universidad Tsinghua, el reconocimiento facial es por ahora la aplicación más visible y madura de todas las áreas trabajadas. Gracias a ello han prosperado firmas como SenseTime, valorada en 4.500 millones de dólares y que ofrece un software que analiza las imágenes de la red nacional de cámaras de seguridad, la empresa Yitu o Face++, una compañía valorada en más de mil millones cuya tecnología de reconocimiento facial está extendida en China.
Sus tecnologías ya son empleadas por los cuerpos de seguridad provinciales y locales en todo tipo de situaciones y eventos. Por ejemplo, en el Festival de la Cerveza de Qingdao, el sistema de reconocimiento facial sirvió para identificar entre la multitud asistente a 22 personas que estaban en busca y captura por diferentes delitos, lo que llevó a su detención ese mismo día. Su tecnología también ha servido para resolver casos criminales, avergonzar -y castigar con multas- a los que cruzan un semáforo en rojo en ciudades como Shenzhen o Ningbo o reducir los hurtos en algunas redes de transporte público.
Todo esto cobra aún mayor importancia si se tiene en cuenta que el país ya contaba el año pasado con 170 millones de cámaras de videovigilancia repartidas por todo el territorio, una cifra que podría aumentar hasta los 400 millones en los próximos años, según la firma IHS Markit. Desde postes de la luz al interior de los edificios o sobre las carreteras, estos ojos modernos e infatigables están por todas partes.
Sin embargo, la sospecha de que las autoridades chinas estén creando el Estado policial perfecto ensombrece parte de estos avances. En provincias “problemáticas” como Tíbet o Xinjiang -donde se estima que hasta un millón de uigures han sido recluidos en algún centro de detención-, a la tradicional red de informadores se le suman los miles de cámaras y otro tipo de controles que abundan en sus calles, un Gran Hermano que hace prácticamente imposible que nadie escape al control de las autoridades.
Demo durante el CES 2019 de una empresa china
Organizaciones como Human Rights Watch han advertido en numerosas ocasiones de que, con estos sistemas, Pekín viola la privacidad de los ciudadanos y vigila a los disidentes. “Estas actividades deberían cesar hasta que China adopte un marco de protección de la privacidad creíble”, aseguró en un comunicado reciente Sophie Richardson, directora de esta organización en China. En términos similares se expresó
Lokman Tsui, académico de la Universidad China de Hong Kong, al que preocupa que la IA no se use para mejorar la vida de la gente, sino para que el Gobierno reprima aún más a sus ciudadanos, “especialmente en combinación con la vigilancia, el big data y el aprendizaje automático”, aseguró al diario Financial Times.
Estos sistemas violan la privacidad de los ciudadanos, según Human Rights Watch: el control es especialmente intenso con minorías como los uigures”
También hay dudas sobre cómo las empresas privadas recolectan, salvaguardan y utilizan la enorme cantidad de información que recopilan cada día o la posible amenaza futura que pueden suponer estas nuevas tecnologías para los seres humanos. “No hay ordenadores buenos o malos. Pero sí seres humanos buenos y malos que pueden usar esta tecnología para extender virus informáticos, cometer fraudes e incluso buscar la hegemonía mundial. Tenemos que asegurarnos de que las máquinas no nos sustituirán por completo y de que habrá mecanismos para regular la IA”, aseguró Ma Huateng, consejero delegado de Tencent, durante una conferencia celebrada el año pasado.
Aún así, no faltan los llamamientos a la calma de aquellos que aseguran que los avances son más lentos de lo que algunos titulares en los medios dan a entender. Las cámaras siguen estropeándose; una gran parte de ellas, sobre todo en las zonas rurales, no tienen instalados chips de reconocimiento facial; los algoritmos no siempre funcionan bien (por ejemplo, con los cambios en la pubertad); y cabe la posibilidad de que las futuras generaciones se muestren más preocupadas por su privacidad que las actuales. Sirva lo que dijo Zhang al ser preguntado por la opinión que los alumnos tenían sobre las cámaras instaladas en su clase. “Las odian”, aseguró.