.

Rohan Thomson

Tecnología y Sociedad

"TikTok, que parece benigna, puede dar muchos datos a China"

1

La experta en vigilancia Samantha Hoffman analiza cómo las empresas tecnológicas del gigante asiático recopilan información para aumentar el poder del Partido Comunista Chino, por lo que defiende que otros gobiernos deben reforzar las leyes de privacidad y la formación sobre transparencia de datos

  • por Mara Hvistendahl | traducido por Ana Milutinovic
  • 24 Agosto, 2020

China no recopila solo enormes cantidades de datos sobre sus propios ciudadanos: también absorbe datos de todo el mundo que algún día podrían ser útiles para su seguridad nacional, utilizando empresas nacionales y extranjeras como vías. Una de las principales expertas del Australian Strategy Policy Institute (Australia) en el modo de vigilancia chino, Samantha Hoffman, ha arrojado luz sobre este fenómeno el año pasado con su informe Engineering Global Consent, que se centra en GTCOM, una de las empresas estatales clave en la estrategia global de recopilación de datos de China. 

La siguiente entrevista ha sido editada por su longitud y para su claridad. 

¿Cómo recopila los datos el Partido Comunista Chino (PCCh)?

Los datos utilizados por el Partido vienen en muchas formas, como texto, imágenes, vídeo y audio. Dentro de China, acceder a estos datos es sencillo. Para tener acceso a los datos globales, el Partido utiliza las empresas estatales, las compañías tecnológicas tanto chinas como extranjeras y sus socios, como por ejemplo los investigadores universitarios. 

El PCCh no recopila los datos solo a través de las tecnologías de vigilancia invasivas como las cámaras que usan el reconocimiento facial. También se basa en las tecnologías que ofrecen servicios cotidianos, como los dispositivos relacionados con las ciudades inteligentes. Mucho antes de que la inteligencia artificial (IA) o el big data se convirtieran en palabras de moda, la intención del Partido era integrar, no simplemente forzar, a la sociedad para que participara en su propio control. 

¿Qué hace el PCCh con todos estos datos? 

El PCCH recopila datos en masa y más tarde decide qué hacer con ellos. Aunque no todos se pueden utilizar de inmediato, el Partido prevé una mejor capacidad técnica para explotar los datos más adelante. 

Grandes conjuntos de datos pueden revelar patrones y tendencias en el comportamiento humano, lo que ayuda al PCCh con la inteligencia y la propaganda, así como con la vigilancia. Algunos de esos datos se introducen en las herramientas como el sistema de crédito social. Los datos masivos, como imágenes y datos de voz, también se pueden utilizar para entrenar los algoritmos para el reconocimiento facial y de voz. 

Los métodos del PCCh no son muy diferentes de los que vemos en la industria publicitaria global. Pero en vez de intentar vender un producto, el PCCh trata de ejercer un control autoritario. Utiliza el capitalismo como un medio para acceder a los datos que pueden ayudar a interrumpir los procesos democráticos y crear un entorno global más favorable para su poder. 

¿Por qué esto representa una amenaza fuera de China?

Los ciudadanos de las democracias liberales están preocupados, y con razón, por la forma en la que las empresas tecnológicas abusan de sus datos, pero al menos en esas democracias existen crecientes restricciones sobre cómo se utilizan los datos. En China, donde el partido-estado destaca literalmente que el propósito de la ley es "fortalecer y mejorar el liderazgo del Partido", la tecnología se usa para aumentar el poder político del partido-estado y se desarrolla de acuerdo con ese estándar. El Partido habla de su intención de moldear la opinión pública global para proteger y expandir su propio poder político. Al mismo tiempo, las empresas tecnológicas chinas recopilan datos en apoyo de esos esfuerzos. Cualquiera que viva en una democracia liberal debería preocuparse por las ramificaciones que esto tiene para las libertades y la privacidad. 

Entonces, ¿deberíamos eliminar TikTok de nuestros teléfonos? 

Yo no lo instalaré en el mío. TikTok es un buen ejemplo de una aplicación aparentemente benigna que puede brindarle al PCCh muchos datos útiles. No se nos ocurriría que una aplicación de redes sociales que utilizan muchos niños en todo el mundo resultaría inherentemente problemática por razones políticas. Pero los datos de opinión de una aplicación como TikTok se pueden usar para comprender cómo influir en las personas y cómo piensan. Una demanda presentada recientemente contra esta empresa en California (EE. UU.) alega que los datos faciales recopilados por la aplicación estaban conectados a los servidores de la RPC [República Popular China], lo que genera importantes preocupaciones sobre la privacidad. 

TikTok ha afirmado que almacena los datos de los usuarios en los servidores ubicados en EE. UU. y Singapur, pero esta es una forma de esquivar las preguntas sobre el posible control político del Partido sobre la empresa. Además, se ha descubierto que la aplicación censura o suprime el contenido de Black Lives Matter y LGBTQ, entre otros temas. Para mí, esto ha sucedido con suficiente frecuencia en todo el mundo para parecer un patrón y no un fallo, y se trata de un error que no puedo pasar por alto.

¿Puede explicar por qué le preocupa GTCOM, la empresa china poco conocida que ha analizado?

GTCOM es una empresa de big data e inteligencia artificial controlada por el Departamento Central de Propaganda de China, que está muy involucrado en los intentos del Partido de cambiar la narrativa global en torno al poder de China. Uno de sus productos afirma recopilar 10 terabytes de datos al día o de dos a tres petabytes al año, de páginas web, foros, Twitter, Facebook, WeChat y otras fuentes. En términos de tamaño, eso equivale a 20.000 millones de fotos de Facebook. La empresa describe su trabajo como una contribución directa a la seguridad nacional de China, incluida la inteligencia militar y la propaganda.

El departamento de investigación y desarrollo de GTCOM ha desarrollado algoritmos que buscan palabras militares clave en la información que recoge, que podría provenir, por ejemplo, de CV o patentes. La empresa ha declarado específicamente que su trabajo ayuda a la seguridad del estado. En 2017, un alto ejecutivo dijo que GTCOM había establecido un sistema de seguridad de la información que se basa en el reconocimiento de imagen, texto y voz para "prevenir los riesgos de seguridad" y "proporcionar soporte técnico y asistencia para la seguridad del estado". 

¿Qué pasa con el trabajo de GTCOM en el extranjero?

GTCOM tiene fuertes relaciones con las empresas tecnológicas chinas que cuentan con una gran presencia global. Por ejemplo, firmó un acuerdo estratégico con Alibaba Cloud para integrar sus servicios de traducción en la tecnología de la empresa. El modelo de negocio de prestación de servicios de GTCOM le permite recopilar todos los datos que generan los servicios de traducción de GTCOM. A primera vista, podría parecer que sus servicios se utilizan para mejorar la calidad de la traducción, pero en realidad también se usan para crear otros productos, incluidos los relacionados con el trabajo de seguridad nacional. 

GTCOM ha establecido asociaciones con investigadores lingüísticos de todo el mundo. Estas asociaciones le dan a GTCOM acceso a una amplia variedad de datos. Lo que está llevando a cabo GTCOM no es muy diferente a Palantir [empresa de análisis estadounidense] en términos de análisis de big data. La diferencia consiste en que la intención del trabajo de GTCOM está enmarcada por el PCCh, cuyos intereses son contrarios a los de una democracia liberal.  

¿Qué debemos hacer en relación con todo esto? 

Las soluciones ideales aún no existen, en parte porque la investigación sobre estos temas no ha sido exhaustiva ni prospectiva. Pero podemos comenzar con una mayor inversión en los programas de formación sobre los datos y la transparencia de datos. Las democracias liberales deben mejorar los mecanismos necesarios en torno a la seguridad en la cadena de suministro digital, invertir en la investigación y desarrollo y ser más competitivas en el mercado de las tecnologías inteligentes. No pueden realizarlo todo solas; se deben fortalecer las alianzas. Por último, los gobiernos democráticos liberales deben reforzar las leyes de privacidad de datos y repensar cómo gestionar la propaganda de fuentes nacionales y extranjeras en la era digital, pero sin comprometer los valores democráticos en el camino. Para ello, hay que tener claro cuáles son sus valores y por qué se diferencian de los que tienen los regímenes autoritarios.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. La nueva baza de China para presionar a EE UU pasa por restringir la exportación de litio

    China es una potencia en energías limpias, especialmente en las cadenas de suministro de baterías. Por ello, las tensiones y restricciones comerciales entre China y EE UU podrían poner en riesgo el avance en tecnologías climáticas y el desarrollo de vehículos eléctricos

  2. La suplantación de identidad amenaza la credibilidad de Bluesky

    Varios usuarios han sido víctimas de suplantación de identidad en Bluesky, una situación que pone de manifiesto un problema relacionado con el auge de cuentas falsas que, si no se aborda, podría dañar la reputación y credibilidad de la plataforma

    La suplantación de identidad amenaza la credibilidad de Bluesky
  3. Arati Prabhakar, directora saliente de Ciencia y Tecnología de EE UU: "Queremos entender si la IA es segura, pero aún no sabemos cómo"

    La directora de la Oficina de Política Científica y Tecnológica (OSTP) de la Casa Blanca, que probablemente dejará su cargo al finalizar la administración Biden, reflexiona sobre aspectos como los riesgos de la IA, las políticas migratorias y la Ley de Chips

    Arati Prabhakar, directora de Ciencia y Tecnología de EE UU