Puede que recientemente haya escuchado el nombre de Worldcoin. Ha recibido mucha atención, tanto buena como no tan buena.

Es un proyecto que pretende utilizar la criptomoneda para distribuir dinero por todo el mundo. Aunque su mayor ambición es crear un sistema de identidad global llamado World ID, basado en los datos biométricos únicos de cada persona para demostrar que son humanos.  Worldcoin se lanzó oficialmente el 24 de julio en más de 20 países. Además, Sam Altman, CEO de OpenAI y una de las mayores celebridades tecnológicas del momento, es uno de sus cofundadores.

La empresa ha hecho promesas tan grandes como fantasiosas. Por ejemplo, promete que puede ofrecer una forma de renta básica universal a través de la tecnología para hacer del mundo un lugar mejor y más equitativo. A su vez, ofrece una forma de verificar tu humanidad en un futuro digital lleno de inteligencia no humana, lo que denomina "verificación de persona". Si estás pensando que suena como una pesadilla para la privacidad, no estás solo.

Por suerte, en MIT Technology Review tenemos a una experta en Worldcoin. En 2022, Eileen Guo, periodista de investigación, y Adi Renaldi, freelance, investigaron a esta empresa y descubrieron que sus operaciones distaban mucho de estar a la altura de sus ambiciosos objetivos. Además, estaba recopilando datos biométricos sensibles de muchas personas vulnerables a cambio de dinero en efectivo.

Como escribieron Guo y Renaldi:

"Nuestra investigación reveló grandes diferencias entre los mensajes públicos de Worldcoin, que se centraban en la protección de la privacidad, y lo que experimentaron los usuarios. Descubrimos que los representantes de la empresa utilizaban prácticas de marketing engañosas, recopilaban más datos personales de los que reconocían y no obtenían un consentimiento informado significativo".

Worldcoin utilizaba datos confidenciales, aunque anónimos, de los usuarios voluntarios para entrenar modelos de inteligencia artificial. Pero Guo y Renaldi descubrieron que las personas no sabían que sus datos se estaban utilizando para este fin.

Su investigación se basa en más de 35 entrevistas con ejecutivos de Worldcoin, contratistas y usuarios reclutados en países emergentes. Tras leer este reportaje, se comprende mejor cómo la empresa manejaba datos personales sensibles y cómo su retórica idealista difería de las realidades sobre el terreno.

A la vista de sus informes, no es extraño que los organismos reguladores de al menos cuatro países hayan iniciado investigaciones sobre el proyecto, al alegar preocupaciones por sus prácticas en materia de privacidad. La empresa afirma que ya ha escaneado a casi 2,2 millones de seres humanos únicos en su base de datos, que fue creada durante los últimos dos años en un largo periodo de prueba.

Así que pregunté a Guo: ¿Qué ha cambiado desde su investigación? ¿Qué sentido tienen las últimas noticias?

Desde la publicación de su historia, Alex Blania, CEO de Worldcoin, ha declarado a otros medios que la empresa ha cambiado muchas de sus prácticas de recopilación de datos y privacidad, aunque hay razones para ser escépticos. La empresa no ha especificado exactamente cómo lo ha hecho, más allá de alegar que ha puesto fin a algunas de las tácticas de captación más engañosas.

En los diferentes correos electrónicos que Guo intercambió recientemente con Worldcoin, un portavoz fue vago en sus explicaciones sobre cómo la compañía ha manejado los datos personales. Afirmó que "la Fundación Worldcoin cumple con todas las leyes y reglamentos que rigen el procesamiento de datos personales en los mercados donde Worldcoin está disponible, incluido el Reglamento General de Protección de Datos (GDPR, por sus siglas en inglés). El proyecto continuará cooperando con los órganos de gobierno en las solicitudes de más información sobre sus prácticas de privacidad y protección de datos".

El portavoz también señaló que "es importante subrayar que la Fundación Worldcoin y su colaborador Tools for Humanity nunca han vendido ni venderán los datos personales de los usuarios".

Como señala Guo, (de nuevo) solo tenemos la promesa de la empresa de que eso es cierto. Esta es una de las razones por las que se debe prestar atención a lo que los investigadores del gobierno descubran sobre Worldcoin.

La legalidad de la recopilación de datos biométricos por parte de Worldcoin está en el centro de una investigación que el gobierno francés inició sobre Worldcoin y de una investigación de una agencia alemana de protección de datos, que lleva investigando a Worldcoin desde noviembre de 2022, según Reuters. El 25 de julio, el Comisario de Información del Reino Unido declaró que "investigará" a la empresa. Después, el 2 de agosto, la Oficina de Protección de Datos de Kenia suspendió el proyecto en el país, asegurando que investigará si Worldcoin cumple la Ley de Protección de Datos del país.

Un objetivo importante del proyecto es perfeccionar su metodología de "verificación de humanidad", que requiere más datos para entrenar modelos de IA. Si su sistema de verificación se adopta de manera generalizada, podría ser muy lucrativo para sus inversores. En especial, durante una fiebre del oro de la IA como la que se está viviendo en la actualidad.

A principios de agosto, Worldcoin anunció que permitirá a otras empresas y gobiernos implantar su sistema de identidad.

"La solución de identidad propuesta por Worldcoin es problemática, la utilicen o no otras empresas y gobiernos. Por supuesto, sería peor si se utilizara ampliamente sin responder a tantas preguntas clave", asegura Guo. "Pero, a estas alturas, se trata de una inteligente táctica de marketing para convencer a todo el mundo de que se escanee y se inscriba, de modo que puedan lograr la 'mayor y más rápida incorporación a cripto y Web3' hasta la fecha, como me explicó Blania el año pasado".

Guo señala que Worldcoin tampoco ha aclarado todavía si sigue utilizando los datos biométricos que recopila para entrenar sus modelos de IA. O si ha eliminado los datos biométricos que ya recopiló de los usuarios de prueba y utilizó en el entrenamiento, como afirmó a MIT Technology Review que haría antes del lanzamiento.

"No he visto nada que sugiera que han dejado de entrenar sus algoritmos, o que alguna vez lo harán", reconoce Guo. "Ese es el objetivo de la IA, ¿no? que se vuelva más inteligente".

¿Qué más he leído?

• El consejo de supervisión de Meta, que elabora políticas independientes y vinculantes, está revisando la manera en que gestionan la desinformación sobre el aborto. En la actualidad, las decisiones de moderación de la empresa son un poco confusas, según este artículo explicativo de Slate. Se espera que en las próximas semanas el consejo publique unas políticas específicas para la información sobre el aborto.
• A finales de julio, Twitter pasó a llamarse X. Fue un movimiento extraño, poco sorprendente, de su nuevo zar, Elon Musk. Me encantó la opinión de Casey Newton al estilo obituario, donde argumentó que la inversión de 44.000 millones de dólares (40.120 millones de euros) de Musk un despilfarro de "vandalismo cultural".
• A Joseph Stiglitz, economista y ganador del Nobel, le preocupa que la IA agrave la desigualdad, y habló con Scientific American sobre cómo podríamos salir del camino donde parecemos estar.