Cuando estaba en secundaria, Nora Tan se descargó las tres grandes redes sociales. Era lo más normal del mundo. Esta actual gestora de producto de Seattle (EE. UU.) recuerda: "Crecí en la época en la que las redes sociales estaban despegando. Me hice una cuenta de Facebook en 2009, la de Instagram en 2010, la de Twitter después de eso cuando estaba en el instituto".

Pero cuando llegó a la universidad, ya había empezado a cuestionar su decisión. Tan añade: "Pensé en cómo se debería moderar el contenido y cómo se estaba utilizando en campañas políticas y para promover distintos programas". Preocupada por lo que aprendió, eliminó Twitter, empezó a usar Instagram únicamente para seguir cuentas sobre naturaleza y de amigos más cercanos, y descargó una extensión de Chrome para que cuando escribiera en Facebook en su barra de búsqueda, solo recibiera notificaciones de sus amigos.

Así que fue "bastante cínica" cuando , en marzo de 2019, un amigo la invitó a formar parte de los probadores beta (beta tester) de una nueva plataforma de redes sociales llamada Telepath. Como mujer de color en el mundo de la tecnología, su postura era especialmente escéptica. Dieciocho meses después, Telepath es la única forma de red social que Tan utiliza actualmente.

El cofundador de Telepath es el antiguo director de Quora Marc Bodnick, y se nota: su formato parece similar al de Quora en algunos aspectos. La aplicación solo se puede descargar por invitación y permite a los usuarios seguir personas y temas. Los hilos combinan la actualidad de Twitter con la parte efímera de Snapchat (las publicaciones desaparecen después de 30 días). 

Algo que no es particularmente notable, pero representa el gran atractivo comercial de Telepath, es que un equipo interno de moderación de contenido refuerza la amabilidad y los usuarios deben mostrar sus nombres reales.

La política de usar los nombres reales en Telepath está pensada para garantizar que el equipo de moderación de contenido pueda centrarse en detectar abusos en vez de buscar cuentas falsas continuamente. También es una forma de humanizar la conversación. La directora de Comunidad y Seguridad de Telepath, Tatiana Estévez, detalla: "Requerimos números de teléfono auténticos y una verificación de los mismos para que no haya números inventados en Google Voice. Una única persona manejando múltiples cuentas crea algunas de las cosas más desagradables en otras plataformas". Esa política ya ha provocado algunas críticas de usuarios que opinan que eso podría poner en peligro a las mujeres y a las comunidades marginadas.

"Existe la creencia generalizada de que si las personas usan sus nombres reales se comportarán mejor en los entornos sociales porque el resto puede identificarlas y sus acciones pueden tener consecuencias sociales. Aunque se encontraron algunas pruebas iniciales de esta hipótesis en la década de 1980, no se aplicó en los grupos diversos de personas y no se tuvo en cuenta en lo que internet se ha convertido en la actualidad ", explica el profesor y fundador del Laboratorio Citizens and Technology de la Universidad de Cornell (EE. UU.),  J. Nathan Matias.

De hecho, muchas personas que usan seudónimos pertenecen a grupos más marginados o vulnerables y lo hacen para protegerse del acoso y la publicación de información privada (doxxing) online.

El Doxxing consiste en utilizar información de identificación online para acosar y amenazar, es un problema que supone un riesgo para la vida de muchas personas marginadas y las ha torturado en redes como Facebook y Twitter (ambas criticadas por no proteger a las personas en riesgo, aunque tanto Twitter como Facebook han intentado remediarlo últimamente eliminando los tuits que promueven la desinformación, por ejemplo).

Estévez resalta que "siente mucha empatía con estos casos" y que las personas transexuales deberían poder identificarse por el nombre y los distintivos del sexo que quieran, pero la verificación del nombre por teléfono y la estructura de la app (de acceso a ella solo a través de una invitación) eran necesarias para prevenir los comportamientos abusivos.

Crédito: Cortesía de Telepath.

Estévez, quien trabajó varios años como moderadora voluntaria en Quora antes de empezar a dirigir el equipo de moderación, introdujo en Telepath el principio de la comunidad de Quora: "Sé amable, sé respetuoso". La responsable detalla: "La gente responde bien cuando se la trata bien. Somos más felices así. Las personas se sienten realmente atraídas por las comunidades amables y por los lugares donde pueden opinar sin sentirse ridiculizadas".

El equipo de Telepath ha pensado mucho en su lenguaje relacionado con este concepto.  Bodnick explica: "Decidimos usar la palabra 'amable' en lugar de 'cívico'", Cívico implica que hay reglas a cuyos límites podemos llegar sin violarlas, como si 'simplemente fuéramos curiosos' o 'solo estamos haciendo preguntas'. Creemos que la amabilidad es una buena manera de describir las buenas intenciones, dándose mutuamente el beneficio de la duda, sin participar en ataques personales. Esperamos que el valor de realizar estas evaluaciones atraiga a la gente".

Históricamente, las plataformas no han tenido mucho interés en implementar medidas para fomentar la seguridad básica del usuario, y mucho menos la amabilidad, señala la profesora de derecho en la Facultad de Derecho de la Universidad de Boston (EE. UU.) Danielle Citron, quien ha escrito sobre moderación de contenido y ha asesorado a algunas plataformas de redes sociales. "La amabilidad no es una mala idea", añade Citron.

Sin embargo, también es un concepto bastante indefinido y subjetivo, especialmente cuando proteger a algunas personas puede significar criticar a otras. Cuestionar cierto punto de vista, incluso de una manera crítica o poco amable, a veces puede ser necesario. A los que cometen microagresiones se les debe informar sobre qué está mal con sus acciones.  Hay que hacer frente e instruir a alguien que repita un insulto. En este inestable año electoral en EE. UU. en el que los debates raciales han sido diferentes a cualquier otro desde la década de 1970 y con una pandemia única en esta generación agravada por la desinformación, tal vez ser amable ya no sea suficiente.

¿Cómo lo manejará Telepath? Eso dependerá del equipo interno de moderación de contenido, cuyo trabajo será vigilar la "amabilidad" en la plataforma.

No será fácil. No hemos hecho más que empezar a comprender lo traumática que puede ser la moderación de contenido gracias a una serie de artículos del periodista Casey Newton publicados en The Verge, que mostraron las condiciones de explotación laboral que sufren los moderadores que trabajan con contratos de salario mínimo. Incluso si a estos trabajadores se les pagara mejor, el contenido con el que se enfrentan muchos de ellos es innegablemente devastador. "La sociedad todavía está averiguando cómo lograr que la moderación de contenido sea manejable para los trabajadores humanos", destaca Matias. 

Cuando se le pregunta sobre estos problemas, Estévez responde que en Telepath la moderación de contenido será "holística" y que ese trabajo se plantea como una carrera. Y añade: "No queremos que la gente haga esto durante unos meses y luego lo deje".

Los organizadores de Telepath creen que el modelo de acceso por invitación ayudará en este sentido (la plataforma actualmente admite aproximadamente a 3.000 personas). Estévez resalta: "Al limitar el crecimiento hasta cierto punto, trabajaremos mejor". 

Pero ese modelo supone otro tema. Matias detalla: "Uno de los problemas generalizados que han tenido muchas plataformas sociales en Estados Unidos es el de la diversidad. Si se empieza con un grupo de usuarios que no es diverso, entonces se pueden acumular algunas culturas en la red que no son acogedoras y, en algunos casos, resultan hostiles hacia las personas de grupos marginales".

El miedo a tener una cultura de grupo hostil está bien fundado. La red social de audios Clubhouse, que utilizan muchas personas de Silicon Valley (EE. UU.), se lanzó con elogios de la crítica a principios de este año, para luego convertirse en una especie de misoginia insultante que se ha filtrado en todos los rincones de internet. Este mismo mes fue acusada de antisemitismo.

Hasta ahora, Telepath ha estado dominada por personas de Silicon Valley, así como periodistas y otros profesionales influyentes fuera de la app. No es una multitud diversa, y Estévez admite que el equipo lo sabe: "No se trata solo de invitar a gente, a mujeres y a personas negras. La idea es que ellas [las mujeres y las personas de color] tengan una buena experiencia, para que vean a otras mujeres y gente de color, en lugar de recibir lecciones de hombres y microagresiones".

Se trata de un equilibrio complicado. Por un lado, mantener una comunidad de miembros con ideas afines que solo acceden por invitación permite a Telepath controlar la cantidad de publicaciones y los usuarios que debe vigilar. Pero ese tipo de entorno también puede convertirse en una cámara de eco que no desafía las normas, anulando el principal propósito de la conversación y posiblemente ofreciendo una recepción hostil a los de fuera.

Tan, una de las primeras usuarias de esta red, afirma que las personas con las que interactúa pertenecen a un tipo concreto: son de izquierdas y les gustan las tecnologías. "Las primeras personas que la descargaron procedían de las redes de Marc [Bodnick] o Richard [Henry]. Hay mucha gente del mundo tecnológico", explica Tan, refiriéndose a los cofundadores. Sin embargo, asegura que las conversaciones de la aplicación son muy variadas y que se ha sentido "gratamente sorprendida" por la profundidad de los debates. Y añade: "Cualquier red social puede ser una cámara de resonancia, en función de a quién sigas".

Básicamente Telepath está en una situación de tira y afloja: ¿es posible fomentar un debate animado pero decente sin que se convierta en acoso? La mayoría de los usuarios asumen que estar online implica recibir una cierta cantidad de abuso, especialmente si se trata de mujeres o de miembros de algún grupo marginado. Pero no necesariamente tiene que ser así.

Citron concluye: "Deben estar comprometidos, esto no solo va de hablar de 'ser amable'. La gente a menudo lanza productos en versión beta y luego piensa en el daño, pero entonces es demasiado tarde. Lamentablemente, así es la historia de internet". Hasta ahora lo ha sido, pero quizás no tenga que seguir siéndolo.