.

Tecnología y Sociedad

Por qué es tan difícil hacer que la tecnología sea más diversa

1

Tracy Chou, que formaba parte de nuestra lista de Innovadores menores de 35 de 2017, reflexiona sobre los obstáculos que ha encontrado como emprendedora en el sector tecnológico y cómo convierte las situaciones de acoso a las que se enfrenta en una investigación para su empresa, que permite a los usuarios de Twitter controlar qué tuits aparecen en su muro y menciones personales

  • por Wudan Yan | traducido por Ana Milutinovic
  • 03 Agosto, 2021

En 2017, MIT Technology Review reconoció a Tracy Chou como una de nuestros 35 innovadores menores de 35 años. En ese momento, Chou se dedicaba a mostrar los problemas de diversidad de Silicon Valley (EE. UU.). Como ingeniera en Pinterest, había publicado un blog de amplia circulación en el que pedía a las empresas tecnológicas que compartieran datos sobre cuántas mujeres trabajaban en sus equipos de ingeniería. Chou reunió sus respuestas en una base de datos pública que reveló lo homogéneos que todavía eran muchos equipos técnicos de las mejores empresas.

Aproximadamente un año después, Chou fundó la empresa Block Party, que se centra en el acoso online dando a los usuarios de Twitter más control sobre qué tuits aparecen en su feed y menciones. Este servicio registró en enero a sus primeros clientes de pago.

Con su nueva empresa, Chou quiere solucionar algunos de los problemas que ha experimentado de primera mano en la industria tecnológica, incluido el tipo de acoso online del que ella misma ha sido blanco. Hemos hablado con Chou, que vive en San Francisco (EE. UU.), para obtener más información sobre lo que se necesita para hacer cambios en el sector tecnológico y a qué se enfrentan los emprendedores como ella.

Tracy Chou habló con Wudan Yan: La última vez que hablamos, yo justo había dejado Pinterest. Siempre me han atraído las empresas más pequeñas: me uní cuando tenía unos 10 empleados y me fui cuando tenía alrededor de 1.000. Me pareció que era el momento de seguir adelante y hacer algo nuevo.

He trabajado para muchas start-ups y he llegado a reconocer algunos de los problemas estructurales relacionados con ellas y su financiación, y cómo esos factores influyen en qué problemas acaban resueltos. Muchos fundadores trabajan en los problemas que los afectan directamente: es más fácil saber qué es importante o qué se podría mejorar con la tecnología.

Reflexionando sobre mis próximos pasos, pensé en los productos en los que había trabajado y me hice preguntas como: "¿Me importa esto? ¿Hay algo que hacer que pueda ser comercialmente viable?". Existen muchos problemas realmente importantes que no se resolverán de forma natural a través de una start-up.

Al final, he creado Block Party, que reúne algunos hilos diferentes de mi experiencia. Trabajé como ingeniera en varias empresas de plataformas sociales, y monitoreando, moderando y aumentando la calidad del contenido, y así descubrí cómo el diseño de productos influía en el comportamiento de la comunidad. No solo desarrollé herramientas de moderación en Quora que revisaban la calidad del contenido, sino que también tomaba acciones punitivas contra las personas que violaban las políticas del sitio web.

También pasé mucho tiempo observando cómo la falta de diversidad y representación en los equipos significaba que los productos se creaban de manera sesgada. Por ejemplo, los equipos no diversos de personas que generalmente no son blanco de abuso ni acoso no tienden a crear protecciones contra eso en sus apps.

La última parte de mi experiencia que me llevó a montar Block Party fue que me acosaban más. Durante el último año, he sufrido mucho más acoso online contra los asiáticos. A veces se trataba de personas reales que me atacaban a mí, y otras veces yo atraía a los trols solo por tener una presencia online.

Si pudieras volver a nacer mañana como cualquier otra persona en el mundo, ¿cómo diseñarías el mundo actual? No querrás crear un mundo tan desigual, donde la mayoría de las personas están en la parte inferior, porque muy probablemente ahí podrías acabar tú si nacieras mañana como otra persona

Empecé a estar online desde muy joven y, al principio, internet era una forma divertida de conectarme con amigos. Estaba en AOL Instant Messenger, que era una mejor manera de charlar con mis compañeros del instituto, porque yo no tenía un teléfono móvil ni podía acaparar la línea telefónica que compartía con mi familia. También seguía algunas plataformas de blogs, como Xanga y LiveJournal. Eran buenas en aquel tiempo.

Sin embargo, bastante pronto, alguien creó una página anónima de Xanga dedicada a odiarme. Creo que era alguien de la escuela, porque hacía referencia a cosas del instituto. Gran parte era que me odiaban porque me iba bien académicamente. Eso no me molestaba tanto en ese momento, pero sí lo hizo cuando crecí y miré hacia atrás. En aquel entonces, yo pensaba que esta persona simplemente se sentía insegura y celosa. Me parecía un poco triste y fuera de lugar que alguien escribiera publicaciones enteras contra mí.

No lo denuncié. ¿A quién pude haberlo hecho? Ni siquiera se me pasó por la cabeza ir a la escuela y denunciarlo. Y tampoco quería que mis profesores o administradores del instituto vieran la página, ya que era un contenido lleno de mucho odio.

Mis padres no me criaron para ser alguien que hablara abiertamente y desafiara el statu quo. No me animaban a hablar en contra del sistema de ninguna manera. Como muchos otros hijos de inmigrantes asiáticos en Estados Unidos, crecí creyendo que este no era mi país, y que mis padres y yo estábamos ahí intentando encontrar oportunidades. No teníamos mecanismos de protección. Crecí más con la mentalidad de tener que hacer un buen trabajo, de trabajar duro y tratar de tener éxito.

Mi padre, que es ingeniero, me enseñó un experimento de pensamiento filosófico cuando yo era bastante joven: "Si pudieras volver a nacer mañana como cualquier otra persona en el mundo, ¿cómo diseñarías el mundo de hoy? No querrás crear un mundo tan desigual, donde la mayoría de las personas están en la parte inferior, porque muy probablemente ahí podrías acabar tú si nacieras mañana como otra persona. Querrías diseñar un mundo mucho más igualitario". Eso me hizo pensar que no me gustaba que el mundo fuera tan desigual y que tanta gente tuviera menos suerte que yo.

Ese sentimiento me ha hecho aprovechar el privilegio que tenía yo y devolverlo haciendo el mundo un poco más justo. Fui a la Universidad de Stanford (EE. UU.). He trabajado en las empresas que las personas dentro del sector tecnológico consideran fiables. Así intenté potenciar más voces o perspectivas diferentes.

Cuando decidí seguir con Block Party, para comprender mejor cómo era el mercado, investigué un poco y hablé con otras personas que habían trabajado contra el acoso y con las que creaban soluciones. No muchas empresas entendían la verdadera experiencia del usuario con el acoso; parecía que muchas personas abordaban este problema únicamente desde el ángulo comercial, porque no sabían cómo era experimentarlo de verdad. Otras creaban modelos de aprendizaje automático para detectar el contenido tóxico y pensaban que eso resolvería el problema.

Como alguien que se ha enfrentado a eso, entiendo mucho mejor el impacto emocional. Hay ciertas cosas que son emocionalmente desagradables de leer, incluso cuando es poco probable que sean marcadas por un algoritmo. Por ejemplo, una vez recibí un mensaje largo de un hombre que básicamente decía: "Deberías sonreír más y entonces serás más atractiva".

Ese mensaje me molestó durante unas semanas antes de darme cuenta de lo manipulante e inapropiado que era. El impacto fue muy emotivo, y el significado del mensaje, sin mencionar el punto de vista antifeminista y retrógrado que contenía, era más profundo de lo que captaría cualquier algoritmo.

Mis retos con el fin de obtener fondos para Block Party comenzaron cuando solicité estar en el grupo de invierno de 2020 de Y Combinator, la aceleradora dedicada a financiar start-ups en su etapa inicial. En Silicon Valley, si alguien quiere tener credenciales, Y Combinator es una de las mejores opciones. Lo pedí, irónicamente, porque anticipé que Y Combinator, compuesto en su mayoría por hombres blancos que no necesariamente entenderían los problemas que yo quería abordar, sería muy escéptico. Mi punto de vista era que, si tenía si sello de aprobación, eso podría disipar parte del escepticismo en torno a mi producto.

Fui al campus de Y Combinator en Mountain View (California, EE. UU.) para la entrevista. Los solicitantes estaban distribuidos en diferentes salas con un panel de entrevistadores, y en cada sala se veía impresa la lista de los entrevistadores por fuera. Cuando fui a mi sala, vi esa lista de nombres y pensé: "Esto no va a salir bien". De los cuatro nombres, tres eran hombres blancos.

Las entrevistas duraban solo 10 minutos y la mía empezó con la pregunta sobre qué estaba construyendo. Respondí: "Block Party crea herramientas de consumo para lidiar con el acoso online y ofrece a las personas más control sobre su experiencia online". Y la siguiente pregunta fue: "Usted dice que es un producto de consumo, pero el consumo implica un mercado masivo, y este es un problema muy específico. ¿Verdad?"

El resto de la entrevista fue más o menos así: una fuerte afirmación seguida de "¿verdad?". Todo el tono fue: el acoso online era un pequeño problema que ya se estaba resolviendo, así que, ¿por qué trabajaba en esto? Salí de la entrevista enfurecida.

Después del rechazo por parte de Y Combinator, conseguí algunos fondos de seguimiento para extender mi financiación inicial, alrededor de 1,5 millones de dólares (1,27 millones de euros). Eso puede parecer una buena cantidad de dinero en algunos mercados, pero no es suficiente para contratar a los ingenieros, y por eso tuve que ser mucho más creativa con la forma en la que construí el producto: tuve que crearlo yo misma. Block Party no hubiera llegado donde está actualmente si yo no fuera ingeniera.

El verano pasado, como parte de la incubadora Fix the Internet de Mozilla, me pidieron realizar la sección AMA (Ask Me Anything o Preguntas abiertas) de Reddit para fomentar el crecimiento de Block Party. Al principio lo rechacé, porque mi primera reacción fue: "Reddit es una granja de trols". En algún momento, me convencí de lo contrario de mi primer instinto. Pensé: "¡Puede que no sea tan malo! ¡He visto algunas buenas sesiones AMA!".

A los 10 o 15 minutos del inicio de la sesión AMA, los trols ocuparon todo el hilo, con argumentos maliciosos y enterrando todas mis respuestas

Pero a los 10 o 15 minutos del inicio de la sesión, los trols ocuparon todo el hilo, con argumentos maliciosos y enterrando todas mis respuestas con: "Tiene demasiado miedo de responder a las preguntas". Yo respondía, pero mis respuestas quedaban enterradas o desaparecían. Cuando los moderadores de Reddit bloquearon el hilo muchas horas después, hubo miles de comentarios, la mayoría de los cuales eran cosas horribles, terribles. Fue una experiencia realmente traumática.

Luego hubo un par de hilos en 4Chan que hacían referencia a esa sesión AMA, lo que llevó a los trols de 4Chan y Reddit a lanzar un ataque contra Block Party. Enviaron un montón de solicitudes para nuestra lista de espera a través del formulario de registro y crearon centenares de cuentas con mi nombre y foto de perfil en Substack donde publicaban contenido racista y misógino. Durante un par de semanas, fue una pesadilla conectarme a cualquier lugar. Ni siquiera pude volver a mi cuenta en Reddit porque mi bandeja de entrada en ella estaba repleta de hostigamiento. Fue irónico que, si construyo un software contra el acoso, me acosen por ello.

Tengo un acosador, un acosador online que se ha trasladado al mundo real, lo que me hizo sentir más miedo. Me pregunté: "¿Estos trols publicarán mis datos personales o harán algo peor?". Cuando fui a denunciar a mi acosador a la policía, me sentí fatal; anotaba: "La víctima cree que el sospechoso está obsesionado con ella", lo que debilita la verdad: recibo miles de tuits de esta persona. Volaba a los sitios donde yo me encontraba. Tiene registros de entrada y salida del aeropuerto más cercano a mí, y me dijo en qué motel se quedaba cuando intentaba encontrarme en San Francisco.

Una persona que trabajaba en seguridad privada me dijo una vez que una de las mejores cosas que se pueden hacer en esa situación es cambiar la mentalidad a otra más proactiva; pensar: "Si yo fuera el acosador, ¿qué haría?". Eso ayuda a crear las defensas. Cambiar la mentalidad a otra proactiva significa tener algo más de libertad, y es realmente útil. Porque, si uno se siente indefenso y bajo ataque, eso es algo muy debilitante.

Por muy desagradables que hayan sido mis experiencias, todo esto lo trato como una investigación de usuarios para Block Party.

Quiero que desaparezca el acoso online, y me encantaría formar parte de la solución de este problema, ya sea con Block Party o no. Espero convertir en algo positivo todas mis experiencias en la creación de productos, trabajando con las empresas de Silicon Valley y en las plataformas, junto con mis propias experiencias relacionadas con el acoso.

Wudan Yan es una periodista independiente que vive en Seattle (Washington, EE.UU).

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. El éxodo a Bluesky marca el inicio de la era de las redes sociales descentralizadas

    Bluesky ha ganado terreno como alternativa a X, especialmente tras las últimas elecciones en EE UU. Sin embargo, este fenómeno no refleja el ascenso de un servicio ni el declive de otro, sino una tendencia hacia la descentralización

    Una persona entra a Bluesky desde su teléfono móvil
  2. La herramienta de Google DeepMind para "leer la mente" de la inteligencia artificial

    Un equipo de Google DeepMind ha creado Gemma Scope, una herramienta diseñada para desentrañar los procesos internos de una IA y comprender cómo llega a sus conclusiones. Este avance abre la puerta a algoritmos más transparentes y alineados con las expectativas humanas

    Google DeepMind tiene una nueva herramienta para explorar la IA
  3. El fundador de Oculus habla sobre la apuesta de EE UU por la realidad mixta en el campo de batalla

    El proyecto norteamericano de gafas militares está cuestionado, pero Palmer Luckey cree que los cascos dotados con IA y realidad aumentada serán clave en los ejércitos del futuro