.

Warren Wong, vía Unsplash

Tecnología y Sociedad

Los expertos critican el plan de Facebook contra el suicidio adolescente

1

Las medidas anunciadas por la red social para combatir esta epidemia en aumento parecen más bien un ejercicio de relaciones públicas. Para sacarlas adelante, necesitará a profesionales en prevención de lesiones y nuevos sistemas de inteligencia artificial

  • por Tanya Basu | traducido por Ana Milutinovic
  • 17 Septiembre, 2019

La semana pasada, coincidiendo con Día Mundial para la Prevención del Suicidio, Facebook anunció en una publicación de blog que está tomando medidas para combatir la epidemia de suicidio juvenil. Entre las medidas, destaca el intercambio de datos en los que sus usuarios hablan sobre el suicidio y autolesiones, y la contratación de un gerente de políticas de seguridad que se centre en la salud y el bienestar.

Entre los notables cambios en el funcionamiento está la decisión de Facebook de "no permitir imágenes gráficas de cortes". La compañía, propietaria de Instagram, afirmó que también "[dificultaría] la búsqueda de este tipo de contenido y [evitaría] que aparezca como recomendación en el buscador". Eso se suma su comunicado emitido en febrero en el que aseguró que Instagram comenzaría a difuminar imágenes gráficas en las que aparecieran autolesiones. (Facebook no respondió a nuestra solicitud de comentarios).

Pero mientras los investigadores que estudian el aumento de suicidios entre los jóvenes aplauden a Facebook por este esfuerzo, también creen que no está claro cómo el anuncio de la compañía se traducirá en resultados tangibles.

La idea de que las redes sociales son responsables de una preocupante serie de suicidios juveniles en los últimos años está cada vez más documentada. Aunque no se limita a las redes sociales, el fenómeno del suicidio contagioso —donde los suicidios publicados en los medios conducen a un aumento de casos o intentos— es especialmente peligroso cuando se combina con plataformas digitales diseñadas para convertirse en virales.

La profesora de la Facultad de Medios y Cultura de la Universidad Virginia Commonwealth (EE. UU.) Bottom of Form

Jeanine Guidry opina que eso se debe, en parte, a que la investigación sobre la relación entre las redes sociales y el suicidio no ha hecho más que empezar. En abril, Guidry y sus colegas publicaron un estudio en el Journal of Communication in Healthcare sobre la naturaleza de las conversaciones sobre el suicidio en Instagram.

Los investigadores descubrieron que las publicaciones que mencionaban y mostraban ideas graficas sobre el suicidio generaron una mayor participación que otras publicaciones. Además, resulto que las organizaciones de salud pública no usaban Instagram para ayudar a prevenir el suicidio, una oportunidad potencialmente perdida, especialmente teniendo en cuenta la popularidad de esta plataforma entre adolescentes y jóvenes adultos, explica el director de investigación del Instituto de Comunicación con Adolescentes de la Universidad de Pensilvania (EE. UU.), Dan Romer. El experto detalla: "Como mínimo, esos comportamientos pueden acabar pareciendo populares o normales. A un nivel más serio, podrían alentar a alguien que piensa en hacer esas cosas como imitación".

En mayo, él y sus colegas publicaron un estudio que analizó cómo las imágenes de autolesiones en Instagram afectaron a más de 700 adultos entre 18 y 29 años. Descubrieron que después de pasar un mes expuestos a esas imágenes, el 60 % de las personas habían pensado en cómo sería autolesionarse.

El trabajo también reveló algo más: solo el 20 % de las personas del estudio buscaron contenido relacionado con autolesiones en Instagram de forma intencionada. Esto significa que una gran cantidad de las personas que resultaron susceptibles a estas imágenes fueron expuestas a ellas accidentalmente. En esos casos, la promesa de Facebook de dificultar la búsqueda de tales publicaciones sería ineficaz.

Tampoco está claro cómo Facebook pretende lograr su objetivo de no permitir imágenes gráficas de cortes. "Necesitarán inteligencia artificial para identificarlas porque son demasiadas", opina Romer. Esto representa un desafío: "¿Cómo se entrena la inteligencia artificial para distinguir los diversos grados de lo que la gente considera problemático?"

La idea de Facebook de involucrar a los amigos de los usuarios para ayudar a combatir el contagio suicida parece más prometedora. En su investigación, Guidry mostró que "se habla sobre las redes sociales y los comentarios negativos y el ciberacoso [que lleva al suicidio], pero la gran mayoría de los mensajes son de apoyo: 'Estoy aquí para ti,' No estás solo'". Un reciente estudio revela que las personas usaron la herramienta de informar sobre autolesiones en Instagram cuando se enteraron de su existencia y función.

Así que la gente se preocupa y quiere ayudar. Sin embargo, Romer todavía no está seguro de cómo los amigos podrían involucrarse. El experto se pregunta:"¿Cómo sabemos quién es amigo? ¿Y cómo identificamos a las personas [que podrían ayudar]? Hay un problema de privacidad".

El plan de Facebook para contratar a un experto en seguridad se topó con más interrogantes que aplausos. El puesto tiene un amplio alcance: implica desarrollar una normativa global para "frustrar la actividad y las personas que socavan la seguridad, la salud y el bienestar de nuestra comunidad global" y abordar (además del suicidio y las autolesiones) "trastornos alimentarios, depresión, ansiedad, adicción, nutrición, hábitos saludables, vacunas, etcétera".

Romer concluye: "Esa persona tendrá un enorme trabajo. Supondrá un gran desafío. Me interesa ver quién ocupa ese puesto. Las únicas personas que estarían calificadas serían las que desempeñaron un puesto de prevención de lesiones en una importante organización de salud como la OMS, porque ese es el nivel que están buscando. Se podría argumentar que la medida no es más que una cuestión de relaciones públicas para enviar el mensaje de que algo les preocupa. Es bastante cuestionable si una persona es capaz de organizar todos los esfuerzos de ese ámbito".

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. El éxodo a Bluesky marca el inicio de la era de las redes sociales descentralizadas

    Bluesky ha ganado terreno como alternativa a X, especialmente tras las últimas elecciones en EE UU. Sin embargo, este fenómeno no refleja el ascenso de un servicio ni el declive de otro, sino una tendencia hacia la descentralización

    Una persona entra a Bluesky desde su teléfono móvil
  2. La herramienta de Google DeepMind para "leer la mente" de la inteligencia artificial

    Un equipo de Google DeepMind ha creado Gemma Scope, una herramienta diseñada para desentrañar los procesos internos de una IA y comprender cómo llega a sus conclusiones. Este avance abre la puerta a algoritmos más transparentes y alineados con las expectativas humanas

    Google DeepMind tiene una nueva herramienta para explorar la IA
  3. El fundador de Oculus habla sobre la apuesta de EE UU por la realidad mixta en el campo de batalla

    El proyecto norteamericano de gafas militares está cuestionado, pero Palmer Luckey cree que los cascos dotados con IA y realidad aumentada serán clave en los ejércitos del futuro