Este artículo es de The Technocrat, el boletín semanal de política tecnológica del MIT Technology Review sobre el poder, la política y Silicon Valley. Para recibirlo en su bandeja de entrada todos los viernes, regístrese en su correo electrónico .

Docenas de estados demandados Meta el 24 de octubre, alegando que la empresa perjudica deliberadamente a los usuarios jóvenes. El caso es bastante importante y es casi seguro que tendrá un gran impacto en el debate nacional sobre la seguridad infantil en línea, un tema que los lectores habituales saben que he cubierto bastante . Potencialmente, podría conducir a cambios de políticas y plataformas. El caso también está preparado para poner a prueba la ley de privacidad existente que protege los datos de los menores.

Algunas de sus principales acusaciones son que Meta engaña a los usuarios jóvenes sobre las características de seguridad y la omnipresencia de contenido dañino en las plataformas, y que recopila sus datos y viola las leyes federales sobre la privacidad de los niños y la protección del consumidor. El caso surgió de una investigación provocada en gran parte por la denuncia de irregularidades de Frances Haugen en 2021, que reveló pruebas irrefutables de que Meta sabía que Instagram tiene efectos perjudiciales en la salud mental de las niñas .

Curiosamente, el testimonio de Haugen reveló algunas de las mejores pruebas concretas que parecemos tener sobre cómo las redes sociales han perjudicado específicamente a los niños. De hecho, la evidencia (o la falta de ella) sobre el impacto de las redes sociales en los niños podría convertirse en un punto álgido en el debate sobre la seguridad en línea, y es posible que este caso judicial saque a la luz nuevos hallazgos críticos. Pero tendremos que esperar y ver; la presentación fue muy redactada.

(Si desea saber más, se han escrito muchos artículos interesantes sobre el caso en los últimos días . Recomiendo leer el boletín de Casey Newton para comprender la evidencia que tenemos y por qué este caso es importante).

Esto me lleva a lo que quiero centrarme hoy: las acusaciones de daño creado por los filtros visuales en Instagram. Como probablemente sepas, un aspecto clave de la plataforma son los filtros que se pueden agregar fácilmente a las fotos. Las funciones van desde herramientas de edición básicas hasta sofisticadas visión por computadora de realidad virtual en tiempo real. He escrito sobre el impacto de los filtros de belleza en el pasado , y una vez incluso le pregunté a una IA qué tan hermosa soy . Como descubrí entonces, su impacto en los niños no ha sido bien establecido a través de investigaciones causales, pero sí tenemos muchos datos anecdóticos y correlativos, como una encuesta de 200 adolescentes en la que el 61% de los encuestados dijo que los filtros de belleza los hacían sentir peor. sobre ellos mismos.

El caso contra Meta señala específicamente las herramientas visuales "conocidas por promover la dismorfia corporal" como una de las "características de la plataforma psicológicamente manipuladora diseñada para maximizar el tiempo que los usuarios jóvenes pasan en sus plataformas de redes sociales". También dice que "Meta era consciente de que los cerebros en desarrollo de los usuarios jóvenes son particularmente vulnerables a ciertas formas de manipulación, y decidió explotar esas vulnerabilidades a través de funciones específicas", como filtros.

Para comprender mejor lo que está pasando aquí y qué esperar del caso, llamé a alguien que considero un verdadero experto: Jessica DeFino, reportera y crítica cultural que se centra en cómo la cultura de la belleza , en línea y de otro modo , afecta a las personas . (También escribe un mordaz y valioso boletín informativo de Substack llamado The Unpublishable ). Aquí hay parte de nuestra conversación, que ha sido editada para mayor extensión y claridad.

El caso afirma que hay pruebas, muchas de las cuales parecen estar redactadas, que muestran que Meta y los productos de Meta explotan a los usuarios jóvenes y que la empresa es consciente del efecto de sus productos en la salud mental de los jóvenes, específicamente de las adolescentes. ¿Qué sabes sobre la evidencia?

Desde el punto de vista de la salud psicológica, definitivamente hay estudios y encuestas que muestran que las adolescentes específicamente, pero también las mujeres de todo el espectro de edad, están experimentando casos más elevados de ansiedad, depresión, dismorfia corporal, dismorfia facial, comportamientos obsesivos de belleza relacionados con la apariencia, trastornos alimentarios, autolesiones e incluso suicidio. Y hay muchas cosas que se remontan de una forma u otra a este mundo virtual cada vez más visual en el que existimos.

En el lado más material de las cosas, están sucediendo muchas cosas en la industria de la belleza que se han inspirado específicamente en Instagram. Creo que un gran ejemplo de esto es el fenómeno de la cara de Instagram , que es básicamente un término que se acuñó para describir la forma en que los filtros de Instagram han inspirado procedimientos y cirugías del mundo real.

He entrevistado a muchos cirujanos estéticos e inyectores cosméticos a lo largo de los años que me dicen que los pacientes usan filtros y herramientas de edición de fotografías que son muy populares en Instagram, pero que tal vez no sean propiedad de Meta o Instagram, para alterar sus propias imágenes y traer que acuda a un cirujano plástico o a un inyector y le diga: Así es como quiero lucir.

Cuento esta historia todo el tiempo porque fue muy impactante para mí y un ejemplo muy claro de lo que está sucediendo en el mundo médico en respuesta a los filtros de Instagram: estaba entrevistando a esta inyectora cosmética, una doctora y dermatóloga llamada Anna Guanche, en una evento organizado por Allergan, los creadores de Botox Cosmetic, con un pequeño grupo de periodistas.

Ella dijo: "Una de las cosas más importantes que les digo a mis pacientes es: 'Quieres parecerte más a tus fotos filtradas. ¿Qué podemos hacer para que te parezcas más a ellos, para que la gente no te vea en la vida real y se vaya? , ¿qué?'"

Entonces esa es una opinión médica que da un médico real a los clientes. Y, por supuesto, todos estos comportamientos y las cirugías que se realizan en respuesta a los filtros de Instagram conllevan una gran cantidad de posibles efectos secundarios y riesgos, incluidas muertes.

Una cosa que se mencionó específicamente en el caso es que Meta promueve características de la plataforma, como filtros visuales conocidos por promover los trastornos alimentarios y la dismorfia corporal en los jóvenes. ¿Sabemos que esto es cierto?

Sabemos que esto es cierto, diría yo, y es cierto porque estas plataformas están diseñadas por personas, y que estos prejuicios existen en las personas está muy bien documentado . Hay casos muy bien documentados de estos sesgos que aparecen en algunas de las tecnologías de filtrado .

Por ejemplo, los filtros que literalmente se llaman “filtros de belleza” automáticamente le darán a alguien una nariz más pequeña, aclararán e iluminarán ligeramente su piel y ensancharán sus ojos. Todas estas son preferencias de belleza que se transmiten desde los sistemas de patriarcado, supremacía blanca, colonialismo y capitalismo y que terminan en nuestras vidas, en nuestros sistemas, en nuestras corporaciones y en nuestros ingenieros y los filtros que crean.

A menudo se habla de estos problemas en el contexto de mujeres y adolescentes que se sienten inseguras acerca de sus cuerpos, en lugar de enmarcarlos como tecnología de realidad aumentada sofisticada, no probada y de implementación masiva orientada al consumidor. ¿Has visto cómo se desarrolla esa dinámica?

Las cuestiones [que afectan] a las adolescentes han sido cultural e históricamente barridas bajo la alfombra y descartadas. Cosas como la belleza se consideran intereses frívolos. Y si se ignoran, terminaremos sin obtener suficientes estudios, suficientes datos sobre los daños de la cultura de la belleza, cuando en realidad existen implicaciones culturales enormes y dañinas.

Recientemente se supo que los productos menstruales nunca han sido probados científicamente usando sangre , y los períodos han existido desde el principio de los tiempos. Si los períodos, que han afectado a las adolescentes y mujeres durante literalmente milenios, no se han estudiado lo suficiente, no me sorprende que este fenómeno relativamente nuevo de filtros y estándares de belleza que afectan la salud mental de las adolescentes no cuente todavía con un conjunto sólido de datos.

¿Qué grupos se benefician de la desconexión entre el ideal de belleza y la vida real?

Es un ideal muy capitalista. Cuanto más lejos esté el estándar del cuerpo humano, más productos, procedimientos y cirugías serán necesarios para alcanzar ese ideal. Y así las corporaciones se benefician y la industria tecnológica se beneficia.

Un ejemplo concreto es cómo Instagram face ha beneficiado económicamente a Instagram. El fenómeno de la cara de Instagram surgió en una versión anterior de Instagram cuando era principalmente una plataforma de redes sociales. Un par de años más tarde, Instagram se convirtió en una plataforma de compras sociales. Pusieron gran énfasis en las compras; había una pestaña de compras. En ese momento, no solo estaba distorsionando la percepción de la belleza de los usuarios, sino que también les estaba vendiendo todo lo que necesitaban para distorsionar sus cuerpos para que coincidieran y quedarse con una parte de todas esas ventas .

¿Qué estará usted observando en particular a medida que se desarrolle esta demanda?

Me encantaría ver más datos concretos sobre los estándares de belleza y la cultura de la belleza y cómo las tecnologías sociales de edición de fotografías están contribuyendo a ello y a su impacto psicológico.

Pero ahora estoy más interesado en el aspecto del comportamiento humano. A medida que surgen pruebas en esta demanda y comenzamos a ver, Oh, estas tecnologías con las que nos hemos obsesionado en un grado nocivo para la salud son en realidad perjudiciales para nuestras vidas y nuestro bienestar de muchas maneras , estoy interesado. para ver si la gente, en primer lugar, querrá optar por no participar en ellos y, en segundo lugar, podrá optar por no participar en ellos. Me interesa ver si la mayor publicidad de esta demanda inspirará a más personas a considerar vidas fuera de las redes sociales.

En cuanto a otras posibles regulaciones, hubo un estudio realizado en el Reino Unido [que analizó] si las exenciones de responsabilidad en imágenes retocadas con Photoshop tenían un efecto positivo en las personas que veían estos anuncios. [Ed. nota: Se han sugerido etiquetas similares como respuesta regulatoria a los daños de las redes sociales.] Y lo que encontró es que en muchos casos, el descargo de responsabilidad de que una imagen había sido retocada con Photoshop en realidad hacía que las personas se sintieran peor, porque saber que una imagen había sido retocada manipulado y que no es físicamente posible en realidad no disminuye la presión que la sociedad ejerce sobre las mujeres jóvenes para que luzcan lo más perfectas posible. Así que soy muy escéptico ante cualquier posible regulación que requiera la divulgación de filtros o Photoshop o cualquier tipo de elemento de edición de fotografías.

¿Qué más estoy leyendo?

• California suspendió la operación de los robotaxis Cruise en el estado. Los reguladores estatales citaron preocupaciones de seguridad con la tecnología de automóviles sin conductor después de una serie de incidentes en las últimas semanas, incluido un accidente que atrapó a un peatón (que fue atropellado por otro automóvil) debajo del robotaxi y los supuestos intentos de la compañía de ocultar imágenes del accidente. .

• Todavía hay muchas reuniones sobre IA entre los legisladores, incluido el segundo Foro AI Insight del Congreso de los EE. UU. el 24 de octubre y la Cumbre de Seguridad de la IA en el Reino Unido que comienza el 1 de noviembre. Estoy emocionado de ver si estas reuniones conducen a resultados tangibles. También estaré atento a la próxima orden ejecutiva sobre IA del presidente Biden.

• No es por nada: me fascinó esta historia de Chiara Dello Joio en el Atlántico sobre los humanos que han clonado a sus mascotas y cómo su relación con el animal clonado difiere de su relación con el original.

Lo que aprendí esta semana

Una nueva herramienta llamada Nightshade puede “envenenar” datos de entrenamiento para modelos de inteligencia artificial que generan imágenes y ayudar a los artistas a luchar contra las violaciones de derechos de autor, informó mi colega Melissa Heikkilä. "Una nueva herramienta permite a los artistas agregar cambios invisibles a los píxeles de su arte antes de subirlo en línea, de modo que si se incorpora a un conjunto de entrenamiento de IA, puede causar que el modelo resultante se rompa de manera caótica e impredecible", escribe. La historia de Melissa proviene de un avance exclusivo de una investigación de la Universidad de Chicago que se envió para revisión por pares.