El presidente Joe Biden acaba de presentar una nueva Carta de Derechos sobre la IA, que destaca cinco barreras de defensa que los estadounidenses deben tener presentes en la era de la IA.
nBiden ya había pedido anteriormente medidas de protección sobre la privacidad más sólidas y que las empresas tecnológicas dejaran de recopilar datos. Pero EE UU, hogar de algunas de las empresas de tecnología de IA más grandes del mundo, ha sido hasta ahora una de las únicas naciones occidentales sin una guía clara sobre cómo proteger a sus ciudadanos contra los peligros de la inteligencia artificial.
nEl anuncio de Biden es la visión de la Casa Blanca de cómo el Gobie o de EE UU, las empresas tecnológicas y los ciudadanos deberían trabajar juntos para regularizar la IA. Sin embargo, los críticos creen que el nuevo plan carece de fuerza y que EE UU necesita una regulación aún más estricta en to o a la IA.
nEn septiembre, la administración de Biden anunció unos principios básicos para la responsabilidad y la reforma tecnológica, como frenar la toma de decisiones algorítmicas discriminatoria, promover la competencia en el sector tecnológico y brindar protecciones federales para la privacidad.
nLa Carta de Derechos sobre la IA, cuya idea fue presentada por primera vez hace un año por la Oficina de Política Científica y Tecnológica (OSTP, por sus siglas en inglés), el departamento del Gobie o de EE UU que asesora al presidente sobre ciencia y tecnología, es un modelo sobre cómo lograr esos objetivos. Ofrece una orientación práctica a las agencias gube amentales y un llamamiento a la acción para que las empresas de tecnología, los investigadores y la sociedad civil apoyen estas medidas de protección.
n"Estas tecnologías causan verdaderos daños en la vida de los estadounidenses y van en contra de nuestros valores democráticos fundamentales, incluido el derecho básico a la privacidad, la no discriminación y nuestra dignidad", afirmó un alto funcionario de la administración de Biden a los periodistas en una rueda de prensa.
nLa IA es una tecnología poderosa que está transformando nuestras sociedades. También tiene el potencial de causar daños graves, que a menudo afectan de manera desproporcionada a las minorías. Las tecnologías de reconocimiento facial utilizadas en la vigilancia y los algoritmos que asignan beneficios no son tan precisos para las minorías étnicas, por ejemplo.
nEl nuevo plan tiene como objetivo restablecer ese equilibrio e indica que los estadounidenses deben estar protegidos de los sistemas inseguros o ineficaces. Al mismo tiempo señala que los algoritmos no pueden ser discriminatorios y que los sistemas se deben usar tal y como fueron diseñados de manera equitativa. Además, sostiene que los ciudadanos deben tener control sobre sus datos y que tienen que estar protegidos de las prácticas abusivas de uso de datos a través de unas defensas integradas. Los ciudadanos también deben saber cuándo se utiliza un sistema automatizado sobre sus datos y comprender cómo eso contribuye a los resultados. Finalmente, las personas siempre deberían poder optar por no utilizar los sistemas de IA en favor de una alte ativa humana y tener acceso a los remedios cuando haya problemas.
n"Queremos asegura os de que estamos protegiendo a las personas de los peores peligros de esta tecnología, independientemente del proceso tecnológico específico utilizado", aclaró otro alto funcionario de la administración de EE UU.
nLa Carta de Derechos sobre la IA de la OSTP es "impresionante", opina el director de la organización sin ánimo de lucro Center for AI and Digital Policy, Marc Rotenberg, que se especializa en la regulación de la inteligencia artificial.
n"Esto es un gran punto de partida. Sin embargo, eso no pone fin a la discusión sobre cómo EE UU implementa una IA fiable y centrada en el ser humano", resalta Rotenberg. Se trata de un paso de partida para llevar a EE UU a un lugar donde pueda cumplir con ese compromiso".
nLa analista de políticas de EE UU del grupo de derechos digitales Access Now, Willmary Escoto, señala que las nuevas pautas destacan hábilmente la "importancia de la minimización de datos" al tiempo que "nombran y abordan los diversos daños que experimentan las personas de otras tecnologías de IA, como el reconocimiento de emociones".
n"La Carta de Derechos sobre la IA podría tener un enorme impacto en las libertades civiles fundamentales de las personas negras y latinas en todo el país", según Escoto.
nEl sector tecnológico acogió con agrado el reconocimiento de la Casa Blanca de que la IA también se puede utilizar para el bien.
nEl presidente del grupo tecnológico CCIA, Matt Schruers, que entre sus miembros tiene a empresas como Google, Amazon y Uber, asegura que aprecia la "tendencia de la Administración de que las agencias gube amentales deben predicar con el ejemplo en el desarrollo de los principios éticos relacionados con la IA, evitar la discriminación y desarrollar un marco de gestión de riesgos para los tecnólogos gube amentales".
nLa directora de normativa de IA del grupo de lobby tecnológico BSA, Shaundra Watson, cuyos miembros incluyen a Microsoft e IBM, apoya el enfoque del documento en las evaluaciones de riesgos e impacto. "Será importante garantizar que estos principios se apliquen de manera que aumenten las protecciones y la fiabilidad en la práctica", indica Watson.
nMientras la UE presiona para tener las regulaciones con el objetivo de prevenir los daños de la IA y responsabilizar a las empresas por la tecnología de IA peligrosa, y cuenta con un régimen estricto de protección de datos, EE UU ha sido reacio a introducir nuevas normativas.
nLas nuevas medidas de protección reproducen las introducidas en la UE, pero el documento no es vinculante y no constituye una norma del Gobie o de EE UU, porque la OSTP no puede promulgar leyes. Los legisladores son los que tendrán que proponer nuevos proyectos de ley.
nEl director de política del Instituto Stanford para la IA Centrada en el Ser Humano, Russell Wald, cree que el documento carece de detalles o mecanismos para su aplicación.
n"Es desalentador ver la falta de una política federal coherente y muy necesaria para abordar los desafíos que plantea la IA, como el control, la auditoría y las acciones de revisión coordinadas por el Gobie o federal para mitigar los riesgos y peligros provocados por los modelos de código abierto", resaltó Wald.
nRotenberg es partidario de que EE UU implemente regulaciones como el Reglamento sobre la IA de la UE, la nueva normativa que tiene como objetivo incluir unos controles adicionales y dotar de equilibrio los usos de la inteligencia artificial, que tienen el mayor potencial para causar daño a la gente.
n"Nos gustaría ver algunas prohibiciones claras sobre los usos de IA que han sido más controvertidos, que incluyen, por ejemplo, el uso de reconocimiento facial para la vigilancia masiva", señala Rotenberg.
nLa Carta de Derechos sobre la IA puede sentar las bases para una futura legislación, como la aprobación de la Ley de Responsabilidad Algorítmica o la creación de una agencia para regular la IA, resalta la directora de la organización Encode Justice, Sneha Revanur, que se centra en los jóvenes y la IA.
n"Aunque tiene una capacidad limitada para abordar los peligros del sector privado, la Carta de Derechos sobre la IA puede cumplir su promesa si se aplica de manera significativa, y esperamos que una verdadera regulación haga lo propio", concluye Revanur.
nEsta historia se ha actualizado para incluir la cita de Sneha Revanur.
n