El gigante ha anunciado que dejará de desarrollar tecnologías de este tipo por sus posibles usos policiales capaces de fomentar el racismo, y pide diálogo para regularlas. Es la primera gran compañía tecnológica que alza la voz frente al problema, pero los críticos señalan que, en realidad, casi no es parte de su negocio
La noticia: IBM ha comunicado que dejará de desarrollar y vender software de reconocimiento facial debido a las preocupaciones de que la tecnología se use para fomentar el racismo. En una carta al Congreso de EE. UU., el CEO de IBM, Arvind Krishna, afirma que el gigante tecnológico rechaza cualquier tecnología utilizada "para la vigilancia masiva, la creación de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas".
También pide un "diálogo nacional" sobre si resulta apropiado que la tecnología de reconocimiento facial sea utilizada por las agencias policiales nacionales y de qué forma. La carta también llama a crear nuevas reglas para tomar medidas enérgicas contra la conducta indebida de la policía, y más formación y educación en las habilidades requeridas para mejorar las oportunidades económicas de las personas de color.
El problema no es nuevo: distintos activistas y expertos llevan años señalando que los sistemas de reconocimiento facial están sesgados y no han parado de alzar la voz para alertar sobre sus preocupaciones sobre su potencial de abuso. Sus temores son justificados: un destacado estudio realizado del año pasado por el Instituto Nacional de Normas y Tecnología de EE. UU. confirmó que la mayoría de los algoritmos de reconocimiento facial habían tenido un peor desempeño en caras no blancas.
Cómo se ha recibido: IBM es la primera gran compañía tecnológica que se desvincula por completo del desarrollo de esta tecnología. Aunque, en general, la noticia ha sido recibida positivamente por los tecnólogos, y en especial por los activistas preocupados por el uso del reconocimiento facial, los críticos subrayan que el hecho de abandonar un mercado en el que apenas participaba no supone un gran sacrificio para IBM.
A pesar de ello, sigue siendo una gran compañía tecnológica que adopta una inusual y firme postura moral sobre uno de los asuntos actuales más controvertidos. El paso resulta particularmente oportuno debido a las actuales protestas por violencia policial y el racismo en Estados Unidos y en todo el mundo. Pero no se sabe si será un cambio puntual de IBM o una medida que ayude a animar a otras compañías tecnológicas a pasar a la acción.