La empresa de tecnología se deslinda de la tecnología de reconocimiento facial por las preocupaciones en que esta sea usado para promover el racismo.
En una carta al Congreso , el CEO de IBM, Arvind Krishna, dijo que el gigante tecnológico se opone a cualquier tecnología utilizada «para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas».
Pidió un diálogo nacional sobre la implementación de estas tecnologías en los cuerpos policiales La carta también pedía nuevas reglas federales para tomar medidas enérgicas contra la conducta indebida de la policía, y más capacitación y educación para las habilidades en demanda para mejorar las oportunidades económicas para las personas de color.
La resolución de algoritmos que afectan directamente situaciones humanas no son precisas si los valores éticos de sus desarrolladores no son suficientes, el paso que dió IBM puede ser un impulso para otras empresas de tecnología.
No es una nueva preocupación: activistas y expertos han estado señalando durante años que los sistemas de reconocimiento facial están sesgados y señalando preocupaciones sobre su potencial de abuso . Sus preocupaciones son legítimas: un estudio histórico realizado por el Instituto Nacional de Estándares y Tecnología de EE. UU. El año pasado confirmó que la mayoría de los algoritmos de reconocimiento facial tuvieron un peor desempeño en caras no blancas.