Estás leyendo la publicación: ¿Los poderes judiciales finalmente están creando un futuro algorítmico más seguro?
¿Los poderes judiciales finalmente están creando un futuro algorítmico más seguro?
Justo este trimestre, Frances Haugen, una ex empleada de Facebook, denunció cómo la empresa había elegido conscientemente ignorar los problemas en la plataforma con pruebas fácticas como los documentos de Facebook. “Estos problemas tienen solución”, dijo en su declaración de apertura, testificando ante el Senado. “Pero hay una cosa que espero que todos se lleven de estas revelaciones; es que Facebook puede cambiar, pero claramente no lo hará por sí solo”.
Los reguladores han asumido que la carga de la protección de datos recae sobre los propios consumidores, en ocasiones legitimando el consentimiento de uso de datos a través de largos términos y condiciones. Por otro lado, los consumidores deben aceptar esas condiciones para poder usar la plataforma, técnicamente, sin los derechos que las grandes empresas tecnológicas afirman que tienen.
Cada vez más conscientes de la necesidad de la interferencia judicial, los senados de todo el mundo, y principalmente de los EE. UU., están aprobando proyectos de ley y leyes para prevenir el uso nocivo de algoritmos. En esta historia, destacamos algunos de los proyectos de ley algorítmicos más recientes aprobados o considerados.
FTC redacta regla algorítmica bajo la presidencia de Lina Khan
La semana pasada, la Comisión Federal de Comercio anunció que se está considerando redactar una nueva regla algorítmica. La regulación para las empresas estadounidenses restringiría y regularía el uso de datos y algoritmos por parte de las grandes empresas tecnológicas. En una carta al Senador Richard Blumenthal, Lina Khan, la presidenta, detalló la necesidad de que la regulación considere “la toma de decisiones algorítmicas (que) pueden resultar en discriminación ilegal”. Describió la urgencia de un proyecto de ley, considerando los peligros de la vigilancia comercial, las prácticas de seguridad laxas, los abusos de privacidad de datos y la toma de decisiones algorítmica. La FTC, que históricamente ha sido una agencia de cumplimiento, ha comenzado a ver nuevas iniciativas basadas en datos bajo el liderazgo de Khan, un crítico abierto de los grandes gigantes tecnológicos. La nueva ley se iniciará bajo la sección 18 de la Ley FTC, que proporciona una hoja de ruta para promover la competencia y prevenir daños al consumidor en el mercado.
El proyecto de ley del NYC Council contra los algoritmos en RRHH
El Concejo de la Ciudad de Nueva York aprobó un proyecto de ley para prevenir el racismo algorítmico y el sexismo en los departamentos de contratación de las empresas. El proyecto de ley exige que las empresas revelen cuándo están utilizando software para evaluar a los candidatos, así como que las empresas de software realicen auditorías periódicas de su tecnología. Sin embargo, desde que se aprobó, el proyecto de ley ha recibido fuertes críticas de los defensores de la privacidad tecnológica que argumentan que permitir que las empresas de software auditen sus productos por sí mismas, especialmente bajo una definición macro de tecnología, solo les dará un pase libre para vender legalmente software discriminatorio.
El proyecto de ley de Washington contra la discriminación algorítmica de las minorías
En Washington, el fiscal general Karl A. Racine presentó un proyecto de ley que prohíbe la discriminación por algoritmos en el país. Prohíbe que las empresas utilicen algoritmos sesgados o discriminatorios hacia las minorías. Esto está especialmente orientado a la igualdad de oportunidades, como empleos y vivienda, entre todos los ciudadanos del país. Responsabiliza a las empresas por sus tecnologías y les exige que auditen, corrijan e informen cualquier sesgo detectado. Además, las organizaciones deben ser transparentes sobre la información que recopilan de los clientes y cómo la utilizarán.
JAMA de la Cámara de los Demócratas
La Cámara de los Demócratas propuso la Ley de Justicia contra Algoritmos Maliciosos, la Ley JAMA de 2021, para eliminar las protecciones de responsabilidad legal para las grandes empresas tecnológicas que usan algoritmos de manera poco ética y dañina. El proyecto de ley está dirigido a enmendar la Sección 230 de la Ley de Decencia en las Comunicaciones que ofrece amplias protecciones a estas plataformas. “El tiempo de la autorregulación ha terminado y este proyecto de ley los hace responsables”, dijo el presidente Frank Pallone, demócrata de Nueva Jersey. Los copatrocinadores han señalado que Facebook es el principal destinatario del acto presentado solo unas semanas después de las revelaciones del daño causado por el algoritmo de Facebook.
Ley de Transparencia de la Burbuja de Filtro del Congreso
La Ley de Transparencia de la Burbuja de Filtro del Congreso exige que las plataformas de Internet permitan a las personas optar por una versión de los servicios sin algoritmos o que no esté impulsada por algoritmos opacos. “Los consumidores deberían tener la opción de interactuar con las plataformas de Internet sin ser manipulados por algoritmos secretos impulsados por datos específicos del usuario”, dijo el representante Ken Buck, uno de los patrocinadores del proyecto de ley.
La lista no es exhaustiva; de hecho, solo analiza los proyectos de ley aprobados en los últimos meses en los Estados Unidos. Estos tampoco son el boleto de ida hacia algoritmos seguros y transparentes, ya que la carga de críticas que argumenta que estas leyes son más restrictivas para los consumidores que las grandes compañías tecnológicas. Con todo, lo que sí significa es un aumento de la conciencia entre el poder judicial sobre la necesidad de modular algoritmos y gigantes tecnológicos. Pero solo puede tener un impacto cuando se aprueba con proyectos de ley complementarios que exigen transparencia de datos y gobernanza de IA.
