Estás leyendo la publicación: La UE acelera la regulación de la IA: hacia la IA
Publicado originalmente en Hacia la IA, la empresa líder mundial en noticias y medios de IA y tecnología. Si está creando un producto o servicio relacionado con la IA, lo invitamos a considerar convertirse en patrocinador de la IA. En Hacia la IA, ayudamos a escalar las empresas emergentes de IA y tecnología. Permítanos ayudarlo a dar rienda suelta a su tecnología a las masas.
Un nuevo proyecto de ley propuesto podría permitir a los consumidores demandar a las empresas de inteligencia artificial, pero es solo una parte de una regulación más amplia
La Unión Europea (UE) está preparando nuevas regulaciones para la inteligencia artificial. La semana pasada se presentó un proyecto de ley que permitiría demandar a las empresas de IA por daños y perjuicios. El nuevo proyecto de ley podría aprobarse en un par de años, pero por un lado, las empresas dicen que podría reducir la innovación, mientras que los activistas dicen que no es suficiente.
Fondo
Desde el llamado “invierno de la IA”, el desarrollo de aplicaciones y la investigación sobre inteligencia artificial se han acelerado en las últimas dos décadas. Por un lado, ha habido una mejora continua de los algoritmos y, por otro lado, cada vez hay más datos disponibles en Internet.
En los últimos años, los algoritmos de IA se han vuelto cada vez más sofisticados y podrían revolucionar varios campos (desde la medicina a la astronomía, desde la biología a la industria automotriz). Por otro lado, varias empresas también han probado algoritmos para aplicaciones que podrían tener un impacto nocivo en la sociedad: por ejemplo, cribado de candidatos para un puesto de trabajo o una hipoteca, vigilancia, libertad condicional, etc.
A medida que aumenta la cantidad de parámetros en un modelo, es cada vez más complejo poder entender cómo funciona, por lo que los investigadores hablan de “cajas negras”. En los últimos años, varios estudios han visto cómo la IA puede potencialmente incluir sesgos hacia las minorías y el género. Por ejemplo, se ha demostrado que los algoritmos de reconocimiento facial identifican falsamente rostros negros y asiáticos de 10 a 100 veces más a menudo que los rostros blancos. En 2020, un hombre fue arrestado por error porque un algoritmo lo identificó como el ladrón de unos relojes de lujo en una tienda.
No son los algoritmos de reconocimiento facial los que incorporan sesgos potenciales. También se ha demostrado que varios modelos de lenguaje han incorporado diferentes sesgos en el caso de las traducciones y otras aplicaciones. Además, las herramientas y los algoritmos utilizados para aprobar o rechazar préstamos suelen ser más inexactos con los menores y tienden a rechazar sus solicitudes (El software predictivo de los bancos tiende a favorecer a los blancos cuando tienen que predecir quién pagará una deuda).
Además, ha habido casos en los que los algoritmos han ayudado a difundir información errónea e influir en la votación. Por ejemplo, los algoritmos pueden favorecer la difusión de noticias falsas.
En los últimos años, las instituciones han comenzado a discutir posibles regulaciones para el uso de la inteligencia artificial y sus aplicaciones. Las discusiones en la Unión Europea comenzaron en 2017, y ahora se han publicado borradores de dos posibles proyectos de ley que podrían aprobarse en los próximos años.
Las nuevas directivas de la UE
Este nuevo proyecto de ley debería enmarcarse dentro de un plan más amplio de las instituciones europeas y americanas para regular el uso de la inteligencia artificial.
De hecho, esta propuesta de ley Directiva de responsabilidad de AIestá asociado a una nueva directiva en estudio: la Ley de IA de la UE. Se trata de un ambicioso plan de la UE para prevenir los usos nocivos de la inteligencia artificial. El primer borrador habla explícitamente de evitar usos inaceptables de la inteligencia artificial. Esta propuesta tiene como objetivo reducir los riesgos de la IA, pero también aumentar la transparencia de los algoritmos.
La Ley de IA de la UE limitaría el uso de algoritmos por parte de las fuerzas policiales, pero no solo. De hecho, países como Alemania están presionando para prohibir el uso de reconocimiento facial, algoritmos que predicen la posibilidad de que un usuario sea delincuente, perfiles de áreas propensas a la delincuencia, etc. Además, se notificaría a los usuarios cuando se encontraran con aplicaciones de inteligencia artificial que leen emociones, datos biométricos y falsificaciones profundas.
La Directiva de Responsabilidad de IA añade la posibilidad de que las empresas que desarrollen y comercialicen estos algoritmos puedan ser demandadas por quienes crean haber sido discriminadas. Esta ley, de entrar en vigor, exigirá a las empresas, antes marketing Aplicaciones de IA, para examinar exhaustivamente los riesgos asociados con sus algoritmos.
La Directiva de responsabilidad de AI establece, por ejemplo, que los solicitantes que puedan probar que su currículum es discriminado pueden solicitar información y acceso al algoritmo y luego a un tribunal.
Las empresas afirman que este nuevo proyecto de ley tendrá un impacto negativo en la innovación, por temor a que bloquee el desarrollo de muchos posibles nuevos software. Por el contrario, los grupos de consumidores no lo han recibido con mucho entusiasmo. De hecho, depende de los consumidores poder demostrar que han sido discriminados por el algoritmo. Teniendo en cuenta la complejidad de algunos de estos algoritmos, algunas asociaciones temen que no sea posible probar la falla de los algoritmos. Además, a varias asociaciones también les gustaría que se tuvieran en cuenta los daños indirectos de las tecnologías de IA.
Pensamientos de despedida
La Unión Europea está estudiando varias regulaciones para la inteligencia artificial, y no deben tomarse a la ligera por parte de las empresas. De hecho, como ha demostrado el RGPD, las infracciones de las normas de la UE conllevan fuertes sanciones (Amazon se vio obligado a pagar 775 millones de dólares por infringir el RGPD en 2021, mientras que Google fue multado con 4500 millones de dólares en 2018 por infringir las leyes antimonopolio). Las nuevas reglas bajo consideración incluyen multas de hasta el 6 por ciento de los ingresos anuales totales en todo el mundo.
Además, en el ámbito de la normativa, se habla del efecto UE. A menudo, los reglamentos producidos por la UE sirven de inspiración para otras regiones y otros países. O por el contrario, una vez que las empresas se ven obligadas a desarrollar productos para el mercado europeo, elevan los estándares en otros países.
Como era de esperar, no solo en la UE se están considerando posibles nuevas regulaciones. Tanto a nivel local, estatal y federal, se están considerando varias regulaciones para la inteligencia artificial y sus aplicaciones.
Sin embargo, las leyes propuestas aún están bajo consideración; por otro lado, cuando comenzaron las discusiones sobre IA y responsabilidad a nivel de la UE en 2017, el mundo era diferente. Después de una pandemia y un riesgo de recesión, muchos legisladores no querrían que las nuevas regulaciones fueran una carga para la innovación y el desarrollo. Algunos, como el instituto ada lovelacecree que la nueva normativa será menos restrictiva de lo que se suponía al inicio de las discusiones.
Si te ha parecido interesante:
Puedes buscar mis otros artículos, también puedes suscribir para recibir notificaciones cuando publique artículos, y también puede conectarse o comunicarse conmigo en LinkedIn. ¡Gracias por su apoyo!
Aquí está el enlace a mi repositorio de GitHub, donde planeo recopilar código y muchos recursos relacionados con el aprendizaje automático, la inteligencia artificial y más.
O no dudes en consultar algunos de mis otros artículos en Medium:
La UE acelera la regulación de la IA se publicó originalmente en Hacia la IA en Medium, donde las personas continúan la conversación resaltando y respondiendo a esta historia.
Publicado a través de Hacia la IA
