Uniéndose a Illinois y Maryland , el Concejo de la Ciudad de Nueva York aprobó una medida, Int. 1894-2020A (el «Proyecto de ley»), para regular el uso de los empleadores de «herramientas automatizadas de decisión de empleo» con el objetivo de frenar el sesgo en la contratación y los ascensos.
Antilavadodedinero / natlawreview
El proyecto de ley, que está a la espera de la firma del alcalde DeBlasio, entrará en vigor el 1 de enero de 2023. Si el alcalde no firma el proyecto de ley dentro de los treinta días posteriores a la aprobación del Concejo (es decir, antes del 10 de diciembre), sin veto, se convertirá en ley.
Herramientas de decisión de empleo automatizadas
El proyecto de ley define «herramienta automatizada de decisión de empleo» como «cualquier proceso computacional, derivado del aprendizaje automático, el modelado estadístico, el análisis de datos o la inteligencia artificial», que puntúa, clasifica o hace una recomendación que se utiliza para ayudar o reemplazar sustancialmente el proceso de toma de decisiones del de un individuo.
El proyecto de ley exime a las herramientas automatizadas que no afectan materialmente a las personas, como un filtro de correo electrónico no deseado, un firewall, una calculadora, una hoja de cálculo, una base de datos, un conjunto de datos u otra compilación de datos. No está claro si las herramientas de contratación pasiva, como los trabajos sugeridos por LinkedIn, están cubiertas por el proyecto de ley.
El proyecto de ley se aplica solo a las decisiones de selección de candidatos para empleo o empleados para promoción dentro de la ciudad de Nueva York, y no se aplica a otras decisiones relacionadas con el empleo.
Requisitos del empleador según el proyecto de ley de IA
El proyecto de ley prohíbe a los empleadores o agencias de empleo usar las herramientas de decisión automatizadas para seleccionar candidatos o empleados para decisiones de empleo a menos que: (1) la herramienta haya sido sometida a una auditoría de sesgo independiente no más de un año antes de su uso; y (2) un resumen de los resultados de la auditoría, así como la fecha de distribución de la herramienta a la que se aplica la auditoría, se ha puesto a disposición del público en el sitio web del empleador o de las agencias de empleo. El proyecto de ley no tiene claro si la auditoría de sesgo debe actualizarse y cuándo, o si se debe obtener una nueva auditoría de sesgo antes de cada «uso» por parte del empleador.
El proyecto de ley define una «auditoría de sesgo» aceptable como una evaluación imparcial realizada por un auditor independiente que incluye la prueba de la herramienta para evaluar su impacto dispar en personas de cualquier «categoría de componente 1» EEO-1 federal, es decir, si la herramienta habría un impacto dispar basado en raza, etnia o sexo.
Además, los empleadores de la ciudad de Nueva York que utilicen herramientas de decisión de empleo automatizadas deben notificar a cada empleado o candidato que resida en la ciudad de Nueva York lo siguiente:
- al menos diez días hábiles antes de dicho uso, que la herramienta se utilizará para evaluar o evaluar a la persona y permitirá que el candidato solicite un proceso o adaptación alternativo;
- al menos diez días hábiles antes de dicho uso, las calificaciones laborales y las características que utilizará la herramienta para evaluar o evaluar al individuo; y
- si no se publica en el sitio web del empleador, y dentro de los treinta días posteriores a una solicitud por escrito de un candidato o empleado, información sobre el tipo de datos recopilados para la herramienta y la fuente de dichos datos.
Aunque el proyecto de ley permite que los candidatos soliciten un «proceso alternativo o acomodación», no dice nada sobre qué obligaciones, si las hubiera, debe asumir un empleador al recibir una solicitud.
Los empleadores o agencias de empleo que no cumplan con cualquiera de los requisitos del proyecto de ley pueden estar sujetos a una multa de hasta $ 500 por una primera infracción por parte del Asesor Jurídico de la Corporación de la Ciudad de Nueva York o del Departamento de Asuntos del Consumidor. Los empleadores pueden ser sancionados con multas de $ 500 a $ 1,500 por cada infracción posterior.
En previsión de la probable fecha de entrada en vigencia del 1 de enero de 2023 del proyecto de ley, los empleadores que utilizan herramientas automatizadas de decisión de empleo en sus prácticas de contratación y promoción en la ciudad de Nueva York deben tomar medidas para garantizar que cumplan. Esto incluye:
- asegurarse de que una herramienta automatizada de decisión de empleo haya pasado por una «auditoría de prejuicios» independiente no más de un año antes del uso de la herramienta, específicamente para determinar si la herramienta tendría un impacto diferente en función de la raza, el origen étnico o el sexo;
- publicar los resultados de la auditoría en el sitio web público del empleador;
- desarrollar un método para notificar a los empleados y candidatos sobre el uso de la herramienta y las calificaciones y características que la herramienta evaluará o evaluará; y
- elaborando cuidadosamente evaluaciones de trabajo para asegurar que solo se tomen en cuenta los conocimientos, habilidades y habilidades clave, y considerando las posibles razones de las disparidades.
Los empleadores que buscan implementar de manera responsable y ética las herramientas de inteligencia artificial en el reclutamiento y selección de talentos no deben limitar sus esfuerzos al cumplimiento de este proyecto de ley únicamente. Aunque no es un requisito según la medida de la ciudad de Nueva York, los empleadores también deben considerar la accesibilidad de las herramientas para las personas con discapacidades y otras personas. También deben considerar si y cómo utilizar alguna herramienta de contratación pasiva, que puede no cumplir con el requisito de notificación a los candidatos del proyecto de ley.
