La inteligencia artificial (IA) está en todas partes, desde el control del tráfico, la videovigilancia, el diagnóstico médico o la conducción autónoma. Sin embargo, la evidencia empírica muestra que las aplicaciones de IA pueden producir algunos comportamientos indeseables. Entre estas situaciones indeseables, la discriminación ocupa un lugar destacado. Algunos autores incluso han sugerido que los servicios en línea que utilizan sistemas de calificación personalizados son inherentemente propensos a producir prácticas discriminatorias.

Pero tratar con la equidad algorítmica de IA también significa ir más allá de sus límites estrictos. Es un verdadero desafío para todo tipo de ordenamientos jurídicos. En este sentido, algunos autores han destacado cómo la falta de un marco legal adecuado y de adaptación de los sujetos involucrados -jueces, Inspección de Trabajo, abogados, sindicatos y empresarios, entre otros- para hacer frente a los últimos cambios tecnológicos relacionados con lo digital estaría colocando a las personas trabajadoras en una situación desventajosa, si se prefiere, les conduce a peores condiciones de trabajo, en particular, en materia salarial, de seguridad y salud, tiempo de trabajo, igualdad de trato y no discriminación y protección social.

En consecuencia, organismos tan relevantes, como el Consejo de Europa o la UE, han llamado a evaluar los desarrollos tecnológicos y revisar de posibles impactos negativos, con especial atención al uso de técnicas de procesamiento algorítmico. Esto no incluye solo la Ley, sino también otras medidas normativas como la negociación colectiva.

Así, no es sólo la propia IA algorítmica la que está produciendo efectos indeseables, particularmente en el caso de cuestiones de igualdad de trato y no discriminación, sino también el marco legal que el que esta se desarrolla. Esta es precisamente la razón que justifica este proyecto, centrado en profundizar en la comprensión de la regulación del uso de IA en el lugar de trabajo, identificando las brechas existentes y aportando mejoras tanto desde el punto de vista legal como algorítmico, con el fin de crear un entorno laboral más justo. y más equitativo.

En particular, este proyecto se centra en áreas principales. Por un lado, el análisis de cómo debe adaptarse la regulación actual -tanto legal como de negociación colectiva- para asegurar un marco normativo más adecuado y eficaz que prevenga, controle y compense la discriminación algorítmica, y que facilite la negociación colectiva en materia algorítmica. Por otro lado, la introducción de normas y prácticas en el lugar de trabajo -por convenios colectivos, pero no solo- que permitan una mejor gestión algorítmica para lograr una situación más equilibrada en la que la participación de las personas trabajadoras en el funcionamiento de los algoritmos al tiempo que se protejan sus derechos. La base común de estos dos enfoques es mostrar, como defienden las instituciones europeas, que «el diálogo social juega un papel fundamental a la hora de anticipar los cambios y las necesidades relacionadas con el lugar de trabajo».

Para lograr estos objetivos, AlgoEquality pretende analizar el fenómeno de la discriminación algorítmica desde una perspectiva multidisciplinar e internacional con el fin de aportar soluciones útiles para reducir el riesgo de conductas discriminatorias en el lugar de trabajo.