- digital bargaining hub
- 6 herramientas digitales inteligencia artificial y algoritmos uso y restricciones
Portal de negociación sobre digitalización
El portal ofrece cláusulas de negociación reales, orientaciones sindicales y acuerdos marco que pueden adaptarse para su uso en la mesa de negociación.
No se han encontrado resultados
6 Herramientas digitales, inteligencia artificial y algoritmos: uso y restricciones
Este tema se refiere a qué herramientas y sistemas digitales se están desplegando, cómo se están utilizando y qué derechos de cogestión tienen lxs trabajadorxs en este proceso. Esta sección incluye además las correspondientes cláusulas de restricción.
Las herramientas digitales son una forma clave de generar datos de lxs trabajadorxs, pero no son la única. Por esta razón, le sugerimos que revise estas cláusulas junto con la información presentada en la sección 5, que se refiere a los derechos de los datos de lxs trabajadorxs de forma más amplia.
El control y la vigilancia de lxs trabajadorxs no es nada nuevo. Sin embargo, la irrupción de las tecnologías digitales ha ampliado las formas en que se llevan a cabo estas actividades. La lista de herramientas y sus capacidades de vigilancia es casi interminable. Algunos ejemplos son la grabación de actividades en línea, el análisis de movimientos y el geotracking, el reconocimiento biométrico y facial, el seguimiento de las emociones, la supervisión de las pulsaciones de teclas y el análisis del habla. Aunque a veces las herramientas funcionan según lo previsto, también son propensas a cometer errores o a ser mal utilizadas. Por ello, los sindicatos deben estar bien informados sobre el impacto de las herramientas digitales en las funciones del lugar de trabajo, como la contratación, la remuneración y la evaluación.
Es necesario que los convenios colectivos aborden los siguientes temas y asuntos en el contexto de los derechos de lxs trabajadorxs, las herramientas digitales, la IA y la gestión por algoritmos:
Tecnologías y herramientas: Información y ámbito de uso
Tecnologías y herramientas: Cláusulas de restricción
Transparencia y diseño de herramientas, inteligencia artificial (IA) y algoritmos
Intervención en sistemas de IA y algoritmos
Este subtema se refiere a las prácticas de intercambio de información relacionadas con las herramientas digitales en el trabajo y a la importancia de definir claramente cómo se utilizarán las herramientas digitales.
Las tecnologías pueden utilizarse a menudo de múltiples maneras. Algunas de las mismas herramientas utilizadas para ayudar a lxs trabajadorxs también pueden utilizarse para vigilarlos o disciplinarlos.
Los sindicatos deben negociar un lenguaje claro que especifique qué herramientas se utilizarán en el lugar de trabajo y cómo se utilizarán. El objetivo debe ser garantizar que las herramientas y las tecnologías beneficien a lxs trabajadorxs en lugar de perjudicarlos. Animamos a los sindicatos a que sean específicos sobre lo que está permitido y a que restrinjan el uso solo a lo que se ha acordado explícitamente.
Sindicatos en acción: Consulta sobre la introducción de nuevas herramientas
La introducción de herramientas digitales en el trabajo no tiene por qué ser una decisión unilateral e impulsada por el empleador. Los sindicatos pueden negociar para tener un papel activo en la determinación de dónde y cómo se utilizarán las tecnologías. El sindicato canadiense CUPE ha desarrollado un lenguaje contractual para asegurar las prácticas de intercambio de información sobre dónde se instalan las tecnologías GPS. Su lenguaje, al que se hace referencia a continuación, también otorga a los sindicatos el derecho a ofrecer recomendaciones sobre los lugares de instalación.
El sindicato proporcionará su recomendación sobre la ubicación y el alcance de los equipos de vídeo y audio existentes y el rastreo de RAM o cualquier dispositivo GPS a través de la discusión con dos (2) dirigentes del sindicato o sus representantes. El sindicato también podrá aportar sugerencias sobre ubicaciones adicionales. Antes de instalar, mover o modificar el equipo de video/audio existente o nuevo y el rastreo RAM o cualquier dispositivo GPS para la vigilancia general, la empresa deberá informar al sindicato y, si se le solicita, deberá discutir el asunto con dos (2) dirigentes del sindicato o sus representantes. La empresa deberá marcar claramente todos los vehículos, identificando que el vehículo está equipado con la capacidad de seguimiento por GPS.
Union
Canadian Union of Public Employees
Country
Canadá
Year
various
Tipo de documento
Collective Bargaining Agreement
Clause number
10114
Sindicatos en acción: Gobernando la IA generativa
Desde 2023, las tecnologías de Inteligencia Artificial (IA) generativa son mucho más accesibles. Estas tecnologías son sistemas de IA capaces de crear nuevos contenidos, incluidas imágenes y texto. Los sindicatos que representan a lxs trabajadorxs de los sectores del entretenimiento y las comunicaciones han sido algunos de los primeros en negociar salvaguardias para el uso de este tipo de tecnología. Las disposiciones contractuales han aclarado cómo se determina la autoría cuando tanto los humanos como la IA contribuyen al desarrollo de un proyecto, y en qué condiciones la IA generativa puede ser utilizada por el empleador y por lxs trabajadorxs. A continuación, figura un ejemplo del Writers Guild of America.
Se exigirá a lxs escritorxs que se adhiera a las políticas de la empresa relativas al uso de la IAG [Inteligencia Artificial Generativa] (por ejemplo, políticas relacionadas con la ética, la privacidad, la seguridad, la propiedad intelectual u otra protección de los derechos de propiedad intelectual). Cualquier compra de material literario a unx escritorx profesional también está sujeta a dichas políticas. Unx escritorx debe obtener el consentimiento de la Empresa antes de utilizar IAG. La empresa se reserva el derecho a rechazar el uso de la IAG, incluido el derecho a rechazar un uso de la IAG que pudiera afectar negativamente a la posibilidad de proteger los derechos de autor o la explotación de la obra.
Country
Estados Unidos
Year
2023
Tipo de documento
Collective bargaining agreement
Clause number
10545
La Empresa no podrá exigir, como condición de empleo, que un escritor utilice un programa de IAG [Inteligencia Artificial Generativa] que genere material escrito que de otro modo sería “material literario” (según se define en el Artículo 1.A.5.) si fuera escrito por unx escritorx (según se define en el Artículo 1.B.1.a. y el Artículo 1.C.1.a.) (por ejemplo, una Empresa no podrá exigir a unx escritorx que utilice ChatGPT para escribir material literario). La frase anterior no prohíbe a una Empresa exigir a unx escritorx que utilice un programa de IAG que no genere material escrito, como un programa de IAG que detecte posibles infracciones de derechos de autor o plagio.
Country
Estados Unidos
Year
2023
Tipo de documento
Collective bargaining agreement
Clause number
10546
Este subtema se refiere a cómo los sindicatos pueden introducir un lenguaje restrictivo que ponga limitaciones a las herramientas y tecnologías y a la forma de utilizarlas en el trabajo.
Es importante ser explícito sobre cómo se utilizarán las tecnologías y las herramientas, pero es igualmente importante especificar cómo no se utilizarán. Muchos convenios colectivos identificados incluyen un lenguaje sobre los usos aceptables de las tecnologías y ponen límites a su uso. En lo que respecta a las restricciones, los sindicatos querrán estar atentos a que las tecnologías no se utilicen con fines de vigilancia o punitivos.
Sindicatos en acción: Restricción del uso de herramientas digitales
Los sindicatos han desarrollado un amplio lenguaje para utilizar y restringir el uso de herramientas tecnológicas en el trabajo. En el siguiente ejemplo, los miembros del sindicato británico CWU trabajan en una empresa en la que se han instalado cámaras orientadas hacia delante. El lenguaje del convenio colectivo explica por qué se ha introducido esta tecnología (es decir, para proporcionar una mejor comprensión de lo que ocurre si hay un incidente con el vehículo) pero también pone límites a cómo se utilizará. En este caso, existe el compromiso de que no se utilizará la grabación de sonido. Este lenguaje es claro y firme, y los cambios en la política dependen de la consulta.
COMP (Empresa) ha adoptado una política para instalar cámaras de visión frontal en todos los vehículos de su flota asegurada [...]. Las cámaras se utilizarán para comprender mejor lo que ocurre en un accidente o casi accidente de tráfico; fomentar la mejora del estilo de conducción después de un accidente/casi accidente de tráfico; acelerar el proceso de reclamaciones, ahorrando así costos; apoyar la defensa de las reclamaciones de terceros contra COMP (Empresa). [...] La grabación de sonido no se activa ni al grabar. Se debe consultar antes de cambiar este aspecto. En caso de que alguna persona empleada desee ocasionalmente asegurarse de que el sonido de una cámara sigue estando apagado, el responsable local atenderá dicha solicitud. […]
Country
Reino Unido
Year
2020
Tipo de documento
Collective Bargaining Agreement
Clause number
10117
Sindicatos en acción: Prohibir el uso de tecnologías y herramientas con fines punitivos
Algunos sindicatos, como el coreano KPTU, han desarrollado un lenguaje que pone límites al uso de las herramientas digitales. Esta disposición también otorga a los sindicatos el derecho a negociar cuándo y durante cuánto tiempo se utilizarán dichas tecnologías. El sindicato canadiense CUPE, por su parte, ha desarrollado un lenguaje contundente sobre dónde pueden y no pueden utilizarse los sistemas de vigilancia. Además, el uso de estos sistemas requiere el consentimiento de los empleados y CUPE ha tomado medidas adicionales para proteger de represalias a lxs trabajadorxs que opten por no participar en los programas de vigilancia. Ambos ejemplos se incluyen a continuación.
Artículo 117 [Equipo de vigilancia]
La empresa no instalará equipos de vigilancia ni productos informáticos destinados a registrar los movimientos y el proceso de trabajo de las personas empleadas, como ordenadores, teléfonos, cámaras de vídeo, sistemas biométricos de huellas dactilares, iris, venas, RFID y otras tecnologías de información y comunicación, sonido y vídeo. Sin embargo, en el caso de instalación de equipos para prevenir accidentes o peligros como la seguridad laboral o el robo, se arreglará previamente con el sindicato lo siguiente, así como se tomarán medidas para que el personal y el sindicato se reconozcan durante su uso.
- Finalidad de la instalación y periodo de uso
- Método de instalación y contenido del registro
- Tipos y detalles técnicos de los equipos de vigilancia
- Departamento y persona responsable
Las empresas no reflejarán el contenido de los registros de los equipos de vigilancia en la evaluación del rendimiento ni los utilizarán como base para las medidas disciplinarias. Si los equipos son instalados sin el consentimiento previo del sindicato, violan las leyes y el convenio colectivo, o cuando el propósito de la instalación y el período de uso se expiran, la empresa debe retirar inmediatamente el equipo de vigilancia y notificar el resultado al sindicato.
La empresa no instalará equipos de vigilancia en lugares que puedan invadir la intimidad, como baños, vestuarios, lavabos, salas de descanso del personal, dormitorios, etc.
Union
Korean Public Service and Transport Workers' Unions
Country
Corea del Sur
Year
various
Tipo de documento
Collective Bargaining Agreement
Clause number
10110
Las cámaras de vigilancia, cualquier tecnología o sistema capaz de controlar al personal o su trabajo y cualquier otro equipo relacionado no se utilizarán en las zonas ocupadas por el personal sin su conocimiento [...].
No se llevará a cabo ninguna supervisión electrónica del personal o de su trabajo a menos que se cuente con el consentimiento por escrito. Dicho consentimiento podrá ser retirado en cualquier momento y deberá ser renovado para cada año de contrato. [...]
Se entiende que no habrá represalias contra ninguna persona miembro de la unidad de negociación que decida no dar dicho permiso por escrito. [...]
La empresa se compromete a informar al sindicato si planea someter cualquier área del lugar de trabajo a vigilancia electrónica, o planea controlar las comunicaciones. [...]
La empresa está de acuerdo que se notifique a los empleados el propósito de esa vigilancia en cualquier ocasión [...].
No habrá control ni vigilancia electrónica de carácter encubierto. El sindicato y todos los empleados que se encuentren en un lugar de trabajo en el cual haya control y/o vigilancia electrónica serán informados por escrito sobre la ubicación y la naturaleza de cualquier equipo utilizado para el control y/o la vigilancia electrónica. [...]
Se notificará al sindicato y se colocará un aviso en todos los lugares de trabajo en los cuales la empresa haya instalado equipos de control o vigilancia electrónicos. Dicho equipo no se utilizará para realizar una supervisión general y continua del personal.
Union
Canadian Union of Public Employees
Country
Canadá
Year
various
Tipo de documento
Collective Bargaining Agreement
Clause number
10122
Este subtema se refiere a la importancia de la transparencia para que lxs trabajadorxs comprendan plenamente el impacto de las herramientas digitales y las prácticas de gestión algorítmica en el lugar de trabajo.
Las herramientas y tecnologías con las que lxs trabajadorxs trabajan, bajo y en presencia de ellas, ayudan a recopilar cantidades significativas de datos de lxs trabajadorxs. Estos datos pueden ser utilizados posteriormente por los sistemas de gestión o automatizados, como los algoritmos, para una serie de funciones en el lugar de trabajo con el potencial de influir en aspectos como la distribución del trabajo, la productividad de lxs trabajadorxs e incluso los procedimientos de recursos humanos. Además, los sistemas algorítmicos suelen ser construidos por terceros. Esto significa que, a veces, estas tecnologías son mal comprendidas por los propios directivos que las utilizan.
Los sindicatos deben negociar un lenguaje que mejore su comprensión de cómo se diseñan y funcionan los sistemas automatizados en el trabajo. Esto puede contribuir a una mayor transparencia en la gestión del lugar de trabajo. Iniciar conversaciones sobre la necesidad de transparencia cuando se trata del diseño y el funcionamiento de las herramientas, la inteligencia artificial y los algoritmos puede abrir la puerta a conversaciones productivas y redistribuir el poder en el lugar de trabajo.
Sindicatos en acción: La negociación de la transparencia algorítmica
La gestión algorítmica es el uso de algoritmos informáticos y técnicas de IA para controlar a los empleados. Esta forma de gestión automatizada se rige por una serie de decisiones binarias que a menudo utilizan datos extraídos de las herramientas digitales con las que trabajan lxs trabajadorxs, bajo ellas y junto a ellas.
Entre sus muchas aplicaciones, la gestión algorítmica puede utilizarse para contratar, despedir, disciplinar y recompensar a lxs trabajadorxs. También puede utilizarse para distribuir el trabajo, organizar la producción y racionalizar los procesos. Los sistemas de gestión algorítmica son notoriamente opacos, lo que dificulta el control y hace necesaria la transparencia.
En España, se emitió un real decreto, al que se hace referencia más adelante, para la aplicación de un convenio colectivo en el que participa el sindicato UGT. Este incluye el requisito de que los parámetros y la lógica de la toma de decisiones integrados en los algoritmos estén disponibles.
Ser informados por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que puedan incidir en las condiciones de trabajo, acceso y mantenimiento del empleo, incluida la elaboración de perfiles. (extracto del Real Decreto de desarrollo del acuerdo)
Country
España
Year
2021
Tipo de documento
Collective Bargaining Agreement
Clause number
10129
Este subtema se ocupa de cómo lxs trabajadorxs y los sindicatos pueden intervenir en los sistemas algorítmicos cuando surge un problema o cuando los sistemas automatizados no funcionan como se esperaba.
La inteligencia artificial y los sistemas algorítmicos implican una toma de decisiones automatizada. La IA y las tecnologías algorítmicas están construidas por humanos, pero a veces funcionan mal. O, en el caso del aprendizaje automático, los sistemas automatizados evolucionan independientemente de la supervisión humana. Es importante que lxs trabajadorxs y los sindicatos puedan intervenir cuando las cosas van mal.
Sindicatos en acción: Mantener a los seres humanos al tanto
Un método clave para intervenir en la gestión algorítmica es garantizar que los sistemas se construyan con "seres humanos en el bucle" y que, en caso de que algo vaya mal, los seres humanos tengan el control y puedan intervenir. El artículo 22 del GDPR garantiza que los individuos tienen derecho a la intervención humana y que no estarán sujetos únicamente a la toma de decisiones automatizada. Sin embargo, tanto si los sindicatos se encuentran en Europa como si no, se puede negociar un lenguaje similar en la mesa de negociación.
El Acuerdo Marco de los Interlocutores Sociales Europeos sobre la Digitalización estableció un acuerdo multisectorial, al que se hace referencia a continuación, que promueve principios de buena gobernanza para la IA y los algoritmos. El primer principio es que dichas tecnologías deben atenerse a un enfoque de "control humano".
El uso de los sistemas de IA
- debe seguir el principio de control humano;
- debe ser segura, es decir, debe evitar daños. Debe llevarse a cabo una evaluación de riesgos que incluya oportunidades para mejorar la seguridad y prevenir daños como, por ejemplo, a la integridad física humana, la seguridad psicológica, el sesgo de confirmación o la fatiga cognitiva;
- debe seguir los principios de equidad, es decir, garantizar que los trabajadores y los grupos no sufran prejuicios ni discriminación;
- debe ser transparente y explicable con una supervisión eficaz. El grado de explicabilidad necesario depende del contexto, la gravedad y las consecuencias. Habrá que hacer comprobaciones para evitar resultados erróneos de la IA.
- En las situaciones en las cuales los sistemas de IA se utilizan en los procedimientos de recursos humanos, como la contratación, la evaluación, la promoción y el despido, y el análisis del rendimiento, es necesario salvaguardar la transparencia mediante el suministro de información. Además, un trabajador afectado puede solicitar la intervención humana y/o impugnar la decisión junto con la comprobación de los resultados de la IA.
- Los sistemas de IA deben ser diseñados y operados para cumplir con la legislación vigente, incluyendo el Reglamento General de Protección de Datos (GDPR), garantizar la privacidad y la dignidad del trabajador.
Country
Europe
Year
2020
Tipo de documento
Framework Agreement
Clause number
10126
Lecturas adicionales sobre el Tema 6: Herramientas digitales, inteligencia artificial y algoritmos
"Datos y algoritmos en el trabajo: El caso de los derechos tecnológicos de lxs trabajadorxs". -UC Berkeley Labor Center’s report on “Data & Algorithms at Work: The Case for Worker Technology Rights.”
Coworker ha publicado un nuevo informe "Little Tech Is Coming for Workers" y ha lanzado una nueva base de datos para rastrear la tecnología "bossware" en el lugar de trabajo.
Informe de AI Now "Responsabilidad algorítmica para el sector público".
Informe de la Asociación sobre IA (PAI): La toma de decisiones algorítmica más justa y sus consecuencias: Interrogación de los riesgos y beneficios de la recopilación, uso y no uso de datos demográficos. La PAI también presentó una base de datos de incidentes de IA, una recopilación sistematizada de incidentes de IA que han dado lugar a problemas de seguridad, discriminación u otros.
Instituto Ada Lovelace (2022): Evaluación del impacto de los algoritmos: un estudio de caso en la asistencia sanitaria
Los senadores Wyden, Booker y Clare han presentado la "Ley de Responsabilidad Algorítmica de 2022", que obligaría a las empresas a realizar evaluaciones de impacto de los sistemas automatizados que utilizan para tomar decisiones críticas, como las que dan acceso a la financiación, el empleo o la vivienda.