El segundo “Foro global sobre ética de la inteligencia artificial: transformar la gobernanza de la IA” tuvo lugar del 5 al 6 de febrero de 2024 en Eslovenia.
De hecho, la buena gobernanza de la inteligencia artificial (IA) es un gran desafío de nuestro tiempo, que requiere un aprendizaje basado en buenas prácticas que surgen de diferentes jurisdicciones alrededor del mundo. Los rápidos cambios provocados por este desarrollo también plantean importantes preocupaciones éticas y profesionales. Ningún otro campo requiere tanto una brújula ética como la inteligencia artificial, porque estas tecnologías versátiles están transformando profundamente la forma en que trabajamos, interactuamos y vivimos.
Si bien la ética designa el conjunto de reglas y deberes que rigen una profesión, la conducta de quienes la practican, las relaciones entre ellos y sus clientes y el público, podemos identificar fácilmente las amenazas que la IA representa para ella, particularmente en el campo del derecho. De hecho, la ética se pone a prueba cuando la inteligencia artificial amenaza los derechos fundamentales de las personas (I) y el concepto de propiedad intelectual (II).
La amenaza del respeto
derechos fundamentales
La inteligencia artificial representa un avance tecnológico importante, pero su rápido crecimiento genera preocupación sobre los riesgos de violación de los derechos fundamentales. A medida que la IA se integra en diversas áreas, como la vigilancia, el empleo, la toma de decisiones, etc., las cuestiones relacionadas con la privacidad, la discriminación y la transparencia se están convirtiendo en importantes áreas de preocupación.
La amenaza al derecho a la privacidad
Uno de los principales derechos fundamentales que se ve amenazado por la IA es el de derecho a la protección de la privacidad. De hecho, los sistemas de inteligencia artificial, a menudo impulsados por grandes conjuntos de datos, pueden recopilar, analizar e interpretar información personal de manera exhaustiva. Esto plantea interrogantes sobre la derecho de las personas a controlar sus datos y su capacidad de mantener la privacidad. Aplicaciones como la vigilancia masiva a través de cámaras de seguridad equipadas con tecnologías avanzadas de análisis de imágenes pueden potencialmente violar el derecho a la privacidad, al registrar y analizar los movimientos de las personas sin su consentimiento.
El riesgo inherente de discriminación en la IA
Entonces, el discriminación Los sistemas de IA intrínsecos son otra fuente importante de preocupación. Los algoritmos pueden reflejar y perpetuar los sesgos presentes en los datos con los que están entrenados. Esto puede resultar en una discriminación injusta en áreas cruciales como la contratación, los préstamos o incluso el sistema judicial. Por ejemplo, si un algoritmo se entrena con datos históricos sesgados, puede reproducir estos sesgos favoreciendo a ciertos grupos sobre otros, amplificando así las desigualdades preexistentes.
Sin embargo, si quisiéramos evitar que la IA reproduzca los estereotipos sociales y culturales a los que está sujeta, entonces el propio creador tendría que modificar los sistemas de IA. Pero entonces, ¿cómo podemos garantizar que el creador sea capaz de elegir qué valores integrar, qué sesgos y estereotipos son buenos o malos?
El riesgo de la falta de transparencia en el tratamiento de datos
El transparencia y el responsabilidad también son aspectos esenciales de la ética en el uso de la IA. Las decisiones tomadas por sistemas automatizados a menudo pueden parecer opacas, porque el funcionamiento interno de los algoritmos es complejo y difícil de entender. Esto plantea un desafío para la ley de información, porque las personas pueden verse incapaces de comprender o cuestionar las decisiones que les conciernen. Una mayor transparencia en la forma en que los sistemas de IA toman decisiones es crucial para garantizar la rendición de cuentas y permitir una supervisión adecuada.
En este sentido, el RGPD (Reglamento General de Protección de Datos) regula estrictamente los procesos de toma de decisiones totalmente automatizados, y el artículo 22 del reglamento establece en particular que las personas tienen derecho a no ser objeto de una decisión basada exclusivamente en un tratamiento automatizado, que produzca efectos jurídicos o les afecte significativamente. Tienen derecho a requerir la intervención humana en el proceso.
De hecho, para mitigar estos riesgos, es imperativo implementar salvaguardias y regulaciones adecuadas.
En este contexto, los estados miembros de la Unión Europea adoptaron el 2 de febrero de 2024 el texto final del reglamento sobre inteligencia artificial (Ley IA), que será sometido a votación en el parlamento a mediados de abril. Este texto prevé la regulación de los sistemas de inteligencia artificial (AIS) según una clasificación por nivel de riesgo, es decir, precisamente 4 niveles de riesgo.
Los riesgos están calificados inaceptables, altos, limitados o mínimos según su naturaleza. Por ejemplo, mientras que el scoring social y la identificación biométrica o el reconocimiento de emociones en entornos profesionales y educativos se califican de inaceptables, según el análisis del Tribunal Europeo de Derechos Humanos (TEDH) que ya había recomendado prohibirlos, el scoring bancario se califica de alto, mientras que los filtros antispam se califican de limitados.
Las obligaciones que incumben al proveedor o usuario de la IA dependen de la clasificación de riesgo. Por ejemplo, mientras que el riesgo “inaceptable” hace que su uso esté prohibido, el riesgo “alto” hace que las medidas de cumplimiento de la SIA sean obligatorias (registro de actividades, información de los usuarios, intervención humana, etc.). El riesgo limitado implica medidas simplificadas. Para garantizar el cumplimiento por parte de todos los operadores SIA diseñados dentro de la UE o que simplemente operan en el mercado europeo, la Ley IA prevé sanciones financieras de hasta 30 millones de euros o el 7% de la facturación anual consolidada.
Además, la Comisión Nacional Consultiva de Derechos Humanos CNCDH también recomienda imponer requisitos a los usuarios de un sistema de IA capaz de garantizar el respeto de los derechos fundamentales: un estudio de impacto, consulta de las partes interesadas, supervisión del sistema durante todo su ciclo de vida.
ElLey IA, votado el 2 de febrero, unas semanas después de que el New York Times demandara a Open AI, el 23 de diciembre de 2023, por infracción de derechos de autor, también enfatiza la necesidad de proteger la propiedad intelectual.
La amenaza del respeto a la propiedad intelectual
La difícil implementación del respeto a los derechos de autor
La creciente integración de la inteligencia artificial en nuestra vida diaria también plantea importantes preocupaciones con respecto a las implicaciones de los derechos de autor. La materia prima esencial para la IA son los datos. Sin embargo, el acceso, uso y explotación de estos datos plantean riesgos importantes en términos de respeto de los derechos de propiedad intelectual.
Aprendizaje automático, la base de la IA, se basa en entradas de ejemplo y resultados esperados, llamados datos estructurados o datos de aprendizaje. Este proceso permite que el sistema mejore continuamente, tomando decisiones sin necesidad de programación paso a paso. La analogía con el mecanismo biológico de adquisición de facultades cognitivas refuerza la idea de la adaptabilidad inherente a la IA, pero al mismo tiempo plantea desafíos relacionados con el respeto de los derechos de autor.
Desde junio de 2023, la empresa Open AI se ha enfrentado a un mínimo de cinco denuncias presentadas por autores quienes lo acusan de haber utilizado sus escritos para entrenar sus inteligencias artificiales, sin obtener la autorización necesaria ni proporcionar compensación. Entre los denunciantes, el Gremio de Autores, una asociación que reúne a más de 14.000 escritores estadounidenses, se unió al creador de Juego de Tronos para expresar estas quejas. La actriz Sarah Silverman también se unió al grupo, defendiendo sus memorias. Asimismo, los novelistas y ensayistas Jonathan Franzen y John Grisham han presentado denuncias relacionadas con el uso no autorizado de sus obras.
La propuesta de reglamento del Parlamento Europeo y del Consejo sobre el acceso equitativo a los datos, emitida el 23 de febrero de 2022, subraya la importancia de la cuestión del acceso a los datos por parte de la IA. Además de los datos personales, la primera pregunta que deben responder los diseñadores de IA se refiere a la naturaleza de los datos de entrenamiento necesarios. ¿Estos datos son de acceso abierto, están disponibles como datos abiertos o son protegido por derechos de autor, derechos conexos, o incluso incluidos en una base de datos protegida por el derecho sui generis del productor de la base de datos? Si los datos necesarios están sujetos a derechos de propiedad intelectual, surge una segunda cuestión relativa a las modalidades técnicas de acceso, reproducción e integración en el resultado final. Esto plantea desafíos complejos en términos de aplicación de los derechos de autor y requiere una cuidadosa consideración de los medios legales para facilitar este acceso preservando al mismo tiempo los derechos de los titulares de derechos.
La naturaleza del producto resultante del uso de IA también es un factor determinante. Los diseñadores deben considerar si el producto final contiene elementos protegidos por derechos de autor u otros derechos de propiedad intelectual. Esta evaluación es crucial para determinar la legitimidad del uso de los datos y guiar la estrategia legal que se implementará.
Para abordar estos desafíos, se deben considerar soluciones legales, como la implementación de la excepción de minería de texto y datos, que permite el acceso gratuito a datos protegidos en el contexto del aprendizaje automático.
De hecho, Francia ha transpuesto las disposiciones de la directiva europea sobre derechos de autor de 2019, incluidas en particular las disposiciones que establecen excepciones a los derechos de autor para la minería de textos y datos. Por minería de textos y datos entendemos la implementación de una técnica de análisis automatizado de textos y datos en formato digital para extraer información, en particular constantes, tendencias y correlaciones. Se estipula que la minería de textos y datos no puede ser impugnada por los titulares de derechos de autor, si se lleva a cabo “a los exclusivos fines de investigación científica por parte de organismos de investigación, bibliotecas accesibles al público, museos, servicios de archivos o instituciones depositarias del patrimonio cinematográfico, audiovisual o sonoro”.. Gracias a esta excepción, el uso de datos para IA se puede hacer de forma legal y sin infringir derechos de autor, siendo supervisado y regulado para evitar cualquier abuso.
Los riesgos que plantea la IA para los derechos de autor requieren un enfoque equilibrado y reflexivo. Las regulaciones, como la propuesta europea sobre el acceso justo a los datos, proporcionan un marco inicial, pero es esencial continuar desarrollando mecanismos legales apropiados para garantizar un equilibrio justo entre la innovación tecnológica y la protección de los derechos de propiedad intelectual.
El vacío legal respecto a la propiedad y responsabilidad de la IA generativa
La cuestión de la responsabilidad de la inteligencia artificial generativa se encuentra en la compleja intersección del derecho de autor francés y las características específicas de las creaciones producidas por estas tecnologías emergentes.
El marco de derechos de autor en Francia protege las “obras intelectuales” siempre que se consideren “originales”. La noción de originalidad implica la presencia de la huella de la personalidad del autor, resultante de elecciones libres y creativas. Sin embargo, surgen dos preguntas importantes en relación con la IA generativa: en primer lugar, ¿Podemos atribuir la autoría a la herramienta de IA? ? En segundo lugar, el ¿Se pueden realmente calificar como originales las creaciones generadas por una IA? ?
Según la ley francesa, solo una persona natural puede reclamar la autoría, con excepción de las personas jurídicas asociadas con derechos de autor relacionados con una obra colectiva. Por tanto, una máquina o un software no pueden ser reconocidos como autor en el sentido del Código de Propiedad Intelectual en Francia.
El desencadenante de las creaciones generadas por IA permanece intervención humana, donde un individuo da instrucciones a la herramienta. Sin embargo, surge la pregunta crucial: ¿puede esta persona, al dar instrucciones, ser considerada el autor en el sentido del Código de Propiedad Intelectual? La respuesta parece difícil de afirmar positivamente, especialmente en lo que respecta a los resultados brutos generados por la herramienta. Estos resultados siguen siendo impredecibles para el usuario, porque simples variaciones en unas pocas palabras clave pueden provocar variaciones drásticas en el contenido generado por la IA.
En el contexto donde el usuario no tiene control total sobre los resultados producidos por la IA, se vuelve difícil argumentar que estos resultados llevan la huella de su personalidad. Sin embargo, surge un matiz importante cuando el usuario reelabora el resultado generado por la IA. En este caso, la obra posterior podrá beneficiarse de la protección de los derechos de autor, siempre que cumpla con los requisitos de originalidad del Código de Propiedad Intelectual.
En resumen, la responsabilidad de la IA generativa en el contexto de los derechos de autor franceses sigue siendo una cuestión delicada. La falta de reconocimiento de la máquina como autora pone de relieve la necesidad de explorar mecanismos legales que tengan en cuenta la complejidad de las interacciones entre humanos y la IA en el proceso creativo, preservando al mismo tiempo los derechos legítimos de las partes involucradas.
Ante las complejas cuestiones de la ética y la inteligencia artificial, LEGALPROTECH-AVOCATS mantiene su compromiso de proporcionar soluciones jurídicas adaptadas e innovadoras. Aprovechando nuestra experiencia en este campo en constante evolución, estamos listos para ayudar a nuestros clientes a afrontar los desafíos legales relacionados con la IA. Si busca asesoramiento jurídico especializado para garantizar un uso ético y conforme a las normas de la IA, no dude en ponerse en contacto con nosotros. Estamos aquí para ofrecerle un apoyo profesional y personalizado, garantizando un enfoque jurídico riguroso.
Por Aurélia Jauffrineau y Christelle Reyno
Artículo publicado el 28 de febrero de 2024. Su contenido refleja el contexto de su publicación.
¿Alguna pregunta sobre tu situación? Contacta con la firma ↗
