Derecho e inteligencia artificial

La inteligencia artificial es un proceso que se utiliza cada vez más en la actualidad. En derecho, podemos encontrar una primera definición en el artículo 3 de la propuesta de reglamento europeo del 21 de abril de 2021 de inteligencia artificial como “software que se desarrolla utilizando una o más de las técnicas y enfoques”, como “enfoques de aprendizaje automático, aquellos basados en la lógica y el conocimiento, así como enfoques estadísticos, “y que pueden, para un conjunto determinado de objetivos definidos por humanos, generar resultados tales como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúa”. Pero ¿qué pasa con la inteligencia artificial respecto a la ley (I), cuáles son los riesgos de la inteligencia artificial sobre los derechos fundamentales (II), y cuáles son los avances legales para limitar los riesgos del uso de la IA (III); Tantas preguntas que intentaremos responder en este artículo.

Ejemplos de usos de la IA en el derecho

La IA es un proceso científico que será de interés para varias áreas del derecho, como el derecho laboral o incluso el derecho de datos personales.

En efecto, se convierte en una noción de derecho, porque su uso emite efectos jurídicos. Por ejemplo, cuando surge la cuestión de la responsabilidad tras un error o incluso un mal funcionamiento del algoritmo. O, cuando se trata de propiedad intelectual a la hora de identificar a la persona con derechos sobre algoritmos, al igual que en el ámbito del derecho de patentes y el derecho de autor.

Además, el uso de la IA también interfiere en la organización del ámbito jurídico, ya sea en el ámbito del derecho empresarial con la gestión de contratos y el software de investigación jurídica, por ejemplo, o incluso en el ámbito del derecho penal con el uso de la inteligencia artificial en las decisiones judiciales. O simplemente en el ámbito de la escritura asistida, con el ya conocido ChatGPT.

Asistimos así a una verdadera transformación de las prácticas jurídicas provocada por la era digital. Como resultado, la IA se convierte a la vez en una nueva fuente de derecho y una nueva herramienta para aplicar la ley. Hablamos por tanto de un doble impacto en el mundo jurídico. Por tanto, la inteligencia artificial se presenta tanto como una oportunidad como una amenaza.

En efecto, creemos que en nuestra calidad de abogados, debemos tener cuidado de no rehuir esta nueva tecnología y, por el contrario, estudiar formas de utilizarla sabiamente. Sin embargo, conviene recordar que cualquiera que sea la calidad de los escritos que pueda generar una herramienta como ChatGPT, nunca sustituirá el análisis de un abogado, sobre todo porque se basa en datos existentes y no tiene el poder de crear revocaciones de jurisprudencia, ni siquiera de iniciar leyes más protectoras de nuestros derechos fundamentales.

El impacto negativo de la IA en los derechos fundamentales

En este sentido, el mayor uso de esta nueva tecnología por parte del gobierno y las empresas hace necesario establecer un marco legal para preservar el mercado interno, pero también los derechos fundamentales.

Observamos que numerosos organismos internacionales han informado del impacto negativo de la IA en los derechos fundamentales, incluida la Comisión Nacional Consultiva de Derechos Humanos. Denuncian discriminación derivada del procesamiento algorítmico, “identificación biométrica remota de personas en espacios públicos y lugares accesibles al público” lo que viola el derecho al respeto a la vida privada así como el derecho a la dignidad y el derecho a la seguridad. Sin embargo, tenemos otros ejemplos como la limitación de la libertad de expresión y de reunión resultante de los mecanismos de filtrado implementados por Facebook y YouTube. Esto puede provocar renuencia a utilizar la IA. De hecho, el desarrollo de la inteligencia artificial podría compararse con una regresión de los derechos fundamentales. Por lo tanto, establecer un marco legal ayuda tanto a proteger los intereses públicos como a promover la adopción y el desarrollo de la IA en el mercado interior.

Un embrión legislativo

Sin embargo, actualmente, este marco legal es inexistente.

Sin embargo, existe una carta ética europea para el uso de la inteligencia artificial en los sistemas judiciales y su entorno adoptada en diciembre de 2018.

Este último reúne cinco principios fundamentales en el uso de la inteligencia artificial en los sistemas judiciales y su entorno. Estos principios son:

• respeto a los derechos fundamentales,
• el principio de no discriminación,
• el de calidad y seguridad,
• así como el principio de transparencia, neutralidad e integridad intelectual
• y finalmente, el principio de control del usuario.

Esta carta responde bien a la demanda de las instituciones de una IA que no socave los derechos fundamentales. Sin embargo, se trata sólo de principios y no de obligaciones, ya que se trata sólo de una carta y no de un reglamento, una directiva o una ley; Además, no responde a un problema: el de las disputas provocadas por la inteligencia artificial. Por último, al tratarse de una Carta, no se prevé ninguna sanción en caso de incumplimiento de estos principios.

Es por eso que teníamos que ir más allá. Así, se presenta una propuesta de reglamento sobre inteligencia artificial el 21 de abril de 2021 por la Comisión Europea, llamado elLey de Inteligencia Artificial (AIA). Este último tiene como objetivo “hacer de la Unión un actor mundial líder en el desarrollo de una inteligencia artificial segura, fiable y ética” garantizando al mismo tiempo “protección de los principios éticos”. Por tanto, esta normativa pretende establecer un control de la inteligencia artificial a través de requisitos, prohibiciones e incluso sanciones. Así, a través de este reglamento pretendemos implementar medidas reales para combatir los riesgos de la IA.

No fue hasta el 14 de junio de 2023 que esta propuesta de reglamento fue adoptada por el Parlamento Europeo, tras una votación en sesión plenaria; A esto siguió el inicio de los debates en el Consejo sobre la forma final que adoptará la ley sobre inteligencia artificial y sus condiciones de aplicación. Sin embargo, las controversias en torno a los sistemas de IA generativa que pueden producir texto e imágenes han llevado a una extensión del tiempo de examen del texto. Por lo tanto, aunque se trata de un gran paso adelante, se estima que esta ley no se implementará antes de 2026.

Así, si existe una gran implicación del derecho en la construcción de una regulación del uso de la IA basada en un verdadero equilibrio entre la seguridad jurídica y el respeto de los derechos fundamentales y el desarrollo y uso de la inteligencia artificial, el derecho de la inteligencia artificial sigue siendo un derecho en construcción. En cualquier caso, los medios implementados para controlar el uso de la IA muestran la importancia de este proceso en el mundo jurídico. Además, esto confirma que el derecho es un campo cambiante, ya que se adapta al mundo digital. El despacho LEGALPROTECH-AVOCATS, activo en el ámbito del derecho de las nuevas tecnologías, se compromete a vigilar estos aspectos.

Por Christelle REYNO & Dalhiana PIETRUS