A continuación les dejamos un interesante articulo de nuestro socio D. Jesus Medina Jaranay, referente a la Inteligencia Artificial en el ámbito jurídico y la protección de datos:
EL CAMINO HACIA OTRA ERA.
Hace ya bastantes años comencé mi ejercicio en la abogacía. Entonces la máquina de escribir y los tomos del Aranzadi eran los compañeros del abogado. Con el paso del tiempo el ordenador entró en nuestras vidas, o mejor dicho las invadió. Los estantes de los despachos conservan viejos repertorios, que hoy ostentan un mero uso ornamental.
Hoy he prescindido casi por completo del papel. Escaneo los documentos y, como todos, vivo sometido a la tiranía del correo electrónico.
Toda esta digitalización tiene un protagonista, los datos, y en la protección de esos datos he centrado mi actividad profesional de los últimos tiempos. Veamos como progresivamente han ido ocupando parcelas de nuestra vida hasta el punto de que su control y utilización nos hará jugar en la liga de nuestros días o dejarnos definitivamente fuera de ella. Analizaremos después, como máquinas y programas van tomando posiciones, y la posición del abogado en todo ello.
Por cierto, si resiste la intención de imprimir estas líneas, podrá disfrutar de los enlaces que se contienen. Las fuentes de la información al alcance de un clic.
LOS DATOS: EL PETROLEO Y LA ELECTRICIDAD DEL SIGLO XXI.
A menudo se ha considerado a los datos como el petróleo, o la electricidad, del siglo XXI. De manera similar a como lo fueron ambos para el siglo XX se han convertido en uno de los recursos vitales de nuestros días. Ninguna tecnología funciona sin datos que tratar, los procesos se mejoran continuamente, pero todos se alimentan de datos.
Frente al petróleo o la electricidad los datos cuentan con muchas ventajas: entre otras el no tener consecuencias para el medio ambiente y no estar en poder de unos pocos países. Aunque esto es una verdad a medias, pues su tratamiento implica grandes consumos de energía, y además los software siguen estando en manos de un número reducido de países y corporaciones.
CADA VEZ MAS DATOS, CADA MEZ MAS RAPIDO.
Cada vez más datos, y tratados de forma más veloz. Cada día se generan en Internet más de 2.5 billones de bytes de datos, para 2025 se estima que esta cantidad ascienda a 463 exabytes de datos por día.
Y la velocidad de su tratamiento no le va a la zaga. La marcha más rápida la puso Jensen Huang, un ingeniero taiwanés, emigrado a California a las nueve años. Huang, a través de su empresa Nvidia, creando los aceleradores más veloces existentes. La tarjeta A100, una bestia con unas dimensiones de 826 milímetros cuadrados, con un chip de siete nanómetros (un pelo tiene 100 nanómetros), capaz de procesar billones de datos.
Para hacernos una idea de la magnitud de esta velocidad, un dato: desde 1989 cuando Google nacía en un garaje y la red estaba en mantillas, la complejidad de procesamiento de los chips se ha incrementado 5600 millones de veces.
Y LLEGÓ LA INTELIGENCIA ARTIFICIAL.
Con esta capacidad de procesamiento continuamente en expansión, era cuestión de tiempo que llegara algo parecido a la capacidad de razonamiento humana. Y llegó la inteligencia artificial.
De repente nos hemos dado cuenta de que existe CHAT GPT con el que podemos conversar y nos ofrece unas respuestas que como mínimo podemos calificar de sorprendentemente fiables.
Pero esta aplicación sólo es lo más vistoso de una realidad que ya está ahí. Veamos algunos casos en que ya figura implantada.
Si queremos tener conversaciones, generando texto, podemos acudir a Notion o Jasper.
Solo es cuestión de un poco de práctica que podamos crear contenidos en muy poco tiempo con Bearly o scholarcy. Las presentaciones de nuestros trabajos podemos hacerlas por slidesai o Murfai. Y así, podríamos continuar en los más diversos campos aplicables a nuestro día a día.
Y es sólo el principio. Después de que Microsoft adquiriera Chat GPT por 10.000 millones de dólares, Google emprendió una frenética carrera para no quedarse atrás en el mundo de los buscadores. Y así el resto de compañías del sector tecnológico.
UNA MIRADA AL MUNDO DE LA JUSTICIA.
Todo este cambio debía de tener eco en el mundo de la justicia. Desde su uso por estados o administraciones a juristas y otros profesionales de la justicia. Uno de los primeros estados en aplicarlo fue el Reino Unido, permitiendo formalizar y resolver reclamaciones civiles por cantidades inferiores a 10.000 libras esterlinas. En Estonia, es posible reclamar telemáticamente cantidades inferiores a 7.000 euros.
Y China por delante de todos. En el «Libro blanco de la Corte Suprema de China” (Chínese Courts and Internet Judiciary), se marcan las pautas de futuro. Sigamos a Chinajusticeobserver, una web patrocinada por la Academia de Estado de Derecho Integral de la Universidad de Ciencias Políticas y Derecho de China, para ver por dónde van los tiros del futuro:
En junio de 2021, la Corte Suprema de China promulgó las «Reglas de litigio en línea para los tribunales populares», con las primeras reglas que integran la tecnología de litigio en línea. Aquí se cuenta ya con la inteligencia artificial, como compañero en la resolución de conflictos. Para una mayor información podemos ver en el siguiente enlace (en español) big data ai and chinas justice heres whats happening.
Los software aplicables al mundo jurídico ya son habituales. Entre ellos citemos a MODRIA, una aplicación originalmente desarrollada para ayudar a EBay y PayPal a resolver on line unos 60 millones de reclamaciones anuales de sus clientes sin necesidad de recurrir a un representante, y después adaptada para arbitrar en divorcios y pequeñas disputas legales en California. El servicio los guía en temas relacionados con la división de bienes, la pensión y la custodia de los hijos.
En España ya está presente la inteligencia artificial en numerosos programas algunos de los cuales son utilizados muy frecuentemente por los abogados. jurimetria, es una aplicación, que sus creadores promueven diciendo que “sistematiza y extrae de forma exhaustiva la inteligencia que reside en un conjunto de más de 10 millones de resoluciones judiciales y en toda la estadística judicial. Procedentes de todas las instancias y órdenes jurisdiccionales de España, a las que se incorporan medio millón de nuevas resoluciones cada año. La más completa visión jurisprudencial desde la Primera Instancia hasta el Tribunal Supremo”. Esto es sólo un ejemplo de la larga lista que podremos obtener simplemente con colocar en Google “Herramientas de inteligencia artificial para abogados”.
MARCHENA Y LA INTELIGENCIA ARTIFICIAL.
A finales de 2022, Manuel Marchena, presidente de la Sala Penal del Tribunal Supremo, para su ingreso como académico en la Real Academia de Doctores, eligió el tema de la Inteligencia artificial y la jurisdicción penal.
Con su habitual brillantez fue desgranando como la I.A se encuentra ya entre nosotros y su proyección en el futuro inmediato. Algunas de consideraciones y conclusiones nos ayudaran a entender y navegar por este mundo. Parecería que Marchena, por formación, posición profesional y edad parecería rechazar esta tecnología. Nada más lejos de la realidad. No me resisto a transcribir esta larga cita suya: “La renuncia generacional para sumarse a las posibilidades que ofrece la IA será también una renuncia a aprovecharse de las utilidades que ya están entre nosotros y que empiezan a vislumbrarse en un futuro no especialmente lejano. Por más que persistan encomiables actitudes de resistencia frente a la voluntaria entrega de datos que se deriva del uso de las nuevas tecnologías, el futuro no va a permitir la construcción de dos modelos de convivencia en paralelo. De una parte, una sociedad ajustada al ideal clásico, convencional, llamada a acoger a ciudadanos que luchan cada día por no ceder espacios de privacidad y, por otro lado, una sociedad en la que las nuevas tecnologías imponen sus propias razones y obligan a la renuncia de conquistas de dimensión histórica”. En otras palabras, no hay un plan B a la Inteligencia Artificial. Ya lo había manifestado el Libro Blanco de la Unión Europea sobre IA, aprobado por la Comisión Europea el 19 de febrero de 2020, «la inteligencia artificial se está desarrollando rápido. Cambiará nuestras vidas…”.
Quizá la punta del iceberg de la inteligencia artificial este constituida por los robot, y aunque más adelante trataremos el tema, quiero dejar apuntado la consideración del debate que se abre sobre el derecho de los robots, y sus implicaciones legales. Se concibe como nueva rama jurídica autónoma que nace para dar respuesta a los insólitos desafíos y situaciones disruptivas que empiezan a aflorar. La presencia generalizada de la robótica en la sociedad va a generar tensiones culturales, económicas y, por supuesto, jurídicas, que comienzan a desbordar los límites históricos del constitucionalismo tal y como fue concebido. Como señala Barrio Andrés la robótica lleva ínsita un «inevitable cambio de paradigma legal, que va a provocar transformaciones estructurales en el Derecho, sus instituciones y operadores jurídicos».
LOS OPERADORES JURIDICOS Y LA I.A. EL FISCAL.
Analicemos los principales operadores jurídicos del proceso, iniciando por la figura del fiscal. Según definición muy extendida tiene la misión de “promover la acción de la Justicia en defensa de la legalidad, de los derechos de los ciudadanos y del interés público tutelado por la Ley, de oficio o a petición de los interesados, así como velar por la independencia de los Tribunales y procurar ante ellos la satisfacción del interés social.” Esta función, no implica parcialidad, sino ecuanimidad en la búsqueda del cumplimiento de la Ley. Parecería que sería adecuada para la implantación de un sistema que tuviera sólo por función el cumplimiento de la Ley, prescindiendo de otras consideraciones.
Pues bien, China inventa «un fiscal» de Inteligencia Artificial capaz de presentar cargos con un 97 % de precisión. Ni esta noticia ni el porcentaje atribuido es ciencia ficción, la Inteligencia Artificial es capaz de elaborar escritos de acusación basándose únicamente en una descripción verbal, con una precisión superior de hasta el 97 %. Además de por otros medios, la I.A se nutre de la tecnología de reconocimiento facial y la instalación de miles de cámaras de vigilancia en todo el país, lo que ha permitido la recopilación masiva de datos. Estos datos se utilizan para entrenar algoritmos de inteligencia artificial que pueden identificar patrones en los datos.
No tenemos constancia de que la función del fiscal esté siendo ocupada en este momento en ningún otro país. Pero lo cierto es que la división del mundo entre democracias y países autocráticos, va a llevar a la generalización de esta figura en un plazo no demasiado largo. Nos encontramos ante la posibilidad de facilitar y acelerar la fase de investigación. Un tres por ciento de errores en la apreciación de la I.A probablemente sea un porcentaje inferior al que se genere con la actividad humana, pero no es la fiabilidad absoluta.
EL JUEZ Y LA I.A.
Con la sustitución del fiscal nos movemos en el campo de la investigación, de la acumulación de pruebas. Detrás quedaría el ser humano, como garante del discernimiento final.
Ahora bien, en la misma medida podemos plantearnos que la potente capacidad de análisis de la I.A podría llegar a porcentajes de fiabilidad similares a los anteriores. Y aquí el concepto clave es “imparcialidad”.
El ser humano está lleno de contradicciones en sí mismo, que se agravan en su contacto con su entorno, y ante situaciones concretas. Las variables son infinitas, y a los juristas no nos resulta extraño como un mismo caso puede tener soluciones distintas en varias sedes judiciales. ¿Podemos presuponer, que no existe la imparcialidad en resoluciones contradictorias? Queremos concluir que, en la inmensa mayoría de los casos, los jueces son imparciales.
¿Por qué entonces estas contradicciones? Los factores son múltiples, y exceden ampliamente a estas líneas. Centrémonos sólo en dos: el azar y los sesgos cognitivos. El primero de ellos es de una importancia crucial en la resolución de las mismas cuestiones. Factores personales como el estado anímico del juzgador en el momento de la resolución, pueden afectar sustancialmente a su decisión. Ortega y Gasset, en una conocida frase lo definió: “Yo soy yo y mis circunstancias”, no puedo separar el medio del que vivo, de mi yo.
Pero más importante es lo que se ha dado en llamar los sesgos cognitivos. Acudamos a un viejo adagio latino “quod non est in actis non est in mundo”. Centrémonos en el material que consta en el proceso, olvidando el resto. Aquí a priori parecería que el Juez robot tendría una gran ventaja, emitiendo resoluciones solo sobre la fuerza bruta computacional. En el caso humano nos parece casi imposible esta abstracción, aunque esté legalmente proscrita.
Sin embargo no es así. Nuestro juez robot sentenciará según la información estadística con que cuenta el algoritmo resolutivo del proceso. Información del pasado que interrelaciona con un caso del presente. En palabras de Marchena, “una decisión robótica exclusivamente basada en el enlace argumental entre el precepto penal aplicable y la jurisprudencia que lo ha interpretado ofrece una imagen estática, casi petrificada, de precedentes que, estoy seguro, no siempre conducirían a una decisión justa”. Tampoco nos corresponde entrar en la idea de la justicia, formal o material.
DEMOS ENTRADA A LA PROTECCION DE DATOS.
Iniciamos nuestro escrito diciendo que el siglo XXI era de los datos. Un volumen, tráfico e influencia tan grande de los datos debía dar lugar a un control de los estados sobre los mismos y su tratamiento. En este sentido fue crucial la promulgación del REGLAMENTO (UE) 2016/679 DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 27 de abril de 2016, que fue desarrollado posteriormente por las legislaciones de los estados. Esta normativa y su posterior desarrollo ha servido de base para el control, o su intento, de la I.A.
Recientemente se ha producido un BLOQUEO DE LA IA POR ITALIA. La autoridad italiana alega que la información facilitada por ChatGPT “no siempre se corresponde con los datos reales”, lo que según el garante “da lugar a un tratamiento inexacto de los datos personales”. Más recientemente La Agencia Española de Protección de Datos ha iniciado de oficio actuaciones previas de investigación a la empresa estadounidense OpenAI, propietaria del servicio ChatGPT, por un posible incumplimiento de la normativa. Visto que el RGPD es la normativa reguladora de la Europa comunitaria es previsible que en los próximos meses veamos una cascada de apertura de procedimientos contra la empresa de Microsoft, propietaria de esta IA.
La AEPD ya se había pronunciado sobre la I.A, mediante la Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Solamente destacar que el tratamiento del riesgo y las evaluaciones de impacto a realizar, deberán tener en cuenta también su dimensión ética. Y todo ello en un campo que en gran medida es terra ignota. Por ese motivo, en otra de sus guías (AEPD auditorías de tratamientos que incluyen Inteligencia Artificial), establece un análisis exhaustivo de estos tratamientos para concederles validez.
Tanto el campo técnico como ético no serán pacíficos y está abierto el que será un apasionante debate. Recientemente se han producido tres dimisiones en el Consejo Asesor de Inteligencia Artificial por los vínculos del Gobierno con Emiratos Árabes, estando detrás de todo ello el uso que los distintos países y regímenes pueda hacer de esta tecnología.
Y EL PAPEL DEL ABOGADO EN ESTE LIO.
Una buena noticia: la profesión de abogado seguirá existiendo, al menos en el medio plazo. Las estadísticas cifran el riesgo de sustitución de la judicatura en el 40%, incrementándose hasta el 94% en otros ámbitos paralegales. Sin embargo, en la abogacía nos movemos entre un 3% y un 5%.
Pero no será una abogacía como la que hemos conocido hasta ahora. El abogado como poseedor de unos saberes de los que no dispone el resto de la sociedad es parte del pasado. Cualquier visita a internet puede proporcionar idénticos conocimientos con los que cuenta el mejor de los abogados especialista. Aunque esta radical afirmación debemos matizarla, pues también encontramos en internet medicina, ingeniería, y nadie deja de acudir a un médico en caso de enfermedad, o a un arquitecto para hacer una casa.
El factor diferencial del abogado del futuro vendrá dado por una simbiosis entre el factor cognitivo y el personal. Para el primero de ellos ya no serán suficientes los conocimientos académicos, deberán de cultivarse otras habilidades, trabajando el aspecto tecnológico de la profesión. Cuantos más elementos diferenciales cuente el abogado, más difícil será su sustitución.
Se deberá trabajar codo a codo con las legal tech, como suministradoras de tecnología de servicios jurídicos. Empresas que comercializan una amplia variedad de servicios, herramientas para la gestión de contratos, plataformas de resolución de disputas en línea, chatbots y asistentes legales virtuales.
Y pienso que probablemente sea más decisivo el factor personal. Empatía y seguridad personal ante el conflicto serán rasgos distintivos del abogado humano no sustituibles por la máquina, nada que no podamos predicar de otras disciplinas.
Ambos factores, cognitivo y personal, determinarán la continuidad de la figura de abogado y su posicionamiento y adaptación a entornos complejos. Según García Diez, la clave del éxito del abogado del futuro residirá en su habilidad para identificar qué áreas de actividad pueden ser sustituidas por un programa y cuáles no pueden serlo. Las áreas de práctica más rentables dentro de unos años serán aquellas que sepan ajustar su modelo de negocio a la combinación del uso de herramientas de IA con aquellos otros servicios que las máquinas no puedan facilitar. Quien no sepa posicionarse bien puede verse superado por empresas que no se dediquen a la abogacía y que poco a poco van entrando en el mundo legal.
EL ABOGADO FRENTE AL ROBOT … O A SU LADO.
Si hasta ahora hemos visto como la inteligencia artificial va cogiendo parcelas de actividad, podremos plantearnos, aunque solo sea a nivel de hipótesis, nuestra futura relación con los robots. No ya sólo en el plano de ayuda para el ejercicio de tareas, sino en cuanto sujetos de derechos y obligaciones. Por el momento, estos no existen, lo que no debe llevarnos a pensar que no lo será en un futuro.
Irene Moreno Garrido y José M. Gonzalez Pellicer, en su artículo sobre –e-personalidad-y-derecho-de-los-robots/, plantean una serie de interesantes cuestiones. ¿Es posible atribuir responsabilidad a una máquina? ¿Puede tener una máquina derechos y deberes? ¿O, al igual que con las personas jurídicas, debe culpabilizarse a las personas físicas que están detrás de la máquina?
Ciertamente estamos en los albores de esta especialidad, sin embargo, ya podemos plantearnos algunas de las figura que se encuentran en liza:
- El propietario del robot. El que debe de velar por sus actuaciones para con los terceros. Podemos hablar de, como mínimo, una culpa in vigilando, por sus actuaciones. Sin embargo, coincidamos en que no es lo mismo la vigilancia de un animal a la de un robot. La complejidad del primero, que se irá acrecentando, excede los límites del conocimiento del más especialista de los usuarios.
- La empresa que lo comercializa. Difícilmente podemos encontrar un campo donde encuentre acomodo mejor la responsabilidad, incluso penal de las personas jurídicas.
- Los programadores. Incluso estableciendo fuertes controles, no resultará difícil a un informático introducir órdenes (virus), que permanezcan latentes durante mucho tiempo, desplegando sus efectos después de comercializado.
Y dejamos para el final al propio robot. La responsabilidad de las personas tradicionalmente se ha movido en los órdenes civil y penal. Y el castigo de la infracción o sus consecuencias económicas difícilmente parecen aplicables a un ente inanimado.
Tenemos que hacer una mención a la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)). Y no me resisto a copiar sus dos primeros considerandos: A. Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek —que fue quien acuñó el término—, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas; B. Considerando que, ahora que la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que probablemente afecte a todos los estratos de la sociedad—, resulta de vital importancia que el legislador pondere las consecuencias jurídicas y éticas, sin obstaculizar con ello la innovación.
Más adelante y en el campo jurídico, señala que “Considerando que, cuanto más autónomos sean los robots, más difícil será considerarlos simples instrumentos en manos de otros agentes (como el fabricante, el operador, el propietario, el usuario, etc.); que esta circunstancia, a su vez, suscita la cuestión de si la normativa general sobre responsabilidad es suficiente o si se requieren normas y principios específicos que aporten claridad sobre la responsabilidad jurídica de los distintos agentes y su responsabilidad por los actos y omisiones de los robots ..”
Concluimos este punto señalando que, como ha pasado otras tantas veces en los avances tecnológicos, se abren nuevas vías de actividad, en este caso para los abogados. Los sujetos intervinientes en el proceso que conduce a la creación y actividad del robot, y porque no, el propio robot, son los futuros clientes del abogado.
Y QUE PIENSA DE TODO ESTO LA INTELIGENCIA ARTIFICIAL.
En gran parte el protagonista de estas líneas ha sido la Inteligencia Artificial. Alimentada de billones de datos y con una capacidad de procesamiento brutal debemos escucharla.
Para ello hemos “dialogado” con CHAT GPT, para que se posicione en algunas de las cuestiones que hemos visto arriba. Veamos sus respuestas.
Suponemos que en una IA no cabe el error, por eso la primera pregunta es como de fiable es este Chat. Y nos responde: “Como modelo de lenguaje, soy capaz de procesar y generar texto coherente y relevante en respuesta a las preguntas que se me hagan. Sin embargo, es importante tener en cuenta que soy una inteligencia artificial y que mi capacidad para proporcionar respuestas precisas y confiables depende en gran medida de la calidad y precisión de la información que se me proporcione.”. Los datos como elemento determinante del algoritmo.
Con ese grado de fiabilidad que le presuponemos vamos a preguntarle sobre si la I.A sustituirá a los abogados en el futuro. Y esto nos dice. “Es difícil predecir el futuro con certeza, pero es poco probable que la inteligencia artificial (IA) sustituya completamente a los abogados en el futuro cercano. La IA puede ser útil para realizar tareas específicas, como la revisión de contratos o la búsqueda de jurisprudencia, pero el derecho es una disciplina muy compleja que requiere habilidades humanas como la empatía, la creatividad y el juicio ético. Además, los abogados no solo brindan asesoramiento legal, sino que también ofrecen servicios como la representación en juicios, la negociación de acuerdos y la gestión de conflictos. Estas son tareas que requieren habilidades interpersonales y de comunicación que aún no han sido completamente replicadas por la IA”.
Hemos presupuesto que la inteligencia artificial es fiable, da respuestas coherentes y de acuerdo con el ser humano. Pero, como en tantos aspectos no debe existir una fe ciega en los software. Y si no para aquellos que se encuentren interesados, accedan a la versión “diablo”, que circula por internet.
Corresponde a los abogados entrar en este mundo, como garantes de la legalidad, en un futuro que se presenta incierto pero apasionante.
