Relevant Articles

Los primeros retos jurídicos en materia de IA-Diego Peñaloza

La tecnología avanza a pasos agigantados en todos los ámbitos de la vida y ello requiere también de una rápida y concordante evolución de las leyes. En lo corrido de 2021, se evidencia que los servicios de desarrollo de sistemas informáticos y procesamiento de datos han presentado un incremento del 25,8%. Con el uso de la tecnología en todos los sectores de la economía, las constantes amenazas de seguridad en el entorno digital, y el entendimiento de que con estas nuevas tecnologías se puede potenciar el crecimiento económico, resolver problemas sociales y hacer un mejor control de la corrupción, el Gobierno Nacional decidió publicar una guía que brinda unas directrices, con el fin de que se establezcan principios que cumplan con la norma y fortalezcan los procesos internos y externos de las entidades. Así mismo, publicó un marco ético en temas de IA (Inteligencia Artificial) y para continuar con este objetivo de ir encaminando al país al desarrollo de temas de IA lanzó, la página oficial de IA.

Colombia es pionera en la región en el desarrollo de un marco ético que plantea los principios con los que se debe empezar a abordar este tema, como son (i) la transparencia, entendida como el acceso a la información que se debe dar a los ciudadanos; (ii) La privacidad en el uso de información que no ha sido autorizada; (iii) La necesidad de que, si bien a futuro se cree que la IA tendrá una autonomía casi que absoluta para tomar decisiones, por ahora se requiere que sigan existiendo mecanismos de intervención de los seres humanos; (iv)La no discriminación, que se busca en estos sistemas inteligentes, pues estos deben ser neutros, incluyentes y deben propender por el desarrollo social.

En ese sentido, para materializar este marco ético se puso en funcionamiento la nueva página de IA, en la cual se evidenciará si se está cumpliendo con este, pero además se brindará información sobre cómo se está implementando y las herramientas necesarias para su uso responsable. Así como para brindar información sobre los desafíos que van surgiendo con estas nuevas tecnologías.

Ahora bien, todo lo anterior va dirigido al menos en principio, a plataformas digitales con riesgos de seguridad más específicos, pero actualmente son cada vez más las máquinas que utilizan IA y es importante establecer, no solo el marco ético de estas tecnologías, sino también sobre quien recae la responsabilidad de los daños que causen. En ese sentido, bajo el régimen de responsabilidad, si el producto es defectuoso debe responder el productor, siempre y cuando se logre comprobar que las fallas son consecuencia del diseño o fabricación. Sin embargo, está la teoría que la IA se debe regir bajo la responsabilidad por actividades peligrosas, pero al gozar de autonomía no le puede atribuir la responsabilidad al usuario.

Al respecto, aún no existen pronunciamientos jurisprudenciales en el país, no obstante, el tema ha sido desarrollado por el parlamento europeo en su “Informe con recomendaciones destinados a la Comisión Europea sobre un régimen de Responsabilidad Civil en materia de IA” en el que establece que será objetivamente responsable por actividad física o virtual el operador de sistemas o procesos de IA.

Por lo que, a menos que se logre comprobar que el daño se produjo por una fuerza mayor, el operador no podrá escudarse en la debida diligencia o la autonomía de los sistemas de IA. Sobre lo anterior, es importante mencionar cómo la Unión Europea ha impulsado desde 2018 el desarrollo en materia de IA. Primero con la Estrategia europea sobre la IA de 2018, que sirvió como fundamento para que un Grupo de Expertos en Inteligencia Artificial, formulara en 2019 directrices, y en 2020 una lista de IA fiable. Simultáneamente, en diciembre de 2018 se publicó el primer plan coordinado sobre la IA, como compromiso conjunto con los Estados miembros. El libro blanco de la Comisión sobre IA, publicado en 2020, expone una visión de IA en Europa que venia acompañado de un Informe sobre las implicaciones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica, donde mencionaban los vacíos legislativos en estos temas y planteó las bases, para que este año se publicará el primer marco jurídico sobre la IA que establece normas proporcionadas y flexibles que abordan los riesgos específicos que plantean los sistemas de IA.

1 Este marco jurídico desarrolló también, la normativa alrededor de temas como la identificación biométrica en tiempo real de personas en espacios públicos. Esta tecnología genera indudablemente la sensación de vigilancia constante y eventualmente podría considerarse como una restricción a los derechos fundamentales. Por lo que se estableció que era válida únicamente en la búsqueda de posibles víctimas de delitos, como niños desaparecidos, amenazas a la vida y seguridad, y la detección, localización, identificación o enjuiciamiento de los autores o sospechosos de delitos. 1

Pese a todos los esfuerzos en la regulación en materia de IA, sigue siendo un reto la regulación de la inteligencia artificial sobre todo de cara a los problemas éticos y legales que puedan derivarse de ellos como lo es el régimen de responsabilidad aplicable a dichos sistemas. Lo cierto es que actualmente frente a sistemas, desarrollos y en general, tecnologías de este tipo ya se encuentra regulado el tema de la protección de datos personales, de cara a la protección de los intangibles involucrados y otros aspectos que deben ser considerados a la hora de requerir consultas jurídicas por parte de las compañías titulares de aquellos desarrollos.

En Colombia es cuestión de tiempo para que estas guías requieran un marco legal definido, que establezca claramente sobre quien recae la responsabilidad de los daños que generan estas máquinas inteligentes. El país va por el camino correcto en su desarrollo, que seguramente será permeado con los avances que ha tenido el tema en Europa.

en_US