Carlos Amunátegui anuncia Inteligencia Sur, nueva consultora especializada en IA

Carlos Amunátegui Perelló, reconocido profesor titular del Programa de Derecho, Ciencia y Tecnología de la Pontificia Universidad Católica de Chile, anuncia su nuevo proyecto: Inteligencia Sur, en conjunto con Nathalie Walker, abogada por la Pontificia Universidad Católica de Chile y profesora de Derecho Civil. 

Se trata de una consultora experta, integrada por los académicos más importantes del área de la inteligencia artificial y el derecho de Chile, cuya misión es brindar orientación en las áreas emergentes de la tecnología y su expresión jurídica, especialmente en la ética algorítmica, como lo son: el empleo ético de agentes artificiales, guía ética en nuevas tecnologías, sesgo algorítmico y no discriminación, contratación mediante inteligencia artificial, responsabilidad civil e inteligencia artificial, ODR y arbitraje online, tratamiento de datos seguro, y propiedad intelectual e inteligencia artificial.

Entrevista con Carlos Carlos Amunátegui Perelló

Para conocer más sobre este nuevo proyecto, entrevistamos a Carlos Amunátegui Perelló, socio fundador.

Preguntas

¿Qué servicio en específico brinda Inteligencia Sur?

Inteligencia Sur_ es una consultora. Apoya a empresas y entidades públicas en la implementación responsable y segura de tecnologías de digitalización y automatización, en el diseño de normativas éticas en su funcionamiento y también da asesoría jurídica en materias de legaltech, fintech e inteligencia artificial.

¿Cuál es su propuesta de valor y cómo nació la idea?

La idea nace por la necesidad que detectamos en el mercado de contar con asesorías expertas dotadas del rigor y la pasión que caracteriza la vida académica. Somos académicos con un fuerte perfil histórico, preocupados por los fundamentos del fenómeno jurídico y su desarrollo en el espacio social. Desde la academia pensamos que tenemos una voz experta con que contribuir a la sociedad y, por ello, decidimos aportar desde nuestra capacidad de juristas al desarrollo de experiencias que pongan a la inteligencia artificial como centro de la generación de valor y bienestar social. 

¿Por qué hablamos de ética cuando hablamos de inteligencia artificial?

La ética es una parte imprescindible de la aplicación de las tecnologías de automatización que caracterizan a la IA. Los algoritmos pueden tener sesgos que traigan discriminaciones sociales inesperadas, pueden distorsionar las experiencias sociales, radicalizar los espacios sociales y tener muchas otras consecuencias nocivas. Un sistema entrenado en bases de datos poco cuidadas, poco representativas o mal construidas contendrá las discriminaciones y prejuicios del pasado. Podría traer de vuelta todos los prejuicios que creímos dejar atrás, solo que ahora vestidos de la objetividad e imparcialidad de las matemáticas. Servirse de principios éticos y de códigos deontológicos en la implementación de tales sistemas permite perfilar una responsabilidad social empresarial que es clave para el Chile que hoy emerge.

¿Cómo podría contratar a alguien a través de la inteligencia artificial?

Es simple, de hecho lo hacemos todo el tiempo. Cuando compramos un boleto de avión, cuando nos servimos de un portal para llenar el carro virtual del supermercado, de hecho, contratamos con agentes artificiales que actúan por cuenta y riesgo de las empresas que los implementan. Lo curioso es que la realidad económico social es omnipresente, mientras que jurídicamente esto no está regulado. Incluso, en más de alguna ocasión, alguna empresa se ha retractado de los acuerdos formados mediante sus agentes artificiales, como Latam en 2016 con el caso de los pasajes a Australia por 100 dólares.

¿Existe en Chile actualmente alguna plataforma de ODR?

Hay muchas plataformas que los utilizan (Amazon, eBay, AirBnb), aunque ninguna es estrictamente chilena. Esto deja a las empresas chilenas, sobre todo de retail, con un pésimo sistema de atención al cliente que contrasta con las excelentes experiencias que uno encuentra apenas se sirve de estas plataformas internacionales. Este es un campo en que las empresas nacionales deberían estar invirtiendo seriamente.

¿Cuáles creen ustedes que son los desafíos más grandes que enfrenta la región en relación a la protección de datos? ¿Cómo es que Inteligencia Sur aborda estos desafíos?

Las legislaciones en materia de protección de datos en Latinoamérica son, en general, débiles. La chilena, que fue pionera en 1999, se encuentra completamente desactualizada y corre cierta urgencia por su reforma. Lamentablemente, aquella que se encuentra en tramitación en el Congreso también está desactualizada y debería ser mejorada antes de aprobarse, ojalá conforme a la normativa europea.

¿Cómo podemos mejorar la protección a la propiedad intelectual a través de la IA?

De momento tenemos muchos problemas que plantearnos. En principio, los algoritmos no se encuentran debidamente protegidos. Teóricamente, están sujetos a derechos de autor, pero el código de programación solo da la arquitectura de una IA basada en redes neuronales. Lo más importante, su entrenamiento, no se encuentra protegido y esto es problemático. Otro tanto debemos decir acerca de las creaciones de agentes artificiales, ¿son protegibles? La música creada por una IA, ¿a quién pertenece?

Responsabilidad civil e IA: ¿A quién sancionamos? ¿Al que redactó el código, o al que lo entrenó?

Yo creo que buena parte de esto terminará resolviéndose a través de seguros obligatorios. Hace unas dos semanas se conoció el proyecto de reglamento europeo que clasifica las diversas IA en prohibidas, peligrosas y de bajo riesgo. Probablemente las más riesgosas, como los automóviles autoconducidos, terminen con sistemas de seguro obligatorio. Las demás tendrán regímenes de responsabilidad basados en su riesgo.

¿Qué camino debe seguir un abogado para especializarse en esta área? ¿Basta la formación que reciben en la Universidad?

Sobre todo: leer, leer mucho, frenéticamente. Nunca fue tan fácil aprender como ahora. Hay cursos en YouTube impartidos desde Stanford o Harvard, hay cursos online en excelentes universidades, pero lo insustituible es leer y apasionarse.

¿Qué le falta a la educación de los abogados hoy en día? ¿Qué crees tú que podríamos sacar y qué es necesario incluir?

Cultura general, profundidad y variedad. Ya quedó atrás el paradigma de los 1990s donde el especialista era el objetivo formativo. Ahora necesitamos abogados cultos, de cultura amplia, menos positivistas y más humanistas.

Siendo realistas, ¿cuál es el mayor riesgo a corto plazo que simboliza la IA? ¿Y a largo plazo?

A corto plazo, si los sistemas de IA son implementados sin principios éticos y sin atención y responsabilidad social, pueden convertirse en un serio problema de Derechos Humanos. Podrían re-etnificar la pobreza, hacer retroceder de un plumazo todos los avances sociales de los últimos treinta años. A largo plazo, depende de cuán largo sea el plazo. El mercado del trabajo sufrirá a cinco años profundamente. A 20 años, tal vez un treinta o cuarenta por ciento de la población no podrá trabajar en nada en absoluto. Esto supondrá un alza en la conflictividad social a nivel global y pondrá en riesgo la democracia como tal. ¿A cien años? Tal vez estemos en un zoológico y seres artificiales nos miren con el mismo interés con el que nosotros observamos a los chimpancés y gorilas.

Sobre los smart contracts: ¿existe algún riesgo asociado a ellos? 

De momento el mayor riesgo que tenemos es no poder implementarlos. Son mecanismos de ejecución contractual automatizados que permiten que los contratos se ejecuten automáticamente cuando un dispositivo, llamado oráculo, dice que ciertas condiciones se han cumplido. La magia de los smart contracts es que hacen bajar los costos de transacción y riesgos de incumplimiento a cero. Nosotros también asesoramos en estas materias.

Evento de lanzamiento Inteligencia Sur

Inteligencia Sur_ tendrá un evento de lanzamiento el próximo jueves 20 de mayo a las 18.00 horas (GMT-4). Juan Gustavo Corvalán, codirector del Laboratorio de Innovación e Inteligencia Artificial y Derecho de la Universidad de Buenos Aires, co-creador de Prometea, será el invitado especial. Laura Barrios González, Subdirectora Tirant Lo Blanch, moderará este evento especial.

Para inscripciones al evento de lanzamiento, así como para conocer más sobre este proyecto, haz click aquí.