En uno de los conversatorios realizados en el EIEI ACOFI 2024 se abordó esta temática, en el cual participaron David Pérez profesor asociado del departamento de Inteligencia Artificial (AI), de la facultad de Informática de la Universidad Politécnica de Madrid, doctor en ciencias de la computación y miembro del grupo de informática médica de la misma universidad, Agustín Yagüe profesor titular del departamento de sistemas e informática y doctorado en informática de la misma universidad y Felipe Figueroa, abogado, magister en biociencias y derecho, especialista en propiedad industrial, derechos de autor y nuevas tecnologías, bajo la moderación de Juan Alberto Ramírez Macías, director de las facultades de Ingeniería Mecánica, Aeronáutica e Industrial en la Universidad Pontificia Bolivariana.
Una de las discusiones que ocupa a la academia de ingeniería es sin duda el de la Inteligencia Artificial debido a los retos que supone para los docentes e investigadores, especialmente ahora que se ha democratizado y ha permeado a toda la sociedad.
En la introducción del tema el ingeniero Juan Alberto Ramírez hizo énfasis en la popularización de la IA destacando que para quienes están en el sector educativo ya es visible cómo los estudiantes empiezan a usarla como su herramienta del día a día, muchas veces con buenos resultados y otras con algunos que no los dejan muy tranquilos. Para él los retos que enfrentan los docentes son enormes: “hay actores del mundo académico que podrán tener un mejor criterio al hacer uso de estas herramientas, pero otros quizá no”, anotó. La pregunta que hay que hacerse entonces, según el ingeniero Ramírez, es cómo adaptarse a estos cambios y cómo reaccionar.
Desafíos de la IA en el derecho y en su aplicación
El profesor Pérez compartió su experiencia dentro de la Universidad Politécnica de Madrid, “hace dos años venimos trabajando en el tema de IA, de hecho, tenemos un Máster en el que al inicio no teníamos muchos estudiantes y hoy alrededor de 600 personas se postulan para lograr un cupo en las 50 plazas que tenemos disponibles”.
Su opinión es que los métodos, las asignaturas y los profesores que están impartiendo las clases no son tan distintos. En el sector salud, que es donde él trabaja, considera que, desde los modelos predictivos, el procesamiento de imágenes y procesamiento de lenguaje natural si se está teniendo un gran impacto, de hecho, existe una red con la trabajan que tiene180 hospitales en todo el mundo y que permite extraer esos datos de las notas que hacen los médicos en texto libre para asegurarse de la calidad de estos.
Para el abogado Felipe Figueroa está es una situación bastante paradójica porque el desarrollo legal nunca irá a la misma velocidad del desarrollo tecnológico. Uno de los puntos es que la Inteligencia Artificial va a generar una sinergia de trabajo con otras profesiones y con las ciencias humanas porque el principal problema que ve está enfocado hacía ese nuevo círculo de valor.
La IA se desarrolla a partir de modelos integrales donde participan ingenieros y diferentes profesiones que enriquecen esos productos tecnológicos. Ahora bien, según el abogado Figueroa, “desde el punto de vista legal el problema se agranda porque la regulación no va a venir solamente desde el mundo jurídico, también a nosotros como abogados nos toca tener una sinergia con todos los campos de la ciencia porque vamos a intentar regular algo sobre la definición de unos derechos de propiedad que hasta el momento no son claros”.
Al ejemplificar esta situación, el abogado Figueroa se pregunta: “¿Si yo desarrollo un cuento a partir de una herramienta de IA, ¿el cuento es mío?, ¿tengo derechos de autor sobre ese cuento? Y si desarrollo no un cuento sino un invento con aplicación industrial a partir de IA, ¿ese invento de quién es? ¿Tengo yo la exclusividad sobre ese invento? Estos, según su criterio, son los retos que el mundo está afrontando y en la búsqueda de la solución es necesaria una visión integral e interdisciplinaria.
Para él un problema de mayor preocupación en los próximos años es el tema de la propiedad de los datos. Los datos son la base de IA: ¿cómo se va a manejar el procesamiento de sistematización de datos, el análisis de los datos, la propiedad de esos datos? ¿van a ser objeto de derechos, de exclusividad? Estos, según su criterio, son los desafíos a los que el mundo se está enfrentando y en la búsqueda de la solución es necesaria una visión integral e interdisciplinaria.
Por su parte, el profesor Yagüe consideró que este es un tema en el que no se puede perder de vista que la IA está en muchos ámbitos y depende de muchas cosas. “Por un lado, están aquellos ingenieros informáticos que fundamentalmente trabajamos en la generación y creación de esas bases fundamentales de la IA y ponemos todo para que posteriormente el resto de las ingenierías y el resto de las disciplinas puedan utilizarlos. Es decir, no podemos perder de vista que la IA no solo es generativa, sino que la IA está detrás de algoritmos, detrás de tomas de decisiones, no todo es chat GPT, tenemos más elementos y herramientas que están detrás de la IA” aseguró.
Dada su experiencia en el desarrollo de software la IA es una herramienta que va a facilitar mucho, pero es necesario enseñar a los estudiantes como utilizarla, en qué casos es útil y en qué otros no. Por ello destacó la importancia de formar a las personas que van a utilizar la Inteligencia Artificial, si se utiliza bien será óptima si no, llevará al desastre.
Se necesitan datos, algoritmos, maquinaria, recursos, pero sobretodo, es necesario educar a las personas que van a utilizar la IA que permita al final que toda la cadena trabaje de forma sincronizada para obtener la aportación de valor.
Beneficios y temores de la IA
El abogado Figueroa se refirió a la importancia que los beneficios que genera la IA no se queden en un pequeño grupo, por lo que resaltó la frase de Mariana Mazzucato, economista italiana que dijo: “es necesario que para que exista innovación tengamos una inteligencia colectiva, que ese valor que va a generar y que está generando la IA no se quede solamente en un grupo reducido, sino que haya equilibrio”. Afirmó que hablar del bien común para todos es la clave, pero llegar ahí es el reto.
Para el profesor Pérez, los beneficios para el sector de la salud son visibles. “Hoy en día se utilizan datos clínicos para hacer investigación clínica por parte de las farmacéuticas. Compartir datos de pacientes para hacer investigación así a simple vista da miedo, la realidad es que la gran mayoría de lo que utilizamos en medicina está basado en la evidencia, ensayos clínicos, ya existe esa comunicación entre los sponsors y los hospitales para los datos, en el caso de Europa lo tenemos muy claro, la norma que lo rige es el Reglamento General de Protección de Datos de la Unión Europea (GDPR), que de hecho se ha demostrado que permite la explotación de esos datos con fines médicos, inclusive sin el consentimiento informado, este es un tema al que no me quiero referir de fondo”, aseguró.
La investigación clínica que se hacía en un hospital arrojaba datos alrededor de doscientos pacientes, hoy gracias a la IA existen redes en los hospitales en donde se pueden obtener datos de veinte mil pacientes, por ello el impacto es claro, lo que ha permitido escalar unos procesos para llevarlos a otro nivel.
El profesor Yagüe opinó que es necesario que la población tenga conocimiento suficiente sobre la IA, estar alineado para saber para qué sirve y cómo utilizarla e interactuar con ella. Puso como ejemplo casos de modelos concretos como automoción, aeronáutica o aviación donde es necesario trabajar con expertos que aporten la información suficiente para usarla como base de entrenamiento y genere el lenguaje específico para que la IA pueda tomar las mejores decisiones. “Yo tengo la herramienta y tú tienes el conocimiento y los juntamos para que la solución sea específica”, comentó.
Los desafíos para los docentes en ingeniería
Uno de los temas que más genera discusión es cómo abordar el tema de la Inteligencia Artificial en los procesos educativos. El profesor Pérez aseguró que se deben adaptar los métodos de evaluación en el aula con los alumnos que utilizan esas herramientas.
El profesor Yagüe comentó que en su día a día en la Universidad cuando asigna una práctica para que la realicen los estudiantes el 90 % de esa práctica no la realiza el estudiante, son textos generados por una IA generativa, entonces el tema de fondo es como asumirlo. Aquí, lo que sugiere es preguntarse qué cambiar en la forma de enseñar y en la forma de evaluar, cada vez más las clases magistrales desaparecen del contexto educativo.
“Hoy el estudiante no encuentra valor en una clase donde hay una persona que se sube al escenario y empieza a hablar porque esa clase la tiene en un video expresada por un mejor comunicador y lo que tenemos que proponer es un aprendizaje más activo, plantear nuestras clases en forma de retos, quiero resolver este problema, vamos a ver entre todos, a buscar información, obligarles a leer, a ver videos para que sean ellos los que estén generando la solución en tiempo real hacia el profesor de tal manera que hagamos que luego posteriormente el estudiante en su clase o en su casa tenga que asentar esos conocimientos, pero no me sirve de nada una evaluación, un reporte como decía David en 10 páginas donde sé que esas 10 páginas son generadas y lo peor que sé que el estudiante no se las ha leído y no sabe si lo que está poniendo es lo correcto, estaríamos en una sociedad perversa” aseguró.
Sugirió buscar dinámicas que permitan humanizar más las clases, que profesor y estudiante trabajen de manera colaborativa en donde los conceptos queden explicados, aplicados y asumidos, entonces ahí desaparece la evaluación porque el estudiante ha aprehendido el concepto.
Adicionalmente comentó: “La IA generativa va a ser una herramienta que nos ayuda a acelerar el proceso de desarrollo, nos ayuda a acelerar el proceso de generación de soluciones, pero si yo no tengo el conocimiento científico puedo estar generando soluciones incorrectas, esa al menos es mi percepción, hay que ver como balancear el tema, incorporar alguna habilidad blanda o como mencionaba antes, tengo que descargar en esas asignaturas, en esos cursos que estoy impartiendo el que desarrollen esas habilidades blandas, la capacidad de comunicación, la capacidad de razonamiento crítico, la capacidad de escritura, no podemos perder la capacidad de formar técnicamente a los ingenieros porque si no, no tendríamos ingenieros”.
El video completo del conversatorio se encuentra disponible en el siguiente enlace: https://www.youtube.com/watch?v=M8WqmfZD4uI.