Máquinas que ríen, bromean y hasta coquetean con voces cada vez más similares a las humanas. Detectan las emociones de los usuarios con solo escucharlos. Crean en segundos imágenes, audios y videos. Pueden conducir autos y controlar dispositivos electrónicos a partir del movimiento de los ojos de las personas, sin necesidad de contacto u órdenes verbales. Estos avances recientes de la inteligencia artificial, que años atrás solo hacían parte de la ficción, se dan a pasos agigantados en medio de debates y retrasos en la regulación en todo el mundo para su uso. ¿Cómo está Colombia en este aspecto?

Las Apple Vision Pro son gafas de realidad aumentada, que superponen imágenes virtuales sobre el mundo real que se ve a través de los lentes. Foto tomada de apple.co

La inteligencia artificial (IA) es considerada una tecnología revolucionaria e innovadora para la humanidad. Tan importante y transformadora como Internet o la energía eléctrica. Por su capacidad para moldear el presente y definir el futuro del mundo, organizaciones y científicos advierte sobre la forma como se usa y evoluciona.

La IA es la habilidad que se le otorga a una máquina o sistema para tener capacidades similares a las de los humanos y, en algunos casos, superarlas, como el razonamiento, el aprendizaje, la creatividad y la planificación. Permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos. Los sistemas de inteligencia artificial son capaces de adaptar su comportamiento, en cierta medida, analizar los efectos de acciones previas y trabajar de manera autónoma. Por lo anterior, la IA tiene un papel central en la transformación digital de la sociedad, describe la Unión Europea (UE).

¿La liebre y la tortuga?

Aunque algunas tecnologías que usan inteligencia artificial datan desde hace más de 50 años, los avances en la capacidad de la informática, la disponibilidad de grandes cantidades de datos y los nuevos algoritmos han desencadenado adelantos importantes que han causado grandes cambios y revuelo.

La IA puede estar presente en un software a través de asistentes virtuales; sistemas de análisis de imágenes, audio, texto y video; motores de búsqueda; sistemas de reconocimiento de voz y rostro, entre otros que incluso pueden estar integrados en robots, drones, vehículos autónomos e internet de las cosas.

En la vida cotidiana, se usa para ofrecer publicidad en las compras por internet; búsquedas en la web; asistentes personales digitales; traducciones automáticas; interacción con casas, ciudades, infraestructuras inteligentes y vehículos autónomos; ciberseguridad; combatir enfermedades; luchar contra la desinformación; optimizar la agricultura y la manufactura y la administración pública y de servicios, por mencionar algunos.

Entre los más recientes y notorios desarrollos en IA se cuentan los vehículos autónomos, la implantación de un chip en el cerebro, a través de un robot, para otorgar a las personas la capacidad de controlar una computadora usando solo sus pensamientos y, la más nueva versión de ChatGPT 4.0, que lee las emociones de los usuarios, más inteligente y humana para interactuar, fácil de usar y ágil, de acuerdo con la compañía OpenAI.

Ante estos numerosos cambios, la regulación de la IA ha causado un sinnúmero de debates en el ámbito internacional debido a los dilemas y otros componentes éticos de su uso, a causa de fenómenos como las deepfakes, que se traduce al español como falsificación profunda. Consiste en la generación de archivos de vídeo, imagen, voz y texto, manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales. La mayor cantidad de contenido que se genera es pornografía deepfake.

Las normativas sobre este tema son recientes, como la Ley de IA de la UE, la primera en el mundo, reglamentada en el 2023.

“Este es uno de los tantos campos donde la tecnología llega primero que la regulación y se desarrolla mucho más rápido y más lejos que lo que se alcanza a definir en la norma. El tema con la inteligencia artificial es que pasan cosas de un mes a otro, de un trimestre a otro, de un semestre a otro, de un año a otro, etcétera”, explica el profesor John Robert Ballesteros Parra, de la Facultad de Minas de la Universidad Nacional de Colombia Sede Medellín.

Si bien entre la población colombiana hay un consumo de productos y servicios que usan IA, para Ballesteros, académico en inteligencia artificial, geoespacial y observación terrestre, la creación y adopción de la IA en el país todavía es naciente.

“Hay una proporción entre una relación directa entre el tamaño de las compañías y la adopción de la inteligencia artificial; es decir, las más grandes, con más presupuesto, son las que se introducen primero en intentar usar la IA sobre todo para hacer más eficientes los procesos, como operaciones manuales muy repetitivas o incluso riesgosas, que hoy en día pueden perfectamente ser hechas por una máquina”, agrega John Ballesteros, doctor en Ingeniería.

Desafortunadamente, Colombia no es pionero en el desarrollo de tecnologías en IA, sin embargo, “no somos unos individuos retrasados en este tema. El progreso tecnológico en el campo de software y las tecnologías de la cuarta revolución industrial han calado muy bien en nuestro país”, expone Juan Carlos Muñoz Cuartas, coordinador del Grupo de Física y Astrofísica Computacional de la Universidad de Antioquia.

“Hay muchos profesionales bien calificados en diferentes áreas como las ciencias físicas, matemáticas, estadística y demás, que se han movilizado en esta dirección y, en ese sentido, se tiene un buen acervo de conocimiento desde las herramientas existentes como el desarrollo de nuevas. Hay unas simetrías interesantes entre universidades, no sé si lo suficientemente fuertes para ser una potencia regional, pero sí tenemos al menos una comunidad bien formada, con capacidad para utilizar de manera interesante aplicaciones, métodos y procedimientos asociados al boom tecnológico de la IA”, manifiesta el profesor Muñoz.

Pese a lo anterior, la inteligencia artificial en Colombia no se ha desarrollado más o no se puede desarrollar más, debido a que la matemática que se estudia es limitada, comenta John Ballesteros profesor de la UNAL Medellín.

“Hay que estudiar más matemática, más física, faltan métodos, faltan más desarrollos. La que estamos usando es basada en números, para hacer desarrollos más profundos habría que moverse hacia una matemática basada en vectores, hablar de una red neuronal y no de números sueltos. Nos falta ir a la base de la matemática dura y la física”, destaca Ballesteros.

Actualmente, está en construcción la Política Pública de Inteligencia Artificial en Colombia, a través del Consejo Nacional de Política Económica y Social sobre Inteligencia Artificial (CONPES IA) en el país que trazará una ruta para la toma de decisiones en materia de IA y su uso y la resolución de problemas en asuntos estratégicos de tipo social, económico y ambiental en el país; a través del impulso de oportunidades de aprovechamiento y democratización de la inteligencia artificial, teniendo como referentes los principios éticos y la protección de los derechos humanos”. Esta política estará lista a finales de agosto de 2024, de acuerdo con el Departamento de Planeación Nacional DNP, líder de la iniciativa.

“Es una ola en la que, si no nos montamos ya, no nos montamos después, en ese sentido estamos un poco colgados, la reglamentación es tarde comparada con las necesidades del mercado. El documento debe apuntarle a dos cosas que en ocasiones van en direcciones opuestas: buscar los mejores canales para apoyar el desarrollo y fortalecer estas áreas a nivel de país y que las políticas permitan la formación de nuevas empresas que reglamenten de manera adecuada las empresas que entran en ese mercado para que de manera dinámica tenga en cuenta los cambios constantes y perdure en el tiempo. También debe considerarse la reglamentación, reglas claras para evitar el uso y el abuso; a nivel nacional se tiene que jugar en esa dirección con reglas claras, aunque el problema es cómo se hacen, porque a veces las reglas se convierten en una camisa de fuerza, podemos ‘hacer trampa’ y mirar cómo lo han hecho otros países”, agrega el físico Juan Carlos Muñoz.

Riesgos y alucinaciones 

Algunas características de las herramientas basadas en inteligencia artificial tienen el potencial tanto de ayudar a resolver problemas complejos con una alta simplicidad y rapidez, como de desencadenarlos debido a un mal uso.

“No sé si estemos listos para usarla, con cualquier herramienta se pueden hacer cosas buenas y malas, ese es precisamente el foco de preocupación porque el conjunto posible de escenarios es muy amplio y todavía no alcanzamos a imaginarlos todos. Preocupan mucho los asuntos asociados con la seguridad de las personas, la manera como vamos a garantizar que no se clone, por decirlo así, una voz o una imagen, aunque la misma herramienta también puede desarrollar avances en identificación de fraude y procedimiento de información. La IA presenta el reto y, en ocasiones, la solución”, complementa Juan Carlos Muñoz Cuartas, físico y doctor en Astrofísica.

A esto se suma que la IA alucina, igual que los humanos. Actualmente estas alucinaciones ocurren en wl marco de la inteligencia artificial generativa, (IAGen) que se encuentra en tecnologías como ChatGPT.

“Las respuestas son generadas de un espacio similar con el que fue entrenada la inteligencia artificial. Al ser un espacio estadístico, las respuestas no son exactas y se pueden generar algunas que se alejan un poco estadísticamente, por lo que son erróneas. A ese comportamiento se le llama alucinaciones, la inteligencia artificial empieza a alucinar, a decir cosas similares, pero alejadas de la distribución estadística de los datos con los cuales fue entrenada y esa es una de las grandes fallas y deficiencias de la IAGen en la que los expertos, los científicos y las grandes compañías de tecnología trabajan en resolver”, expone John Ballesteros, doctor en Ingeniería.

Entre los casos registrados de estas alucinaciones están el ofrecimiento de paquetes inexistentes por parte de chatbots de turismo y aviación a usuarios cuando interactuaban con la IA en busca de soluciones a cambios de itinerarios y reservas de viajes, situaciones presentadas a principios de 2024 que llegaron hasta los estrados judiciales.

Pero además de “inventar un poco la realidad, en ocasiones”, las máquinas, la interacción con ellas y su mal uso acarrean como consecuencia riesgos que socavan la dignidad y los derechos humanos, de acuerdo con la ONU.

En un discurso pronunciado en la Cumbre sobre Inteligencia Artificial Generativa y Derechos Humanos (DDHH), en septiembre de 2023, el alto comisionado de de los DDHH de esta entidad, Volker Türk, afirmó que el surgimiento de la IA es una paradoja del progreso y argumentó que se deben evaluar los múltiples campos en los que esta puede tener efectos transformadores en sentido negativo, como en el combate a la discriminación, la participación política, las libertades civiles o el acceso a servicios públicos. “Los derechos humanos deben integrarse a todo el ciclo de vida de las tecnologías de IA, lo que requiere un esfuerzo concertado de gobiernos y corporaciones para establecer marcos eficaces de gestión de riesgos y barreras operativas”.

Pese a que la legislación en este tema está en proceso, el país cuenta desde el 2020 con el documento para discusión Marco Ético para la Inteligencia Artificial en Colombia, creado como insumo para la conversación nacional, “urgente y necesaria”, sobre el marco ético del desarrollo de la inteligencia artificial, que se da bajo el contexto de la adopción por parte del Gobierno de Colombia de la Política Nacional para la Transformación Digital e Inteligencia Artificial, 2019, contenida en el documento CONPES 3975.

Aunque este documento busca nutrir el diálogo nacional sobre el desarrollo de la inteligencia artificial, no representa las opiniones oficiales ni del Gobierno colombiano, ni del Banco de Desarrollo de América Latina, uno de los órganos rectores en la región sobre este tema.

Entre tanto, el 8 de abril de 2024, se realizó la sesión de la Comisión Primera del Senado de la República, donde congresistas debatieron en una “mesa técnica” sobre la implementación de la inteligencia artificial en Colombia y si es viable una regulación o no. Durante el encuentro, expertos explicaron a los congresistas la importancia de poner sobre la mesa cómo se podría implementar esta tecnología en Colombia.

(FIN/JRDP)

20 de mayo de 2024