La profesora del Departamento de Informática fue la única chilena en el panel asesor de expertos, que fueron nominados por los gobiernos de los 30 países que participaron. El reporte se centra en los riesgos y la seguridad de la IA y cuenta con resumen ejecutivo en español, en formato digital y gratuito.
Todo comenzó en noviembre 2023 cuando Chile fue uno de los pocos países latinoamericanos invitados a participar del AI Safety Summit de Reino Unido. Posterior a este evento surgió por parte de 30 países y organizaciones no gubernamentales, lideradas por el Doctor Yoshua Bengio, premio Turing por su trabajo en aprendizaje profundo, la iniciativa de elaborar el reporte titulado AI Safety Report.
En este contexto la labor de Raquel Pezoa, profesora del Departamento de Informática de la Universidad Técnica Federico Santa María, fue asesorar la escritura del reporte a través de revisiones constantes, sugerencias bibliográficas, reuniones mensuales, correcciones y búsqueda de organizaciones e investigadores que también colaboraran en el informe. “La inteligencia artificial está teniendo un ritmo de crecimiento super acelerado entonces analizar los diferentes riesgos era super importante. Si bien yo representé a Chile en el panel asesor experto, por invitación del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, también su sumó en la revisión y preparación del estado del arte el profesor Álvaro Soto, profesor de la Pontificia Universidad Católica de Chile y director del Centro de Inteligencia Artificial CENIA”, comenta Raquel Pezoa.
Contenido del reporte
El texto resume la evidencia científica en tres preguntas fundamentales: ¿Qué puede hacer la IA de propósito general? ¿Cuáles son los riesgos asociados con la IA de propósito general? ¿Y qué técnicas de mitigación existen frente a estos riesgos? Además, identifica tres categorías de riesgos: uso malintencionado, que incluye ciberataques, la creación de material de abuso sexual infantil generado por IA e incluso el desarrollo de armas biológicas; fallas del sistema, que considera sesgos, problemas de confiabilidad y la posible pérdida de control sobre sistemas avanzados de IA; y riesgos sistémicos, que derivan de la adopción generalizada de IA e incluyen interrupciones en la fuerza laboral, preocupaciones sobre la privacidad e impactos ambientales.
“Es un reporte super relevante, el primero que se hace con participación internacional de investigadores de forma independiente, completamente crítico y científico. Desde el punto de vista de las técnicas de esta tecnología se hace un estado del arte super bueno, se definen los potenciales riesgos que pueden aparecer y otros que están presentes y también se indican algunas directrices para quienes están trabajando leyes al respecto y así siga siendo una tecnología beneficiosa para la sociedad”, agrega la profesora del Departamento de Informática y también investigadora del Centro Científico Tecnológico de Valparaíso CCTVal.
El reporte, que constituye el primer informe internacional sobre la seguridad de la IA, consta de 298 páginas, pero cuenta con un resumen ejecutivo en diversos idiomas, entre ellos el español, y está disponible de forma gratuita y digital (ver aquí).