Se trata de uno de los principales debates hasta el próximo 7 de julio de la Conferencia Mundial de Inteligencia Artificial 2024 y la Conferencia de Alto Nivel sobre la Gobernanza Global de la Inteligencia Artificial.
Durante la cita, el Premio Turing y académico de la Academia China de Ciencias, Yao Qizhi, expuso los riesgos que los modelos avanzados de IA suponen para la información, la física y la biología, además de los relacionados con la sobrevivencia.
Subrayó la importancia de garantizar la seguridad de los sistemas de IA y la protección de los intereses humanos mediante una clasificación de la gobernanza basada en técnicas y enfoques.
Al hablar de la seguridad de los datos en la era de los grandes modelos, Yao señaló que estos tienden a retener datos privados y que la investigación en este sentido aún se encuentra en una etapa inicial.
«Una gran parte de la preocupación de todos sobre la gobernanza de la seguridad de la IA es el problema de los grandes modelos que trae ChatGPT, la seguridad de la información es arriesgada y la información errónea generada por las alucinaciones de los grandes modelos puede inducir a error en los humanos», subrayó.
El experto defendió la idea de alinear la IA con los intereses humanos (Beneficial AGI), lo cual debe diseñarse con reglas matemáticas, de modo que todas las decisiones de los robots estén orientadas a las personas.
El académico aprovechó la oportunidad para referirse a las ventajas de China en la gobernanza de la seguridad de la IA.
«Tenemos un sistema completo de autenticación de nombre real, lo que reduce el problema de los sistemas distribuidos de redes informáticas», comentó.
Agregó que el gigante asiático tiene mucha experiencia exitosa en la gestión de riesgos de nuevas tecnologías y muestra un buen trabajo en la transformación digital.
«Desde una perspectiva académica, la gobernanza de la seguridad se está convirtiendo en un nuevo campo de intersección académica, que involucra la IA, la criptografía, la política, el derecho, la empresa, la economía, etc., y múltiples campos requieren cooperación», enfatizó.
La cita de cuatro días atrae a más de 500 expositores confirmados, incluidos gigantes mundiales como Tesla, Microsoft y Schneider Electric.
jha/idm
