Los Ministros en la Organización para la Cooperación y el Desarrollo Económicos (OCDE) concluyeron su reunión del consejo del 5 de mayo de 2024 con un firme compromiso de actualizar las directrices de política, conocidas popularmente como los «Principios de IA». La decisión fue motivada por el aumento en tecnologías de inteligencia artificial generativa, como las ejemplificadas por «ChatGPT», y la necesidad de abordar la difusión de información falsa y engañosa a través de estas plataformas.
Cada vez es más imperativo desarrollar y desplegar sistemas de IA para impulsar la productividad, acelerar la investigación científica, promover la sostenibilidad medioambiental y mejorar la asistencia sanitaria y la educación, respetando al mismo tiempo los derechos humanos y los valores democráticos. Pero los riesgos para la privacidad, la seguridad, la equidad y el bienestar se están desarrollando a una velocidad y escala sin precedentes, convirtiéndose en daños en el mundo real como la perpetuación de los prejuicios y la discriminación, la creación y difusión de información errónea y la distorsión del discurso público y los mercados.
Los Principios de IA revisados, que inicialmente fueron lanzados por la OCDE en 2019 y son seguidos por 38 países miembros, así como Ucrania, Singapur y la Unión Europea, se centran en estrategias para mitigar la coerción económica a través de restricciones comerciales.
Los Principios de IA de la OCDE son directrices establecidas inicialmente por la OCDE en 2019 para promover la gestión responsable de una IA confiable. Recomiendan que los sistemas de IA estén diseñados de una manera que respete el estado de derecho, los derechos humanos, los valores democráticos y la diversidad, e incluyen una serie de principios de política para fomentar una IA innovadora y confiable que respete los derechos humanos y los valores democráticos.
Los Principios de IA se revisaron para abordar los nuevos desafíos planteados por el rápido desarrollo de tecnologías de IA generativa, que han aumentado el riesgo de difundir información falsa y engañosa. La actualización está destinada a contrarrestar amenazas económicas y la proliferación de inexactitudes que podrían dar lugar a perturbaciones sociales.
Los cambios destacan un esfuerzo internacional para combatir amenazas económicas y la propagación de inexactitudes, reflejando las crecientes perturbaciones sociales vinculadas a la naturaleza omnipresente de la información defectuosa propagada en línea.
El desarrollo de la inteligencia artificial generativa ha aumentado notablemente el riesgo de agitación social debido a la amplificación descontrolada de contenido inexacto en los últimos años. Tras la conclusión de la reunión, la Ministra de Relaciones Exteriores de Japón, Yoko Kamikawa discutió la iniciativa de Japón, el «Proceso de IA de Hiroshima»,
Proceso de IA de Hiroshima»
Propuesto por Japón durante la reunión de la OCDE, el Proceso de IA de Hiroshima es una iniciativa que tiene como objetivo establecer un marco global para el uso seguro y confiable de la IA. Busca fomentar el diálogo y la cooperación internacionales en la creación de un entorno que apoye la aplicación confiable de tecnologías de IA.
Desafíos o Controversias Clave:
El equilibrio entre la innovación y la regulación: Uno de los principales desafíos es encontrar un equilibrio entre fomentar la innovación en IA y la implementación de regulaciones que prevengan el uso indebido de la IA, sin sofocar el avance tecnológico.
- Cooperación internacional: Las tecnologías de IA no reconocen fronteras, por lo que la coordinación y acuerdo globales sobre principios es esencial. Lograr consenso entre diversos interesados, cada uno con sus propios intereses y entornos regulatorios, es un desafío.
- Cumplimiento: Existe la pregunta de cómo se aplicarán los principios y si las directrices de la OCDE tendrán suficiente peso para influir en las acciones de sus miembros y no miembros.
Elementos clave de las revisiones de la OCDE
Entre los elementos clave de las revisiones de la OCDE, que garantizan que los Principios sigan siendo pertinentes, sólidos y adecuados a su finalidad, se incluyen:
- Abordar los problemas de seguridad, de modo que si los sistemas de IA corren el riesgo de causar daños indebidos o muestran un comportamiento no deseado, existan mecanismos y salvaguardias sólidos para anularlos, repararlos y/o desmantelarlos de forma segura.
- Reflejar la creciente importancia de abordar la desinformación y la desinformación, y salvaguardar la integridad de la información en el contexto de la IA generativa.
- Hacer hincapié en una conducta empresarial responsable a lo largo del ciclo de vida de los sistemas de IA, que implique la cooperación con los proveedores de conocimientos y recursos de IA, los usuarios de los sistemas de IA y otras partes interesadas.
- Aclarar la información relativa a los sistemas de IA que constituye transparencia y divulgación responsable.
- Hacer referencia explícita a la sostenibilidad medioambiental, una preocupación cuya importancia ha aumentado considerablemente en los últimos cinco años.
- Subrayar la necesidad de que las jurisdicciones trabajen juntas para promover una gobernanza interoperable y entornos políticos para la IA, a medida que aumenta el número de iniciativas políticas de IA en todo el mundo.
La Recomendación del Consejo de la OCDE sobre Inteligencia Artificial, que incluye los Principios de la IA de la OCDE, contiene definiciones que sustentan y fomentan la interoperabilidad internacional; las definiciones de la Recomendación sobre un sistema de IA y su ciclo de vida se utilizan en todo el mundo, incluso en la Unión Europea, Japón y Estados Unidos. Las definiciones también informan el trabajo de las Naciones Unidas y del Consejo de Comercio y Tecnología UE–EE UU.
