Miembros OCDE adoptan principios para una Inteligencia Artificial más segura

Por en Inteligencia Artificial

41 países han suscrito a los principios OCDE de Inteligencia Artificial que entrega directrices políticas para un desarrollo seguro y fiable de la tecnología.

Los 36 miembros de la Organización para la Cooperación y Desarrollo Económico (OCDE) junto a Brasil, Colombia, Costa Rica, Perú y Rumanía han firmado el nuevo conjunto de principios de la OCDE sobre la Inteligencia Artificial (IA).

El acuerdo consiste en cinco puntos que velan por el despliegue de una IA robusta, segura, imparcial y fiable. Además, entrega cinco recomendaciones de política pública y cooperación internacional para que el desarrollo de la tecnología beneficie económica y socialmente a los ciudadanos.

Según el comunicado de la OCDE, el esfuerzo para crear un marco internacional proviene del “potencial (de la IA) para mejorar bienestar de las personas, contribuir positivamente una actividad económica global sustentable, aumentar la innovación y productividad y ayudar a responder a los principales desafíos globales”. Pero que, al mismo tiempo, “necesita un ambiente político estable que promueva un acercamiento a una IA fiable centrado en las personas”.

De esta manera, los cinco principios consisten en:

1. La IA debe estar al servicio de las personas y del planeta, impulsando un crecimiento inclusivo, el desarrollo sostenible y el bienestar.

2. Los sistemas de IA deben diseñarse de manera que respeten el Estado de derecho, los derechos humanos, los valores democráticos y la diversidad, e incorporar salvaguardias adecuadas —por ejemplo, permitiendo la intervención humana cuando sea necesario— con miras a garantizar una sociedad justa y equitativa.

3. Los sistemas de IA deben estar presididos por la transparencia y una divulgación responsable a fin de garantizar que las personas sepan cuándo están interactuando con ellos y puedan oponerse a los resultados de esa interacción.

4. Los sistemas de IA han de funcionar con robustez, de manera fiable y segura durante toda su vida útil, y los potenciales riesgos deberán evaluarse y gestionarse en todo momento.

5. Las organizaciones y las personas que desarrollen, desplieguen o gestionen sistemas de IA deberán responder de su correcto funcionamiento en consonancia con los principios precedentes.

El documento, que fue elaborado por más de 50 expertos provenientes de diversas áreas de conocimiento, como gobiernos, instituciones académicas y empresas privadas, será revisado una vez más durante la próxima Cumbre de Líderes del G-20, y se desarrollará una guía práctica para su implementación.

 

Política nacional y cooperación internacional para la IA

La OCDE también entregó una serie de recomendaciones a los países firmantes para que la integración de estos principios resuene en sus políticas públicas.

“Compete a los gobiernos asegurarse de que el diseño de los sistemas de IA respete nuestros valores y leyes, de forma que las personas puedan confiar en que su seguridad y privacidad serán objeto de una consideración prioritaria”, expresó en el comunicado el Secretario General de la OCDE, Angel Gurría.

En primer lugar, los países deben invertir en la investigación y desarrollo de la IA a largo plazo. Pero no basta promover la inversión privada y pública para la solución de problemas técnicos, sino que también debe repercutirse en estudios sobre el impacto social, requerimientos legales e implicaciones éticas que traería la IA.

Para ello, sería necesario crear un ecosistema digital para la IA, que permita la creación y distribución del conocimiento, que tendría que estar acompañado con reformas políticas y regulatorias que habiliten este nuevo ambiente.

Al mismo tiempo, los países también deben velar por un capital humano preparado para los trabajos del futuro. Por un lado, preparando a sus ciudadanos con nuevas habilidades, y, por el otro, resguardando a aquellos desplazados, a través de la recapacitación o el emprendimiento.

Finalmente, la OCDE recomendó crear una comunidad global de cooperación para llevar adelante la implementación de los nuevos principios de IA, donde se compartan conocimientos y experiencias.

Comentarios