Israel, comprometido con «la innovación responsable y los valores de los derechos humanos», firma un tratado mundial para abordar los riesgos de la inteligencia artificial

Israel fue uno de los cofirmantes del primer tratado mundial que aborda los riesgos de la inteligencia artificial. El tratado, encabezado por el Consejo de Europa, fue firmado el jueves por 57 naciones, entre ellas Estados Unidos.

«La firma por Israel de la primera convención mundial sobre inteligencia artificial hace hincapié sobre nuestro compromiso con la innovación responsable y los valores de los derechos humanos», dijo la ministra israelí de Innovación, Ciencia y Tecnología, Gila Gamliel. «Esta convención sitúa a Israel como socio de pleno derecho en la creación de la política internacional en este campo en los próximos años y nos situará a la vanguardia de los países avanzados del mundo».

El tratado pretende establecer directrices y principios mundiales en torno al uso de la IA, garantizando que su aplicación se ajuste a los derechos humanos, la democracia y el Estado de Derecho. Una vez ratificado, los signatarios estarán obligados a garantizar que los sistemas de IA no se utilizan para «socavar la integridad, independencia y eficacia de las instituciones y procesos democráticos, incluido el principio de separación de poderes, el respeto a la independencia judicial y el acceso a la justicia».

El experto israelí en IA, el profesor Amnon Shashua, cofundador de la startup israelí AI21 Labs, habló en una conferencia en Tel Aviv la semana pasada, haciendo hincapié sobre que aunque la IA está avanzando rápidamente, todavía no equivale a una «revolución.»

«Es una ola tecnológica que tiene el potencial de imitar a la inteligencia humana en la resolución de problemas complejos en todas las áreas del conocimiento humano, en lugar de expertos humanos», dijo Shashua. «Entre quienes se dedican a trabajar en modelos avanzados de IA, existe el sentimiento de que está viniendo a la vuelta de la esquina».

«El avance tan rápido de estos modelos crea el sentimiento de que, en un futuro próximo, estos sistemas no sólo serán capaces de resumir artículos, sino de resolver problemas como un experto humano, y entonces todo cambiará, lo que significa que la relación entre nosotros y las máquinas va a experimentar un cambio drástico», añadió.

Aunque se prevé que la IA se convierta en una fuerza central de la tecnología del futuro, transformando el mundo tal y como lo conocemos, muchos temen sus importantes riesgos, que podrían provocar resultados catastróficos, como graves daños y la erosión de la democracia y los derechos humanos.

El consejero delegado de OpenAI, Sam Altman, ha pedido la intervención de los gobiernos para prevenir las posibles consecuencias negativas de la futura revolución de la IA. Él ha abogado por la creación de un organismo internacional de control, al estilo de la agencia nuclear de las Naciones Unidas, para regular los avances de la IA.

Los expertos temen que se pueda abusar de la IA en infraestructuras críticas, educación, recursos humanos y orden público, incluida la creación de deepfakes, lo que daría lugar a falsas afirmaciones en línea, incluso sobre el Holocausto, violaciones de los derechos de autor y la manipulación de personas.

En Israel se ha temido recientemente que el Estado judío pueda quedar rezagado en la carrera de la IA debido a la guerra en Gaza y al conflicto en curso con los apoderados terroristas de Irán en la región.

«A pesar de la guerra actual y de todo el dolor y los retos que conlleva, tenemos que seguir en sintonía con los procesos y organizaciones internacionales y participar en ellos», dijo el fiscal general adjunto israelí, Gilad Noam.

«Igualmente importante es que queremos señalar a nuestros aliados y amigos de todo el mundo que compartimos un deseo común, a saber: fomentar la innovación protegiendo al mismo tiempo los derechos humanos».