Engagé en faveur de l'innovation responsable et des valeurs des droits de l'homme, Israël signe un traité mondial sur les risques liés à l'IA

Israël est l'un des cosignataires du premier traité mondial sur les risques liés à l'intelligence artificielle. Le traité, dirigé par le Conseil de l'Europe, a été signé jeudi par 57 pays, dont les États-Unis.

« La signature par Israël de la première convention mondiale sur l'intelligence artificielle souligne notre engagement en faveur d'une innovation responsable et des valeurs des droits de l'homme », a déclaré Gila Gamliel, ministre israélienne de l'innovation, de la science et de la technologie. « Cette convention fait d'Israël un partenaire à part entière dans l'élaboration de la politique internationale dans ce domaine au cours des prochaines années et nous placera à l'avant-garde des pays avancés du monde. »

Le traité vise à établir des lignes directrices et des principes mondiaux concernant l'utilisation de l'IA, en veillant à ce que son application soit conforme aux droits de l'homme, à la démocratie et à l'État de droit. Une fois le traité ratifié, les signataires seront tenus de veiller à ce que les systèmes d'IA ne soient pas utilisés pour « porter atteinte à l'intégrité, à l'indépendance et à l'efficacité des institutions et des processus démocratiques, y compris le principe de la séparation des pouvoirs, le respect de l'indépendance judiciaire et l'accès à la justice ».

Amnon Shashua, cofondateur de la start-up israélienne AI21 Labs, s'est exprimé lors d'une conférence à Tel Aviv la semaine dernière, soulignant que si l'IA progresse rapidement, il ne s'agit pas encore d'une « révolution ».

« Il s'agit d'une vague technologique qui a le potentiel d'imiter l'intelligence humaine pour résoudre des problèmes complexes dans tous les domaines de la connaissance humaine, à la place des experts humains », a déclaré M. Shashua. « Les personnes qui travaillent sur des modèles avancés d'IA ont le sentiment que l'arrivée de cette technologie est imminente. »

« Les progrès très rapides de ces modèles donnent l'impression que dans un avenir proche, ces systèmes ne seront pas seulement capables de résumer des articles, mais aussi de résoudre des problèmes comme le ferait un expert humain, et alors tout changera, ce qui signifie que la relation entre nous et les machines subira un changement radical », a-t-il ajouté.

Si l'IA est appelée à devenir un élément central de la technologie future et à transformer le monde tel que nous le connaissons, nombreux sont ceux qui craignent les risques importants qu'elle comporte et qui pourraient conduire à des résultats catastrophiques, notamment à des dommages graves et à l'érosion de la démocratie et des droits de l'homme.

Si l'IA est appelée à devenir un élément central de la technologie future et à transformer le monde tel que nous le connaissons, nombreux sont ceux qui craignent les risques importants qu'elle comporte, notamment des dommages considérables et l'érosion de la démocratie et des droits de l'homme.

Le PDG d'OpenAI, Sam Altman, a appelé à l'intervention des pouvoirs publics pour prévenir les conséquences négatives potentielles de la future révolution de l'IA. Il a plaidé pour la création d'un organisme de contrôle international, sur le modèle de l'agence nucléaire des Nations unies, afin de réglementer les développements de l'IA

Les experts craignent que l'IA ne soit utilisée à mauvais escient dans les domaines des infrastructures essentielles, de l'éducation, des ressources humaines et de l'ordre public, notamment par la création de « deepfakes », qui donnent lieu à de fausses affirmations en ligne, y compris au sujet de l'Holocauste, à des violations des droits d'auteur et à la manipulation des personnes.

En Israël, on s'est récemment inquiété du fait que l'État juif pourrait prendre du retard dans la course à l'IA en raison de la guerre à Gaza et du conflit en cours avec les mandataires terroristes de l'Iran dans la région.

« Malgré la guerre actuelle et toutes les souffrances et les défis qu'elle entraîne, nous devons rester à l'écoute des processus et des organisations internationales et y participer », a déclaré le procureur général adjoint d'Israël, Gilad Noam.

« Tout aussi important, nous voulons signaler à nos alliés et amis à travers le monde que nous partageons un désir commun, à savoir : encourager l'innovation tout en protégeant les droits de l'homme ».