L’ONU propose une interdiction temporaire des IA qui menacent les droits de l’Homme
Le commissaire des droits de l’Homme de l’ONU, Michelle Bachelet, a demandé un moratorium sur la vente et l’utilisation des systèmes d’IA jusqu’à ce que les barrières nécessaires soient mises en place pour s’assurer qu’ils ne soient pas détournés. Elle a également déclaré que nous ne pouvons pas être en retard par rapport aux IA, nous devons prendre une décision pour limiter et mettre en place des barrières à cette technologie.
L’ONU a ensuite émis un rapport servant d’avertissement par rapport aux risques d’utilisation des technologies liées à l’IA, mettant l’emphase sur le fait qu’elles font de bons outils, mais qu’elles peuvent également mener à des effets catastrophiques en cas d’utilisation irresponsable. Cela fait suite à une étude sur la complexité des données, des algorithmes et des modèles permettant l’utilisation de systèmes d’IA. Le chef des droits de l’Homme de l’ONU a insisté sur le fait que les systèmes d’IA qui n’obéissent pas aux droits de l’Homme doivent être interdits.
Malgré le fait que les IA peuvent servir l’Homme de façon bénéfique. Ce qui est inquiétant, c’est que les violations des droits de l’Homme peuvent être pratiquement invisibles et totalement numériques à grande échelle. Des nouvelles réglementations doivent être mises en place pour s’assurer que les droits de l’Homme ne seront pas violés. Un des principaux sujets de discussion est sur les capacités des IA à effectuer du fichage et à automatiser la prise de décisions. Cela constitue une menace directe aux droits de l’Homme. Ca peut avoir un effet domino sur de nombreuses industries, ainsi qu’un respect de la vie privée très faible !
Un rapport récent montre des inquiétudes par rapport à certains pays et le secteur privé adoptant des technologies d’IA sans étudier leurs risques sous-jacents. Les systèmes d’IA collectent, partagent, fusionnent et analysent des données pour les aider à fonctionner. Ces informations collectées par les IA peuvent être compromises, désuètes voire discriminatoires. Et ces décisions peuvent modifier, définir ou mettre en danger des vies humaines.
