[Intelligence artificielle] Des centaines d’experts veulent faire une pause dans la recherche et les développements des programmes

Elon Musk et des centaines d’experts du numérique dans le monde ont signé, mercredi 29 mars, un appel demandant de faire une pause de six mois dans la recherche et les développements des programmes d’intelligence artificielle. La crainte des signataires serait que ces programmes de plus en plus sophistiqués puissent représenter « des risques majeurs pour l’humanité ».

Le devenir de l’humanité serait dorénavant intimement lié aux futurs développements des programmes d’intelligence artificielle. C’est ce qu’estiment des chercheurs en science du numérique, des chefs d’entreprises et des internautes qui ont fait part de leurs inquiétudes dans une lettre ouverte publiée sur le site Web Future of Life Institute. L’organisme américain, depuis 2015, étudie sous toutes les coutures « les risques du développement d’une intelligence artificielle de niveau humain » qui dépasserait nos capacités cognitives et serait capable de nous remplacer quel que soit notre domaine d’activité.

Elon Musk en chef de file des frondeurs de l’IA

Le nouveau patron de Twitter, Elon Musk, a réussi à réunir sous sa bannière plus de 1 200 signataires. Ils réclament un moratoire de six mois jusqu’à la mise en place de systèmes de sécurité des dispositifs IA, un cadre réglementaire dédié à son utilisation, un audit des systèmes existants et la création de contremesures techniques pour aider les institutions et les États à gérer les crises « économiques et politiques aux conséquences dramatiques que l’IA pourrait bientôt provoquer ».

Loin de rejeter toutes les revendications qui se sont exprimées, Jacques Moulin, directeur général du DigiWorld Institute, estime qu’interdire la recherche autour de ces programmes serait contre-productif. Ce cercle de réflexion européen qui rassemble de nombreuses personnalités du monde industriel, économique, politique et scientifique, défend plutôt une vision humaniste du numérique avec la formation des jeunes utilisateurs au bon usage de ces technologies sur les bancs de l’école.

Les craintes des signataires se concentrent autour de la mise au point d’une IA qui serait plus « forte » que ChatGPT 4, le nouveau dispositif d’OpenAI, lancé à la mi-mars. Et parmi les pétitionnaires, nous remarquons le cofondateur d’Apple, Steve Wozniak, des membres du laboratoire d’IA de Google DeepMind, ainsi que des universitaires américains et français, mais aussi des ingénieurs de chez Microsoft qui a pourtant intégré dans ses logiciels grand public les programmes de la jeune pousse californienne OpenAI.

Tous estiment que les développements IA sont trop rapides et présentent des risques sérieux pour les démocraties occidentales, notamment avec la génération automatique d’infox très élaborées qui ne nous permettront plus de distinguer le vrai du faux.

Source : Rfi

Commentaires

commentaires