ou les défis éthiques de l’IA Générative

Mardi 12 mars, Les Charmilles ont eu le plaisir d’accueillir Alexandre Bretel, Doctorant en éthique de l’intelligence artificielle à la Chaire « Éthique & IA » du MIAI (Multidisciplinary Institute in Artificial Intelligence) de Grenoble pour une conférence sur les défis éthiques de l’IA Générative.

Une quarantaine d’étudiants, formateurs, partenaires industriels étaient réunis pour réfléchir ensemble sur les enjeux liés à l’IA Générative.

Alexandre Bretel a tout d’abord posé les questions éthiques auxquelles l’IA Générative pouvait nous confronter : l’exactitude ou l’authenticité des réponses proposées par l’IA, des contenus inappropriés, les droits d’auteur ou encore la confidentialité…. Qui pourrait être jugé responsable ? L’humain ? L’IA ?

Dans la deuxième partie de la conférence, les participants ont travaillé par petits groupes de 5 sur l’un des thèmes proposés : l’éducation, le journalisme, le divertissement afin d’identifier les problématiques liées à l’utilisation de l’IA générative. Les groupes devaient ensuite faire des propositions et les partager avec les autres participants sous forme d’exposé, de dessins ou de scénettes.

Les tests faits par certains groupes sur un les outils d’IA Générative ont montré des limites de l’outil avec des réponses parfois très généralistes. Des jeunes ont également évoqué des exemples concrets comme les images réalisées avec l’IA Générative et publiées sur les réseaux sociaux au moment de la mort de Akira Toriyama ; ils ont souligné le côté viral et à la limite de la bienséance que cela avait généré.

Les retours sans forcément apporter de solutions ont surtout soulevé beaucoup de questionnements notamment autour du risque d’une perte de compétences humaines mais aussi de notre esprit critique. Beaucoup ont eu une vision dystopique où l’IA pourrait nous mener au chaos avec en exemple une société où il n’y aurait plus de livres, voir où les pompiers brûleraient des livres avec une référence au livre Fahrenheit 451 de Ray Bradbury.

Dans sa conclusion Alexandre Bretel a indiqué que l’IA va prendre une part croissante dans nos vies.

Santé, déplacements, alimentation, informations, automatisation… Il indique que l’IA peut être un allié formidable mais il doit être un outil plus qu’une finalité au risque d’être complètement dirigés par l’IA (algocratie = système politique dirigé par des algorithmes). De plus, sans données d’origine humaine, l’IA n’aurait plus aucun sens ! Alexandre Bretel a ouvert le débat sur les enjeux écologiques face à une IA toujours plus énergivore (une recherche sur ChatGPT consommerait l’équivalent électrique d’une recherche de smartphone). Et si on faisait autrement avec nos ressources ?

A noter que cet article a été rédigé sans l’aide de l’IA 😉