Table ronde

Transcription

WEBVTT
Bonjour à tous et à toutes.
Alors pour cette table ronde, aujourd’hui, nous accueillons
Emy, Emmie Niard,
qui est responsable de la mission IA auprès de la direction
des services numériques
de Rennes Métropole.
Jérôme, Jérôme Clerget,
tu es ingénieur de recherche pour le GIS Mars 1.
Raphaël, Foisy Marquis, Raphaël, tu es déjà intervenu sur
cette table ronde.
médiateur socio numérique au CCAS de Rennes
donc
Thomas Mouchoux que vous avez pu voir en tout début de
matinée mais je le représente également parce que la
captation
vidéo a démarré donc Thomas tu es ingénieur techno
pédagogique
IA et fablab à l’université Rennes 2 et Pierre,
Pierre Lebras ingénieur statisticien au GIS Marsouin
alors on avait prévu de retrans…
mettre en direct cette table ronde sur Internet, mais les
serveurs de l’université,
évidemment, ne fonctionnent plus.
Donc il y a quand même la captation vidéo et le replay sera
disponible par la suite.
Alors je commence par me tourner vers Jérôme.
Alors tu as mené une étude auprès de collégiens pour
interroger leur pratique numérique.
Dans cette étude, il y avait aussi des questions sur leur
pratique de l’IA générative.
Alors voilà, j’aimerais que tu nous en dises quelques mots.
Qu’est-ce qui ressort de cette enquête ?
Merci.
Oui, déjà merci pour m’avoir proposé de participer à cette
table ronde.
Alors effectivement,
c’était une enquête qu’on a menée l’année dernière dans les
établissements des collèges du
département.
Donc on en a vu 16 et on a rencontré à peu près 150,
un peu plus de 150 collégiens.
C’est une enquête qu’on a fait avec la participation du
conseil départemental.
Alors l’enquête elle portait sur les pratiques numériques en
général,
pas sur l’IA en particulier, mais l’IA s’est invitée dans
les discussions avec les jeunes,
donc c’était déjà un premier résultat.
Et le constat qu’on peut dresser c’est que ces collégiens
qu’on a rencontrés,
ils se sont appropriés en réalité assez rapidement
l’intelligence artificielle.
Les derniers chiffres des grandes enquêtes de cadrage c’est
59-60%.
d’adolescents qui utilisent fréquemment l’intelligence
artificielle.
C’est à peu près ce qu’on a retrouvé dans les échanges, dans
les proportions similaires.
Alors ils mobilisent beaucoup ChatGPT et MayaE,
qui est une IA intégrée dans Snapchat, dans un réseau
social.
Aucun ne nous a jamais parlé de Mistral.
La popularité de Mistral semble assez faible chez les
collégiens.
Et du côté des usages, ces usages sont en fait hétérogènes.
Il faut les voir comme un continuum de pratiques qui vont du
refus.
Des collégiens qui nous ont dit refuser,
un qui nous a dit c’est une question d’honneur.
Je ne veux pas utiliser l’intelligence artificielle, je veux
absolument faire les choses par moi-même.
D’autres ont des usages plus créatifs.
Certains l’utilisent par exemple pour obtenir des
exercices supplémentaires.
Donc là on a une élève qui nous expliquait, c’est toujours
pareil avec les enseignants,
soit ils donnent trop de devoirs, soit pas assez.
Donc elle demandait à l’intelligence artificielle de générer
des devoirs supplémentaires quand elle estimait
ne pas en avoir assez.
D’autres demandent des résumés de cours par exemple, des
choses comme ça,
ou des fiches de l’aide à la réalisation de fiches de
révision par exemple.
Donc là on est plutôt sur des usages assez créatifs de
soutien.
Et puis on a aussi un autre registre qui tient à des
usages plutôt de remplacement d’autres dispositifs.
C’est-à-dire que certains substituent l’intelligence
artificielle à des
dispositifs de type traducteur automatique,
qui demandent la traduction d’autres langues par exemple,
ou bien qui remplacent un moteur de recherche.
Plutôt que de faire une recherche sur tel ou tel moteur de
recherche.
ils vont poser directement la question à l’intelligence
artificielle.
Et ça,
on a fait le rapprochement parce qu’on s’est rendu compte
que beaucoup d’élèves mentionnaient des difficultés
avec les moteurs de recherche, qu’ils trouvaient ça
compliqué.
Même Wikipédia, par exemple, beaucoup de collégiens
trouvaient ça compliqué,
donc ils préféraient utiliser une IA que d’aller sur
Wikipédia, par exemple.
On a aussi des utilisations qui nous ont davantage étonnés
sur le
moment, c’est-à-dire un remplacement de…
de correcteur orthographique par exemple.
Donc il demandait à…
Il écrivait une phrase par exemple,
et il demandait à l’intelligence artificielle de vérifier
qu’elle était correcte d’un point de vue de l’orthographe
et de la grammaire par exemple.
Donc on a des usages assez variés.
Et puis évidemment,
on a aussi certains collégiens qui veulent se
débarrasser des devoirs, par exemple en demandant à
l’intelligence artificielle de le faire.
Ça existe aussi, c’est la bête noire des enseignants.
C’est l’une des pratiques possibles,
mais c’est loin d’être la seule.
Une grande partie d’entre eux s’approprient l’IA.
En fait, certains se trouvent aussi en difficulté.
Certains ont des difficultés à obtenir un résultat
satisfaisant.
Ça, ils nous l’ont bien dit.
Donc, on voit qu’il y a des difficultés, par exemple, à
rédiger une instruction, un prompt.
Mais cela dit, certains contournent cette difficulté en
recourant à l’image de manière intéressante,
c’est-à-dire en prenant des photos.
Donc, ils se connectent à l’intelligence artificielle via
leur smartphone.
Et ils vont tout simplement envoyer une photo du cours, par
exemple, pour avoir un résumé,
sans avoir besoin d’élaborer finalement un prompt très
important.
Alors ça, c’était pour les usages scolaires, mais
évidemment,
il n’y a pas que des usages scolaires, il y a aussi des
usages personnels.
Parce que l’IA ne s’arrête pas à la porte de l’école.
Et là, on a deux types de pratiques qui ont été évoquées
assez souvent par les…
par les collégiens et collégiennes qu’on a pu rencontrer.
La première, c’est la génération d’images.
C’est une activité assez populaire parmi les jeunes qu’on a
pu rencontrer.
C’est plutôt une pratique ludique, à priori, voire créative,
et qui s’inscrit en quelque sorte dans cette familiarité,
avec cette culture visuelle qui est très fréquente chez les
jeunes,
notamment dans l’usage des réseaux sociaux.
Et puis la deuxième pratique, c’est l’utilisation, on l’a
évoqué un petit peu tout à l’heure,
C’est l’utilisation de l’IA comme un confident.
Ça, ça revenait assez souvent aussi.
C’est-à-dire que l’IA était utilisée comme un peu un
substitut à un journal intime,
mais qui permettrait une interaction en quelque sorte.
Donc ils leur racontent leur journée, leurs problèmes,
demandent des conseils à l’intelligence artificielle.
Et la principale raison qui est évoquée par les collégiens
pour
ce type de pratique, C’est le fait que l’IA ne juge pas.
Elle est non-jugeante, donc ils peuvent se confier à elle
davantage qu’à un être humain.
Et quand on y réfléchit, effectivement,
les parents sont dans une posture d’autorité, de régulation,
des pratiques numériques, à un âge où on construit son
autonomie.
Ce n’est pas forcément à ses parents qu’on a envie de parler
de tous ces problèmes.
Et puis les pères, eux, ils peuvent soumettre à la pression
du groupe,
ils peuvent finalement trahir en quelque sorte la
confidence.
Donc aux yeux des adolescents qui utilisent l’IA comme
confident,
elle offre en quelque sorte un espace qui, on pourrait dire,
cumule deux propriétés qui sont assez rares dans l’espace,
dans l’environnement social des adolescents.
C’est la disponibilité, parce qu’elle est par nature, elle
est toujours disponible.
Et puis l’absence a priori de conséquences sociales pour ces
confidences-là.
Mais ça, c’est évidemment un type d’usage qui est très
invisible aux yeux des adultes.
Et qui pose de nombreuses questions sur justement les
endroits et les
modalités d’accompagnement de ces adolescents.
Alors en fait j’ai plusieurs questions.
Elle date de quand cette étude et est-ce que les adolescents
ont confié
des espaces d’accompagnement pour,
tu parlais d’inégalité dans l’appropriation des
intelligences artificielles pour apprendre à pompeter,
mais aussi plein d’écueils, plein de limites possibles dans
les pratiques.
Est-ce qu’il y a des espaces pour…
Voilà ce qu’ils trouvent des espaces.
Pour répondre à ta première question, l’enquête, j’aurais dû
le préciser, elle date de l’année dernière,
donc c’est des données assez fraîches.
On est allé sur le terrain au premier semestre
2025.
Après, en ce qui concerne les espaces…
Il se trouve qu’en l’état actuel des choses, il n’y en a pas
tellement en réalité.
On les a surtout interrogés sur le regard que leurs
enseignants portaient
sur l’intelligence artificielle.
Donc, est-ce qu’ils avaient des échanges en cours ou pas
avec leurs enseignants ?
Et la réponse était, qu’en règle générale, c’était plutôt
non.
Et lorsque des échanges avaient lieu, c’était plutôt sur le
registre de la mise en garde, en fait,
avec des enseignants qui les mettaient en garde contre…
Le fait de demander à l’IA de faire les devoirs à leur
place, par exemple,
c’était surtout une crainte, a priori,
formulée par leurs enseignants sur le fait de faire à la
place d’eux.
Le fait que ça retire en quelque sorte la substance,
l’intérêt pédagogique de faire des devoirs.
C’était surtout ces éléments-là.
Cela étant dit, ils n’en discutent pas beaucoup plus dans un
cadre familial,
puisque finalement le premier…
Le premier cadre de régulation, c’est le cadre familial,
évidemment.
Donc les parents, là aussi, finalement,
sont assez distants de ces sujets-là lorsqu’ils échangent
avec les jeunes.
D’autant plus que les régulations parentales s’intéressent
surtout aux réseaux
sociaux, finalement.
C’est ça qui cristallise les craintes des adultes sur
les pratiques des jeunes.
Mais les pratiques liées à l’intelligence artificielle,
finalement, ça passe.
davantage sous les radars.
Ils l’évoquaient très peu avec leurs parents,
au contraire d’autres types de pratiques.
J’imagine que face à des technologies qui évoluent tellement
vite, les acteurs éducatifs,
que ce soit l’éducation nationale, dans l’éducation
populaire ou la famille, enfin les parents,
doivent d’abord réfléchir à leur posture et à ce qu’ils
veulent faire.
Et donc, même si c’est une étude récente, je sais que…
On se pose tous des questions et on essaie tous de se
positionner face à ces sujets.
Je sais que beaucoup d’enseignants travaillent à essayer
d’accompagner
ces ados.
Mais effectivement,
ça soulève plein de questions des ados qui se confient à
l’IA sur leurs problèmes au quotidien.
Évidemment,
on identifie tout de suite les risques qui sont posés.
En réalité, les questions sont aussi quels espaces
permettent aux ados de se confier en
dehors de ces espaces numériques.
Bon, plein de questions.
Merci pour cette enquête.
Et maintenant qu’on a discuté un petit peu des pratiques des
ados,
on va passer à un autre secteur et je me tourne vers Emy.
Alors Emy, tu es sur la mission IA à Rennes Métropole.
Si j’ai bien compris, c’est un poste assez récent.
Est-ce que tu peux nous dire en quoi ça consiste et quelles
sont les missions ?
Un poste très récent, c’est une création de poste qui date
de novembre dernier.
Auparavant, la mission
IAG était portée par Jocelyn qui était là en début de
matinée.
En fait,
il y a d’abord eu pendant deux ans une analyse des risques
et des opportunités autour de
l’IA.
Donc, ici, un rapport qui a été publié.
Et donc, moi,
j’ai été recrutée pour continuer cette mission
d’observation.
de continuer d’être en veille, puisque c’est un sujet ultra
mouvant.
Là, on le voit avec les IA gentils, tous les deux jours, en
fait,
on voit des nouveaux usages qui sortent.
Et donc, on a toute une partie de veille sur les usages, sur
la réglementation,
puisqu’on a beaucoup, beaucoup de flou, notamment sur les
images,
tout ce qui est droit d’auteur, etc.
Ça pose pas mal de problèmes.
Et sur les technologies, pour voir un peu ce qui s’y passe.
L’approche qui est particulière du coup à Rennes Métropole,
c’est que l’IA,
on le traite à travers notre politique du numérique
responsable.
Ce qui fait qu’il faut que ça s’inscrive justement dans les
stratégies de la politique numérique responsable.
Donc réfléchir à l’impact environnemental, social, éthique,
démocratique, etc.
Donc c’est pour ça qu’on a fait le choix de partir par les
usages, en fait,
et de prendre le temps d’abord de se poser sur quels sont
les usages.
des agents pour voir après comment on peut y répondre.
Donc l’idée est de traiter le sujet de l’IA orienté agent
et jamais en contact avec les usagers.
Ça c’est vraiment un positionnement qui a été pris dès le
début pour rester en
maîtrise du sujet.
Donc il y a tout un accompagnement.
déjà qui est fait auprès des agents et qui est mené
principalement par les conseillers
numériques qui animent des ateliers d’ailleurs cet
après-midi pour les
sensibiliser aux limites mais aussi expliquer, comme on le
disait tout à l’heure,
comment ça fonctionne derrière techniquement, qu’est-ce que
c’est.
On organise également des temps forts pour sensibiliser les
agents
pour les réunir lors d’un événement en présentiel pour leur
raconter un peu.
L’histoire de l’IA à Rennes Métropole et puis les
accompagner
lors d’ateliers pour qu’ils puissent prendre en main aussi
ces outils.
Et on fonctionne beaucoup aussi en réseau avec les autres
collectivités puisque ces
outils d’IA qui sont accessibles par toutes et tous,
d’une collectivité à une autre, on retrouve les mêmes
sujets,
les mêmes problématiques et les mêmes usages en fait
puisqu’on a des métiers très
similaires.
Et donc sur cette partie de sensibilisation,
c’est important à chaque fois de reposer le cadre, de savoir
vraiment ce qu’il y a derrière,
de sortir vraiment cet effet baguette magique qu’on avait
beaucoup au début,
qu’il n’y a pas de solution miracle,
et aussi de ne pas partir du fait en se disant…
On va devoir mettre de l’IA partout,
demain on intégrera systématiquement de l’IA dans vos
missions,
ce n’est vraiment pas le but, c’est vraiment de se poser la
question,
où est-ce que ça peut être utile, comment on peut
l’utiliser, et si on n’a pas besoin,
c’est ok en fait, puisque l’IA la moins consommatrice, c’est
celle qu’on n’utilise pas en fait,
donc c’est aussi important de le dire.
Donc voilà, poser le cadre, les règles d’usage.
On a évidemment des risques importants en termes de fuite de
données
avec ces outils.
Dans une collectivité, tout ce qui est données personnelles,
toutes les informations politiques, etc.,
on n’a pas envie qu’elles se retrouvent dans des outils des
États-Unis.
Donc il y a des règles d’usage qui ont été mises en place
dans la collectivité.
pour faire attention, pour garder aussi son esprit critique.
Et cette partie d’esprit critique est d’autant plus
valorisée.
Là où on peut avoir l’impression, dans les discours qui sont
portés,
via les médias, à l’extérieur, dans toute la campagne
marketing autour de l’IA,
en mode l’IA va nous remplacer, etc.
Là, ce qu’on valorise, c’est que justement, les agents,
on a besoin de leur expertise métier.
Puisque une IA n’aura jamais une fiabilité de réponse à
100%, il faut être en capacité toujours de vérifier
ce que l’IA va produire.
C’est assez intéressant et quand on creuse bien le sujet
avec les agents,
ça leur permet surtout d’aller plus loin dans leur métier,
d’aller challenger des idées, de retravailler des éléments,
leurs réflexions,
leurs argumentaires, etc.
C’est assez intéressant quand on retrouve la maîtrise.
et qu’on n’est pas dans une IA subie.
Dans ces ateliers que vous faites avec des agents de Red
Metropole,
vous discutez, tu disais, on part des usages.
Vous discutez des pratiques existantes, des représentations
de chacun.
J’imagine qu’il peut y avoir des exemples de
pratiques qui ne sont pas justement dans le cadre.
Tu utilises l’expression « poser le cadre » .
Les règles d’usage, moi j’ai du mal à me représenter ce que
c’est.
C’est quoi le cadre ?
C’est quoi les règles d’usage ?
Et à quel moment ça va, ça va pas ?
Alors, les règles d’usage, on les pose pour les outils grand
public, donc ChatGPT,
Gemini, etc.
La règle, c’est de jamais mettre de données confidentielles,
pas de données qui mentionnent des noms, des prénoms, des
adresses, etc.
Et pas de documents qui ne sont pas
publiés.
Après, même avec cette sensibilisation qu’on fait là-dessus,
on mitige un peu ce discours dans le sens où même,
par exemple,
la direction de la communication veut travailler sur ses
archives de
journaux pour retrouver un peu des éléments sur des
politiques ou des élus,
etc.
Mais en fait, les promptes qu’ils vont faire dans ces
outils,
même si les journaux sont publiés et diffusés largement, le
prompt qu’ils vont utiliser donne beaucoup d’informations.
sur l’orientation politique ou des objectifs, etc.
Donc on essaye de sensibiliser là-dessus,
dans le sens où c’est même au-delà des documents ou des
infos,
c’est les promptes aussi qu’on donne qui peuvent indiquer
là-dessus.
Donc une fois qu’on leur a dit ça,
l’idée n’est pas de les empêcher de tester,
c’est juste de garder cet esprit critique et de leur
proposer une alternative.
ce qu’on fait avec RagaRen,
la plateforme qui a été mise en place par l’université de
Rennes.
L’idée, c’est de proposer cette alternative en mode
expérimentation.
Donc là, en fait, depuis novembre,
on expérimente avec les agents pour faire le point sur leurs
usages et expérimenter avec RagaRen.
Utiliser RagaRen, en tout cas, propose une alternative qui
soit plus…
Maîtriser avec moins de fuites de données c’est ça ?
C’est sécuriser en fait, c’est vraiment l’avantage
principal,
sécuriser c’est local, c’est souverain.
Et donc les agents peuvent travailler avec leurs documents
sans
problème.
Après voilà c’est un outil qui présente ses limites, on est
dans de l’expérimentation.
Donc en fait toutes les expérimentations qu’on mène,
on a un labo dans lequel on liste, Donc,
on recueille les cas d’usage des agents pour…
pour savoir un peu comment ils se positionnent là-dessus.
Ça nous permet…
En train de fond, de travailler sur une plateforme maison,
même si on ne va pas réinventer un tout de A à Z,
on se base sur des modèles de langage existants qui sont
open source,
mais pour avoir une solution adaptée aux besoins de nos
métiers.
En gros, pour résumer, plutôt que d’acheter
5000 licences chez un chat GPT,
on prend le temps de voir selon l’usage, quel outil de vie a
utilisé derrière.
Par exemple, si on a besoin d’un outil pour reformuler des
idées,
on peut avoir du Ragharen.
Si on a besoin d’un outil pour transcrire des réunions, on
va pouvoir utiliser un DictaE.
Si on veut faire de la veille documentaire, on va aller sur
Mistral.
En fait, derrière, ça ira chercher différentes technologies.
De manière transparente, évidemment, pour les agents,
on ne va pas leur demander d’aller choisir l’IA eux-mêmes
derrière.
Il faut que ça soit le plus fluide possible.
Entendu, merci.
Alors, très intéressant.
Je pense que ça nécessite qu’on présente RAG
AREN.
Vous pouvez sûrement m’aider à expliquer ce que c’est qu’un
RAG, mais en deux ou trois mots.
RAG AREN, si j’ai bien compris, c’est l’idée d’avoir une IA
déjà locale, c’est AREN,
et souveraine, il y a la maîtrise des serveurs qui sont sur
place et de son fonctionnement.
C’est ça l’idée.
C’est ça, vraiment l’idée c’est d’avoir un environnement
sécurisé, hébergé localement.
Alors ça s’appelle RAG AREN.
Nous, on ne l’utilise pas pour la partie RAG.
Donc RAG, c’est de l’IA sur des bases documentaires.
Globalement, c’est de la recherche améliorée sur une base
documentaire
qu’on a ciblée, en fait.
Mais pour le coup, nous, on ne l’utilise pas spécialement
pour ça.
On l’utilise plus pour de l’assistance à la rédaction et de
l’assistance bureautique.
Mais voilà, l’idée, c’est qu’on est dans un environnement
sécurisé.
En complément, toute cette recherche qu’on mène sur les RAG,
sur les bases documentaires,
c’est là où on voit qu’il y a un point hyper intéressant à
creuser avec les
agents,
puisqu’il y a un besoin qui est vraiment transversal de
pouvoir travailler sur ces
bases de connaissances métiers.
Chaque service a souvent besoin de pouvoir lire de manière
transversale, fluide et simplifiée, l’ensemble de ces
documents.
Et c’est comme ça qu’on voit sortir assez récemment pas mal
de chatbots un peu
thématiques sur des sujets, donc ça peut être sur du
juridique,
sur de l’éducatif, les marchés publics, de la communication,
n’importe quoi.
Entendu, merci Amy.
Alors je me tourne maintenant vers Pierre,
mais vous aurez l’opportunité aussi de poser des questions
tout à l’heure,
donc n’hésitez pas à les noter si elles vous viennent.
Pierre, tu participes actuellement à une enquête avec le GIS
Mars 1 sur
les pratiques des IA auprès des étudiants.
J’aimerais que tu nous en dises ce qui ressort de cette
enquête.
Oui, bien sûr.
Bonjour à toutes et tous.
Merci pour l’invitation, Pierrot.
Oui, on a diffusé une enquête très récemment qui est
toujours en cours de diffusion en ligne
auprès de…
des étudiants des universités bretonnes et ligériennes,
et aussi on a pas mal de réponses au-delà de ces deux
régions.
On a collecté à ce jour, j’ai fait la mise à jour hier,
2100 réponses exploitables.
Le questionnaire est assez long,
donc finalement on a une partie de réponses qui ne sont pas
exploitables,
on a eu 4000 réponses en fait, mais une partie ne l’est pas
exploitable.
Et on a cherché à travers cette enquête à
mesurer quels sont les usages des étudiants et des
étudiantes en général,
quelles sont leurs perceptions de l’IA
générative et surtout aussi quels sont leurs effets
éventuels,
l’effet de l’usage de l’IA sur différentes dimensions,
notamment leurs pratiques informationnelles,
comment elles s’en forment, sur leur sociabilité aussi en
général.
Ce qui ressort, c’est que l’IA générative est complètement
normalisée,
comme on pouvait se l’attendre chez le public étudiant.
C’est un outil banal du quotidien.
Ils l’ont largement intégré dans leurs usages au contexte
universitaire.
Ça rejoint un petit peu ce que l’enquête qui était
qualitative,
plutôt auprès des collégiens, Jérôme, tu disais tout à
l’heure.
plutôt adapté pour le coup à l’exercice d’étudiant.
Donc, ils l’utilisent beaucoup dans la révision de partiels,
les révisions en général des cours magistraux,
pour aussi faire des examens à la maison.
Dans les usages concrets, on peut citer classiquement
améliorer un texte,
aide à mieux comprendre certains concepts qu’il voit en
cours.
Il y a également l’analyse d’images qui est énormément
invoquée.
80%
de l’échantillon cite qu’ils utilisent
l’analyse d’images,
que ce soit pour des usages personnels ou des usages dans le
cadre de leurs études.
résumer ou générer des arguments est aussi quelque chose qui
revient souvent.
Donc on peut vraiment voir ces usages-là comme étant
des usages d’assistants,
d’aide cognitive à l’étudiant dans le cadre de leurs études.
Et comme le disait aussi Jérôme,
il y a des usages qui sont personnels en dehors du cadre
scolaire.
Beaucoup sollicitent, là j’ai le chiffre de…
quasiment
70% de notre panel qui utilise l’IA
pour avoir des idées dans le cadre d’activités créatives,
également aussi dans le cadre de recettes de cuisine,
ou avoir des discussions, des réflexions personnelles,
des interactions avec l’IA.
Donc finalement, un usage massif de l’IA, et ce qui séduit
véritablement,
c’est l’immédiatisation de la réponse, l’accès immédiat au
savoir.
80%
de notre échantillon ont l’impression de trouver rapidement
une info qui leur convienne à travers l’usage d’une IA
générative
et même 60%
invoquent l’IA générative comme étant une ressource qui leur
est précieuse pour
répondre à leurs questionnements au quotidien.
Mais le penchant, on va dire, plutôt négative de la chose,
c’est qu’obtenir ce qu’on veut requiert une vraie
compétence.
Donc, on va dire que derrière cette simplicité apparente,
finalement, il y a seulement 15%
de notre panel qui trouve que c’est facile d’obtenir
exactement la
réponse auxquelles ils s’attendaient.
Donc, souvent, de prompte en prompte,
on se retrouve à avoir une discussion avec l’IA.
qui conduit à brouiller un petit peu les pistes et ne pas
obtenir la
réponse à laquelle on cherchait, qu’on se posait
initialement.
Et seulement 21%
trouvent l’IA comme étant un outil convivial ou un outil qui
est
simple à utiliser.
Et juste une petite stat comme ça,
plus de la moitié de nos étudiants et étudiantes interrogées
disent qu’ils
n’aiment pas particulièrement utiliser l’IA.
donc
à mettre en relation avec les usages massifs qui sont
existants.
Pour résumer, l’IA est facilement accessible, il y a des
usages massifs,
mais n’est pas maîtrisable immédiatement,
parce que ça implique des compétences de prompting.
Donc, prompter devient une vraie compétence qui ne leur est
pas forcément
enseignée à l’université.
Et on a dans notre échantillon 50%
des étudiants, donc la moitié,
qui font des promptes détaillées en mettant des contextes,
des contraintes,
des exemples, des personas, des rôles spécifiques.
Et l’autre moitié fait des promptes beaucoup plus simples,
brefs,
courts.
Une autre question qu’on leur a posée, c’est s’ils faisaient
des échanges,
des interactions.
successives pour essayer d’améliorer ou plutôt peut-être
parfois même comme je disais
avant de dériver vers d’autres d’autres questionnements on a
70% des utilisateurs utilisatrices de dia génératif qui font
des
interactions successives comme cela et en fait ces
écarts là entre prompte simple prompte détaillée
interactions
peuvent s’expliquer à travers des inégalités culturelles les
inégalités
dans la manière de s’informer des inégalités scolaires.
Ce sont des choses qu’on va explorer,
analyser plus finement dans la suite de l’enquête qui est
toujours en
cours de passation finalement et des choses intéressantes
qui pourront
émerger là-dessus, de ce qui est déterminant dans les
pratiques de prompting.
Et lié à cela…
Un point intéressant et qui est un gros focus dans l’enquête
par questionnaire que l’on a passé,
c’est le rapport à la fiabilité et la vigilance qu’ils ont
vis-à-vis
des informations qu’ils voient apparaître sous leurs yeux en
utilisant l’IA.
Ils ont à priori une fiabilité qu’on pourrait dire
fonctionnelle
qui est très élevée, une fiabilité forte dans les usages du
quotidien.
Ils sont 80% à déclarer que l’IA est une source
d’informations fiables,
dans le sens où les informations qu’ils leur donnent leur
conviennent,
ça leur permet d’avancer dans leurs réflexions.
Et même la moitié de notre panel estime que
les réponses sont exactes.
Et donc finalement,
c’est un outil qui leur convient sans unanimité vis-à-vis de
l’exactitude.
Mais à contrario, ils ont quand même une forte conscience de
la fiabilité, on va dire,
épistémique, scientifique de ce qui sort de l’IA.
Ils sont seulement 20%
à considérer que l’IA est une ressource fiable au sens
scientifique du terme.
On a posé…
tout un panel de questions qui les met dans des situations
très spécifiques
et on leur demandait l’avis de quelle était la meilleure,
selon eux,
l’option à choisir pour la suite.
Ils sont les trois quarts d’entre eux à estimer qu’un
document qui est résumé avec l’IA,
il faut aller vérifier véritablement le document source pour
voir si ce que l’IA a résumé fait sens.
Ils sont également les trois quarts à dire que les réponses
d’un LLM,
d’un modèle linguistique à grande échelle type IA
générative,
n’est pas forcément plus fiable qu’une autre source trouvée
sur Internet et qu’elle nécessite donc d’être recoupée
avec d’autres sources crédibles.
Donc, paradoxalement,
il y a un consensus très fort sur la conduite idéale qu’il
faut adopter, recouper l’information,
être vigilant là-dessus.
Mais factuellement, lorsqu’on le demande s’ils font les
choses,
s’ils vérifient,
on voit apparaître que beaucoup moins le font véritablement.
Ils sont une part importante à dire qu’ils déclarent parfois
vérifier leurs sources, mais finalement,
un tiers vérifie systématiquement les sources de ce
que l’IA sort.
en comparaison des chiffres que je vous sortais avant ?
trois quarts qui estiment qu’il faut recouper les sources,
qu’il faudrait le faire dans l’idéal.
Il y a une marge de manœuvre entre ce qui est déclaré
vis-à-vis de la
norme et ce qui est effectivement réalisé.
Pour un…
Tu veux peut-être ajouter quelque chose ?
Non, je te laisse dérouler.
Merci, vas-y.
S’agissant des enjeux éthiques de l’IA,
il y a un focus là-dessus qui leur est fait.
ils ont bien conscience
des biais qu’un algorithme de l’IA peut avoir.
On leur posait une situation précise sur les biais qu’il
peut y avoir lors de
l’analyse de multiples CV lors d’un recrutement.
70%
d’entre eux sont conscients qu’il puisse y avoir des biais
dans ce cadre-là.
80% aussi sont conscients que c’est compliqué
de mesurer dans quelle mesure une vidéo a été générée par
l’IA.
donc qui sont conscients que…
Identifier une deepfake, c’est compliqué.
Ils ont également conscience des aspects de données
personnelles qui ont aussi déjà été évoquées avant par
Jérôme et Emy surtout.
Et donc dans l’ensemble,
ils ont une culture de l’éthique qui est bien intégrée.
Ils ont conscience que l’IA pose des questions et qu’il faut
avoir un regard critique
là-dessus.
mais à contrario, ils ont…
une compréhension technique de l’IA qui est plus limitée,
qui est plus réservée.
Ils sont 40% à définir correctement ce que c’est un LLM et
50% définissent aussi l’IA générative,
donc la manière dont techniquement les mots
s’enchaînent, de le définir correctement.
Donc il y a vraiment un fossé entre…
des usages massifs mais la manière dont sont construits,
dont est construit l’IA.
Et pour terminer, je voulais rebondir sur ce que Jérôme me
parlait de confident,
de compagnon virtuel chez les collégiens lycéens.
C’est aussi quelque chose qu’on a tenté de mesurer
chez les étudiants à travers différentes questions et
différentes formulations.
Alors autant ils sont 50%, la moitié de notre échantillon à
dire qu’ils ont
Parfois, régulièrement, des discussions,
des interactions de l’ordre de l’amical, 50%.
Mais lorsqu’on pose la question de…
Est-ce que vous considérez l’IA comme un ami, comme un
meilleur ami,
comme avec qui potentiellement flirter aussi,
avoir des relations sentimentales ?
Ils sont
15% justement à dire que l’IA peut être un compagnon virtuel
et c’est plutôt des gens qui vont avoir des étudiants et des
étudiantes qui vont invoquer le soutien émotionnel lié à la
santé mentale.
Et ça rejoint ce que disait Jérôme sur le besoin de conseil,
le besoin de ne pas aussi se sentir jugé par d’autres êtres
humains.
Et aussi ce qui revient encore plus, la raison à ce soutien
émotionnel,
c’est la disponibilité immédiate,
la disponibilité permanente de l’IA par rapport à un être
humain,
par rapport à un proche, par rapport à un psychologue aussi.
Donc l’IA représente une sorte d’espace de parole qui est
sans risque social,
sans jugement.
Donc ce sont des résultats préliminaires de l’enquête
qui montrent que l’IA est finalement complètement banalisée
et que prompter vraiment une
nouvelle compétence chez les étudiants qui ne l’auraient pas
apprise,
qui ne l’auraient pas forcément aussi discuté avec les
enseignants.
Dans les commentaires ouverts,
il y a une question de commentaires ouverts dans cette
enquête-là.
Ce qui revient souvent, c’est le manque de régulation, de
gouvernance de la part des institutions, des universités,
voire même de l’État là-dessus.
Et c’est quelque chose qui ressort fondamentalement de
cet aspect-là.
Merci beaucoup Pierre.
Je retiens aussi ce rapport à la source d’information,
et en particulier pour un public d’étudiants,
aller confronter ce que sort l’IA avec des sources, enfin en
tout cas aller lire les sources.
Et confronter des sources différentes,
c’est le travail qu’on fait en éducation médias à
l’information depuis des années déjà,
avant l’arrivée de l’IA.
Et là,
ça se pose à nouveau à nous face à cette immédiateté de la
réponse.
Comme tu le témoignais tout à l’heure, on a un accès au
savoir immédiat.
Enfin voilà, il faut réussir à déconstruire ça, à
relativiser,
à garder les bons réflexes pour garder son esprit critique,
comme on le disait tout à l’heure.
Je retiens aussi la…
La question des inégalités face aux promptines,
mais en fait la question des inégalités culturelles, des
inégalités sociales.
Et ça me fait d’ailleurs une bonne transition pour
m’adresser à toi Raphaël.
Raphaël, tu t’adresses à deux grands types de publics, on va
dire.
Tu travailles pour le CCAS.
Les publics du CCAS sont beaucoup des publics en situation
de fragilité économique,
nombreux publics issus de l’immigration également.
Et tu t’adresses aussi aux travailleurs sociaux ?
Voilà, nous on officie dans les espaces sociaux communs et
qui réunissent,
ce qui est une particularité RENES, et qui réunit
différentes structures de l’action sociale.
Et du coup, il y a le CEDAS avec le département, le CCS la
ville,
l’association RENES des centres sociaux, WICARE et les
bibliothèques,
voire plus encore,
selon l’espace social commun réparti dans tous les quartiers
de Rennes.
Et du coup, je suis un peu comme Thomas,
je me suis reconnu beaucoup dans ta présentation tout à
l’heure,
et je suis complètement tombé addict de l’IA depuis que
c’est
sorti,
et du coup il y a eu beaucoup de questions qui sont venues
dans le débat public,
et je me suis approprié ça,
et on a mis en place avec mon collègue Damien des formations
qui s’adresse à
tous les professionnels et bénévoles
des espaces sociaux communs pour sensibiliser à ces
questions-là.
Notre approche a été de faire un peu la vue d’ensemble de
ce qui existe,
de ce qui est capable de faire le côté positif,
mais aussi les grands côtés négatifs des IA
génératives, tous les risques et enjeux que ça pose.
Et du coup, chez les travailleurs sociaux,
il y a eu beaucoup de retours.
Il y a certains travailleurs sociaux,
et ça rebondit par rapport à tout le théâtre forum de ce
matin,
mais des différents générationnels,
des personnes qui l’utilisent déjà, de manière cachée ou
pas,
dans leur travail.
Donc là, pareil, c’est aussi l’occasion de parler de la
charte de Rennes Métropole.
que tu évoquais, Amy, de garder son esprit critique,
ne pas divulguer d’informations personnelles, tout ça.
Il y a aussi une charte qui a été rédigée par le
département.
par le CEDAS, donc il y a tout ça qui est en train d’être
mis en place.
Et mon approche, elle est aussi ludique,
donc je vais plus détailler ça cet après-midi,
de vous montrer en fait un peu toutes les approches que j’ai
eues
pour faire découvrir les IA.
C’est tester aussi, c’est de parler des risques,
mais aussi découvrir qu’il y a quand même…
Pour les personnes qui ne connaissent pas l’IA, c’est un peu
cryptique.
Ils arrivent en formation, ils en entendent parler à la
télé,
ils s’imaginent Terminator ou des choses comme ça,
et de voir que c’est un chatbot, c’est un robot
conversationnel,
et aussi de collectivement tester et de critiquer,
et de se dire est-ce que c’était pertinent
d’utiliser l’IA pour trouver le numéro de téléphone de mon
docteur ?
d’essayer de prompter,
de tester et de critiquer ça.
Et donc ça, c’est le côté professionnel.
Et puis après, j’ai aussi tout le travail auprès des
habitants.
Et donc là, pareil, ça se fait en collaboration beaucoup
avec les centres sociaux.
René,
par exemple, je fais des ateliers génération d’œuvres avec
les enfants
d’accompagnement à la scolarité.
Donc on va faire de la créativité.
avec l’intelligence artificielle, ce qui est un peu
paradoxal.
Mais voilà, on parlait d’inégalité face aux technologies.
Donc moi,
j’aime bien aussi venir dans les quartiers pour
faire découvrir ça aux gamins.
Les gamins y connaissent aussi.
Et puis de créer avec eux, de s’amuser.
Donc je parlerai de ça cet après-midi.
Faire des ateliers créatifs où on s’amuse avec l’IA et comme
tu le dis,
où on déconstruit un petit peu toutes les représentations et
les peurs.
Enfin voilà, on regarde ce que c’est vraiment.
Ok.
Moi, j’avoue, en tout cas,
tu es une des premières personnes que j’ai rencontré me
parler d’atelier IA fin 2022,
dès que ChatGPT était sorti.
Est-ce que tu considères que ça représente une opportunité
pour les publics défavorisés, justement,
d’être initiés à ces technologies ?
Oui, parce qu’en plus de ça, je fais des cafés par an.
J’essaye d’en faire un maximum pour montrer justement les
différentes
possibilités des IA.
Thomas parlait de Notebook LM.
Malgré que ce soit Google, c’est un formidable outil pour
l’apprentissage.
J’ai eu des retours de travailleurs sociaux qui me disaient
« j’ai une personne,
des personnes allophones qui ne sont pas de langue française
maternelle,
se met à utiliser l’IA pour communiquer avec son travailleur
social. »
Et donc oui,
moi je le vois comme une certaine opportunité en fait.
Ça peut être un levier social, si c’est utilisé.
en bonne conscience.
Et oui, dans un café par an,
j’avais une maman qui était de langue russe et
elle se dit,
je vais peut-être l’utiliser pour apprendre le
français, et puis même pour accompagner mon enfant au niveau
de l’école,
pour la traduction, tout ça.
Tu me disais, pour les travailleurs sociaux,
Comment ils le prennent de recevoir un courrier comme ça qui
est écrit par ChatGP ?
Plutôt bien.
Après, j’ai des questions qui me restent en tête pour
Jérôme et Pierre.
Il faut choisir son camp et c’est vrai qu’il y a beaucoup de
contre d’anti-IA et le côté opposé plutôt
techno-optimiste.
Moi je me situe entre les deux,
je suis un techno optimiste mais qui est
complètement d’accord avec les anti-IA.
C’est vrai que c’est une ambivalence qui n’est pas facile à
vivre tous les jours.
Et donc j’essaye de transmettre ça aux habitants et
aux professionnels et bénévoles.
Mais que voilà, heureusement il y a des solutions qui
existent.
Thomas tu proposes…
de faire tourner demain une IA sur un Raspberry,
sur une petite carte électronique en local.
Donc voilà,
c’est ça aussi que j’essaye de transmettre,
c’est un peu le champ des possibles.
C’est qu’il y a OpenAI, il y a Google, il y a GROC, etc.
Mais que tout n’est pas neutre,
comme vous l’avez dit précédemment.
C’est ça un peu, c’est de la littératie,
on va essayer d’apprendre et de comprendre ensemble.
Ok, merci Raphaël.
En tout cas, je retiens cette idée que pour des publics
allophones,
pour des parents qui sont un peu éloignés des normes
scolaires,
ça peut être un outil qui permet de raccrocher justement,
qui peut être utile.
Oui, pour le handicap, voilà, j’ai…
j’ai accompagné une travailleuse socio, c’était pour son
fils,
mais au niveau des dyslexies, dyspraxies, tous les dys,
notre book permet d’illustrer,
de traduire dans le sens peut-être facile à lire et à
comprendre le FALC,
ou des fois on peut utiliser
ces outils un peu experts pour…
pour avoir de nouvelles formes d’apprentissage,
ouvrir les possibilités.
Entendu.
Merci Raphaël.
Merci à vous.
Du coup Thomas, c’est notre collègue à l’université,
qui est notre expert IA.
Je voulais savoir ce que tu avais à nous partager,
en ayant écouté un petit peu tous les intervenants
aujourd’hui, quels sont les enjeux qui ressortent pour toi ?
Qu’est-ce que tu as envie de nous…
nous partager.
Merci déjà à vous de partager ce que vous vivez sur vos
terrains,
parce que c’est des choses dont je fais les constats aussi
sur les différents terrains sur lesquels j’interviens.
À la suite de la licence, du master,
j’ai choisi l’axe de sensibilisation et de formation sur
différents terrains.
Je suis aussi formateur indépendant, donc j’interviens aussi
dans les centres sociaux, les associations,
d’autres écoles que l’université Rennes 2.
Et les constats,
le premier constat que j’ai envie de partager c’est
effectivement tout le monde aujourd’hui n’utilise pas
forcément l’intelligence artificielle.
Il est bon de rappeler que tous les étudiants ne l’utilisent
pas systématiquement non plus.
Souvent cette vision où on se dit, en fait les jeunes
ils se
sont saisis de la technologie et qu’ils l’ont adopté
beaucoup plus vite que nous,
alors que pas forcément, tout le monde ne l’a pas forcément
adopté, il y en a qui ne souhaitent pas l’utiliser,
et notamment sur les risques et limites aussi que chacun
vous avez repartagé.
Autant sur l’impact environnemental, je sais que nous ici à
l’université Rennes 2,
on a des étudiants qui refusent d’utiliser l’IA parce qu’ils
savent que ça consomme énormément,
sans forcément connaître des données vraiment brutes, mais
de connaître l’ordre de grandeur, ils en ont conscience.
Il y a toute la partie comment est-ce qu’on protège ces
données aussi,
toute la liste non exhaustive que j’avais montrée déjà un
petit peu dans l’introduction,
la protection des données, la propriété intellectuelle,
comment on garde son esprit éthique,
réflexif aussi par rapport à l’utilisation de…
de l’IA.
J’aime bien rappeler en fait dans mes formations que
j’essaie de montrer à chaque fois le meilleur et le pire de
l’IA
pour que chacun puisse faire ses propres choix, conscients
et responsables.
Et je pense que l’enjeu aujourd’hui il est beaucoup là dans
s’approprier cette technologie,
ça veut pas dire forcément l’adopter mais ça veut dire
gagner en connaissance sur la thématique,
donc pouvoir comprendre en fait c’est quoi tous ces risques
et limites et pouvoir sensibiliser
un maximum autour de nous sur cette thématique là.
Après je sais que dans les usages aujourd’hui on est tous
dans l’expérimentation,
la technologie évolue beaucoup plus vite que les cadres ne
s’imposent donc des chartes IA il n’y en a pas partout,
on est beaucoup dans bidouiller,
essayer d’expérimenter par nous mêmes donc il y a un usage
des fois un petit peu caché,
enfin on culpabilise des fois un petit peu à utiliser l’IA,
je pense que c’est important aujourd’hui de passer par une
phase d’expérimentation pour vraiment comprendre
et être confronté aux limites de l’IA pour après pouvoir
sensibiliser aussi autour de nous.
Et passer par ces phases d’expérimentation,
ça veut dire des fois aussi utiliser différents outils pour
voir s’il y en a un qui est plus pertinent qu’un autre.
C’est d’ailleurs ce qu’on fera aussi un petit peu dans
l’atelier cet après-midi, en utilisant un outil comme
ComparIA,
qui est un outil proposé par le ministère de la Culture qui
permet de comparer deux LLM,
donc LLM c’est Large Language Model, mais on peut aussi
comparer un LLM avec un SLM,
un Small Language Model.
Donc comparer un gros modèle avec un petit.
Donc un modèle qui consomme énormément, un modèle qui
consomme moins,
et puis pouvoir faire le constat que des fois en utilisant
un petit modèle c’est suffisant pour la tâche
qu’on a besoin d’en faire par exemple.
Donc de déculpabiliser un maximum et puis de pouvoir gagner
en compétences ensemble aussi sur cette
thématique pour pouvoir accompagner au mieux tous nos
publics et pouvoir
sensibiliser pour s’approprier de façon plus consciente et
responsable je pense ces technologies,
je pense que c’est l’enjeu aujourd’hui.
Merci Thomas.
Je me tourne maintenant vers la salle.
Alors,
vous avez entendu une présentation des situations desquelles
parlent nos
différents intervenants aujourd’hui.
Vous avez la possibilité de les interroger, de poser les
questions qui vous viennent.
Pour cela, il y a des micros sur les tables qui fonctionnent
quand on appuie sur le bouton,
mais il y a aussi des tables qui sont éloignées des micros.
Et donc, voilà, Mickaël ou Simon pourront passer les micros
dans la salle.
je vous propose de…
De nous dire votre prénom et la question que vous souhaitez
poser.
J’ai une main qui se lève au fond, qui n’a pas de micro.
Mathieu ?
On m’entend bien, c’est bon.
Du coup, moi c’est Mathieu Lafaux, je travaille en tant que
conseiller numérique pour Rennes Métropole.
Donc on organise des ateliers de sensibilisation pour les
agents,
donc de la ville de Rennes, Rennes Métropole.
Et c’est pas forcément une question, mais plus un ressenti
de…
des agents qu’on accompagne lors des ateliers.
C’est vrai que je ne sais pas si c’est une pression,
mais il y a un peu une pression sociale ou des collègues,
des gens qui ne l’utilisent pas, vont se mettre la pression
tout seuls de se dire « il faut que j’utilise,
je vais être en retard, mes collègues le font, donc moi je
dois le faire » .
Il y a un espèce de, je ne sais pas comment dire,
mais c’est un peu le sentiment qu’on a en atelier quand les
gens disent qu’ils ne l’utilisent pas.
C’est « il faut que je le fasse parce que les autres le font
» .
Je ne sais pas quel discours tenir, parce que c’est vrai que
quand du coup ils me disent ça,
on a l’impression d’être le vendeur de Claude, d’être le
vendeur de TiaGPT, de dire
« Voilà ce que ça fait, regardez,
vous allez pouvoir faire votre mail en 5 secondes alors que
ça vous prenait une minute avant. »
C’est vrai que j’ai un peu cette posture-là des fois de me
sentir vendeur du truc alors qu’ils n’en ont pas forcément
besoin,
mais ils sont là parce qu’ils ont cette pression de devoir
l’utiliser.
Ce n’est pas forcément une question,
mais plus un ressenti de mes ateliers d’IA.
que je peux animer.
Merci Mathieu.
Je ne sais pas si d’autres personnes ressentent ça
lorsqu’ils font des ateliers ou des
retours d’agents ou de citoyens.
C’est ça un peu.
Vu que tout le monde le fait, il faut que je le fasse, sinon
je vais être en retard.
C’est une norme partagée qui ne semble pas très nouvelle.
Je vais laisser Emy réagir.
Je vais bien réagir là-dessus, parce qu’actuellement on a
mené des expérimentations, on est en phase de bilan.
Une des premières approches qu’on a eues, c’était de
fonctionner par communauté.
Au début, on avait identifié une communauté assistante
administrative.
On avait une communauté d’environ 20 personnes qu’on a fait
tester sur Ragaren,
mais qui pouvaient aussi tester sur du Copilot, etc.,
comme elles le souhaitaient.
On a fait plusieurs ateliers pour voir un peu quels étaient
leurs usages, etc.
Et là, en atelier de bilan, justement, il y en a pas mal qui
nous disaient soit j’ai pas le temps, en fait,
j’ai pas le temps d’utiliser l’IA.
Donc, j’ai ma routine professionnelle qui est très bien
intégrée.
Et en fait,
je suis obligée de me caler un créneau d’une heure dans mon
agenda pour me dire que je vais aller tester l’outil.
Donc, on voit bien que c’est quand même pas du tout
l’intérêt est quand même hyper,
hyper limité.
Et pareil, des fois, cette injonction disant bon, du coup,
mon compte rendu,
il faut que je le fasse avec de l’IA.
Alors que…
Alors que non, il n’y a pas d’obligation.
Et effectivement, c’est toujours un peu ce message un peu
contradictoire.
Et là, quand on lui disait, non, non, il n’y a pas
d’obligation à faire votre compte rendu avec un outil d’IA.
Si vous souhaitez le faire à la main, comme d’habitude, et
que ça fonctionne bien, en fait, il n’y a pas de souci.
Et c’est vrai que vu qu’on informe, on sensibilise,
on fait pas mal de campagnes de commentaires et tout sur le
sujet, plus toute l’actualité.
externe et il y a une pression effectivement à l’utiliser
alors que nous des fois on est là,
on veut sensibiliser pour leur donner les clés en fait
d’avoir cet esprit critique et ce regard mais pas du tout
l’imposer en fait complètement là dessus et l’exemple avec
les assistantes était vraiment
hyper intéressant parce que nous en fait je pense qu’on
s’était projeté sur
le métier des assistantes en se disant ça va leur faire
gagner du temps, ça va être superporel etc.
Le bilan est est quand même vachement plus mitigée où elle
dit non.
pas tant en fait, et voilà,
c’est plus compliqué pour nous de l’intégrer en fait dans
nos missions.
Je me permets du coup, je rebondis sur ce que vous dites,
ça rejoint une réflexion que je me suis faite en vous
écoutant,
et aussi tout à l’heure pendant le théâtre forum,
il y a eu un peu en creux cette question générationnelle,
sous-entendu ça serait plus compliqué pour des personnes
plus âgées.
Moi j’ai le sentiment qu’en fait cette aisance et cet
intérêt
et l’acceptation de cette nouvelle technologie elle est
quand même corrélée
aux compétences numériques des personnes avant que
cette technologie arrive et
il y a un grand intérêt moi je trouve des personnes les plus
âgées
moi je suis chargée de mission pour les centres sociaux
Rennes Et ce que j’observe,
c’est que quand même un très grand nombre d’habitants, et
parmi les plus âgés,
sont équipés.
Et c’est une question qui revient hyper souvent.
Ils ont sur leur smartphone parfois deux, trois IA.
Et notre travail, c’est de déconstruire avec eux le besoin,
en leur disant « Mais de quoi avez-vous vraiment besoin ? »
« Peut-être que pour la recette de cuisine,
ce n’est pas utile d’aller demander à Tchad GPT. »
« Si vous devez en avoir une, nous on préconise, prenez
plutôt Mistral. »
il y a eu quand même une forte appétence,
y compris des publics les plus anciens.
Et c’est vrai qu’il y a une forme de pression sociale qui
est exprimée parce qu’ils ont l’impression d’avoir
déjà été des victimes de la première fracture numérique et
qu’ils n’ont pas
envie d’être à la ramasse.
Pour moi, la question générationnelle, cette entrée-là,
elle nous perd un peu autour de cette question.
Oui,
il vient de me popper dans la tête le souvenir d’une étude
qui date déjà à l’époque des pratiques
informationnelles,
enfin en tout cas une étude sur les pratiques
informationnelles qui montrait que les personnes âgées
étaient les
personnes qui diffusaient le plus de fake news sur les
réseaux sociaux.
Donc ça rejoint un petit peu cette idée là qu’on se
représentait personnes âgées comme déconnectées et loin
de pratiques numériques, mais non, elles en ont.
Est-ce que quelqu’un veut réagir à cette remarque ?
Moi, je ne vois pas de fracture générationnelle.
Et comme je le disais tout à l’heure, là justement,
on valorise des générations plus
vieilles.
Vu que ça fait déjà des années qu’elles sont sur ces
métiers-là,
elles ont un esprit critique assez développé sur une
expertise métier
importante.
Mais on voit aussi l’intérêt qu’elles expriment.
On a un labo où les agents peuvent venir partager leurs
usages de l’IA perso
et pro.
Et il y en a pas mal qui viennent aussi parce qu’ils voient
que leurs enfants l’utilisent,
et qu’ils l’utilisent pour le cours, etc.
Et qu’ils veulent en fait rester aussi à la page du sujet,
et qu’ils viennent dans nos ateliers des fois juste pour
être un peu informés sur le sujet,
pas forcément pour l’intégrer dans le site pro, pour être
bien informés.
Je voulais juste rebondir sur la partie recherche web.
C’est vraiment un gros sujet, qui rentre beaucoup dans les
usages qu’on observe.
On voit qu’il y a quand même…
petite bascule qui est en train de se faire avec un réflexe
de personnes qui vont
utiliser des IA pour faire des recherches web classiques.
On disait tout à l’heure un numéro de téléphone, mais nous,
en fait,
on a ce souci-là avec tous nos établissements.
Si on le recherche dans Google, classiquement, en fait, on
va assez vite retrouver la bonne adresse,
le numéro de téléphone, etc.
Si on le fait dans une IA, ce n’est pas garanti, et surtout,
en plus,
pour des infos assez locales.
Généralement, ça se plante pas mal.
Nous, on a cet exemple un peu frappant d’un agent qui était
venu au labo,
qui avait cherché dans l’IA quel était le meilleur jour pour
aller à la piscine
de Brechini, pour avoir le moins de monde à la piscine.
Vrai sujet, les piscines,
c’est le sujet numéro un chez les agents,
en tout cas en consultation sur le site web.
Il fait sa recherche et donc il y a…
Très surveilleux.
Oui, c’est le mardi après-midi.
Et donc il lui a demandé, mais lui savait qu’on n’avait pas
cette info,
on n’a pas cette info de fréquentation par horaire des
bassins.
Il lui a demandé, cite-moi ta source.
Et la source,
c’était un blog obscur d’un touriste qui était venu passer
une semaine à Rennes,
qui allait à la piscine de Brequigny un mardi après-midi, et
qui avait fait un petit post sur son blog en disant,
ouais c’était super, je suis allé le mardi après-midi à la
piscine de Brequigny, il n’y avait personne.
Et donc il en a fait une vérité générale, et c’est ce dont
on parlait tout à l’heure,
la vérification des sources est d’autant plus importante.
Et sur la recherche web, nous on essaye de passer le message
maximum.
Ça fait mal toujours de dire Google, allez sur Google,
par rapport au discours qu’on peut tenir par ailleurs, mais
effectivement sur les recherches web,
il n’y a pas besoin pour une recette de cuisine,
pour aller rechercher des infos de contact sur un
établissement,
restons sur du Google pour avoir une information plus
fiable.
et aussi moins impactantes au niveau environnemental.
Donc, interroger en tout cas les pratiques de l’IA pour
savoir si c’est utile ou pas,
ou si ça nous aide ou pas.
C’est vrai que cette question est valable pour toutes les
générations,
et quels que soient les publics.
On a une question au fond de la salle.
Oui, bonjour, je m’appelle Catherine,
et je viens en tant que médiatrice des ateliers
numériques dans une commune du nord de Rennes.
Dans cette commune, on sensibilise aux outils numériques,
essentiellement un public de personnes retraitées.
Toutes ont cet appétit,
mais ont eu beaucoup de mal à se mettre aux outils tels que
les moteurs de
recherche, les recherches
Google, parce qu’on simplifie en utilisant l’outil le plus
général, le mieux connu.
Mais en fait, quand on leur montre dans nos ateliers, c’est
un peu la première année.
Moi, j’ai commencé l’année dernière, mais j’ai commencé là,
vraiment.
leur montrer les potentialités de l’IA dans la vie courante,
les plus réfractaires qui ont un jugement très méfiant
vis-à-vis de ce qu’elles peuvent
faire en fake news,
en autre bidouillage de la vérité,
quand on les met devant des questions pratiques concernant
la santé,
concernant les notaires, les papiers de la vie courante,
elles sont très vite capables de faire des prontes.
parce qu’elles s’expriment bien en général par leur culture
classique de l’école primaire,
elles s’expriment bien, elles font la bonne question, elles
ont la bonne réponse.
Et donc l’IA se révèle être un outil pour moi beaucoup plus
simple pour des questions un peu
fouillées,
des questions liées à la santé ou à des situations un
peu légales, des problématiques familiales, personnelles.
L’IA est perçue très vite si quelqu’un ose l’utiliser.
Ils chargent leurs applis sur leur téléphone.
Ils l’utilisent, ils reviennent en disant « mais c’est fou,
j’ai posé plein de questions que je n’osais pas poser dans
mon environnement parce que je les pose. »
à quelqu’un qui est dans le secret de ma question, y compris
au niveau santé.
Alors après, ça fait des clients redoutables pour les
médecins, évidemment.
Merci pour ce témoignage.
Je n’ai pas entendu la fin.
Ça fait des clients redoutables pour les médecins.
Oui, j’imagine.
Moi j’ai besoin que tu poses la question dans un micro,
sinon elle ne sera pas captée par la vidéo.
Oui j’avais une simple…
Bonjour, moi je m’appelle Romain, je suis animateur
numérique au département,
numérique et développement social, et j’avais une question
pour
Jérôme ou Pierre.
Est-ce qu’il y a une enquête de fait auprès de l’éducation
nationale et des enseignants qui
utilisent l’IA ?
Puisque en fait…
Comment on a les étudiants mais les enseignants ?
Moi je voulais juste savoir s’il y en avait une.
J’ai pas connaissance de ce
type d’enquête mais peut-être Jérôme.
Alors moi non plus sur l’IA spécifiquement mais il se trouve
qu’on a été dans des
établissements du secondaire il y a deux ans dans le cadre
d’un projet sur les
pratiques numériques des enseignants.
Et on les avait interrogés, là aussi, pas spécifiquement sur
l’IA,
mais c’était venu dans les entretiens, dans ces entretiens
qualitatifs,
c’était parfois venu dans la discussion.
Et là aussi, c’est très varié, en fait.
On a certains enseignants qui sont plutôt dans une posture
de rejet,
et d’autres qui l’adoptent, même pour des pratiques
personnelles,
ou même pour concevoir des QCM, par exemple.
Je me souviens d’une enseignante qui évoquait ça,
le fait qu’elle utilisait l’IA pour…
pour ses propres pratiques professionnelles d’enseignante.
Donc là aussi on va trouver certainement des pratiques
hétérogènes
entre les enseignants, comme c’est le cas entre les jeunes
ou moins jeunes.
Donc voilà, cela dit,
il faut quand même garder en tête que la plupart des
enquêtes qui portent sur les pratiques numériques des
enseignants tentent quand même à montrer qu’une partie des
enseignants non négligeables
Intègre moyennement, on va dire, les technologies dans les
pratiques pédagogiques.
Voilà.
Bien, il reste du travail à faire.
Oui, vas-y.
Bonjour, Romain,
je suis médiateur numérique au sein de l’association Infini
à Brest.
Et donc, j’avais une petite question, peut-être un petit peu
plus politique, un peu plus débat.
On a…
beaucoup parlé d’avoir un regard critique sur l’IA,
on a évoqué la souveraineté également et pouvoir se détacher
un peu des géants américains.
Mais à travers toutes nos discussions aujourd’hui,
est-ce qu’on jouerait pas un petit peu le jeu de Microsoft
justement ?
Parce que c’est le premier mécène de la semaine de l’IA pour
tous,
notamment pour aujourd’hui.
et donc je voulais savoir si…
discuter l’IA, critiquer l’IA et y réfléchir tout ça,
est-ce que ça aiderait pas Microsoft derrière ?
Merci pour cette question Romain.
Alors on s’inscrit dans la semaine de l’IA pour tous mais on
ne co-organise pas la semaine de l’IA pour tous.
Alors moi en tout cas je ne me sens pas comptable du
partenariat avec Microsoft.
Toujours est-il que…
On a parlé de différents outils ce matin, de différents
géants américains,
effectivement.
Et c’est une vraie question de souveraineté dont on a
discuté plusieurs fois.
Je ne sais pas si vous voulez réagir à ce sujet-là.
En fait, l’idée,
c’est quand même d’avoir les clés pour justement être en
capacité d’analyser ce qu’on disait,
ce que c’est une IA, en fait.
Parce que derrière tout le discours, effectivement, de cette
IA baguette magique ou de cette nouvelle technologie, alors
que l’IA, ça date.
C’est important d’être informé sur le sujet pour être en
capacité de
pouvoir juger si c’est opportun ou non, qui est derrière
justement,
pour savoir que majoritairement c’est des Américains qui
sont derrière, etc.
Donc pour moi,
ce type de format d’événement ou d’atelier de
sensibilisation ou autre,
c’est important justement pour offrir les clés aux personnes
pour qu’elles puissent être
juges et avoir vraiment toutes les informations en main.
Et merci pour cette information,
quel plaisir de savoir que Microsoft soutient le fait qu’on
organise des ateliers où on va sortir du cloud et
on va sortir de leur dépendance.
Je suis d’autant plus content, comme je l’ai dit tout à
l’heure, les technologies vont évoluer beaucoup plus vite
que les cadres qui s’imposent.
L’occasion de se raccrocher à la semaine de l’IA pour tous,
c’est profiter de leur cartographie aussi, faire connaître
nos ateliers,
faire connaître cette sensibilité qu’on a sur le sujet, et
puis essayer de diffuser un maximum.
toute cette sensibilisation justement pour qu’on puisse
s’outiller et réagir face à tout ça et pas se laisser
embarquer
par les géants américains.
J’ai des questions au fond de la salle.
Est-ce que vous avez des micros ?
Le micro arrive.
Merci beaucoup pour cette…
parenthèse sur les justement les générations moi j’ai vu
l’arrivée
d’informatique à peu près 40 ans je voulais savoir justement
ce que vous pensez au niveau
de l’emploi sur l’impact de l’IA et je pense que justement
ça
rejoint peut-être un petit peu le
questionnement de monsieur sur l’impact justement de
d’appliquer
ou pas l’IA dans son métier
Quel impact l’IA peut jouer sur l’emploi ?
Je ne sais pas qui veut y répondre.
Raphaël ?
Je ne sais pas si je vais y répondre.
Moi, je n’ai pas de chiffre, je ne suis pas chercheur et je
ne vais pas y répondre vraiment à la question.
Mais par rapport à ce qui a été dit sur l’injonction à
utiliser l’IA
aux GAFAM de manière générale,
c’est qu’il y a toute une…
Une arlésienne, on va dire que là, l’intelligence
artificielle,
c’est le messie de la croissance économique.
Et du coup, là, il y a tout intérêt à l’utiliser,
à se positionner dessus pour continuer à croître.
Mais est-ce que c’est souhaitable ?
Selon moi, non, je ne pense pas.
Par rapport aux différentes limites planétaires et à
l’état…
à l’état de l’humanité aujourd’hui avec les guerres etc etc
l’extraction des ressources
donc donc c’est un choix politique c’est voilà c’est on
parlait de
l’IA act c’est au niveau niveau national au niveau européen
et peut-être au niveau mondial je
ne sais pas mais qui va falloir choisir en tant que citoyen
si on veut être remplacé
par des robots si voilà dans une une logique capitaliste.
On l’a même vu dans…
Dans la médiation, dans le théâtre forum, on va gagner en
productivité.
Est-ce que c’est ça qu’on veut aujourd’hui ?
Non, ça c’est sûr, je ne pense pas.
Moi je le vois plus quand j’en parle en formation, et je
pense qu’on le voit plus comme un assistant,
comme on a pu voir dans la scénette.
Et pour l’essayer, c’est loin d’être merveilleux.
En fait, c’est de plus en plus intelligent.
Et on s’approche, comme tu disais, peut-être de l’IA
générale,
et en fait c’est ce que croient certains, ou espèrent,
mais c’est de plus en plus performant, donc c’est bluffant,
pour moi, pour ma vie quotidienne, que ce soit de médical,
pour les démarches, pour tout,
et donc moi je trouve ça fascinant, et très intéressant,
comme Becky, mais de remplacer l’humain, non…
Je ne sais pas comment conclure.
Oui, mais juste, effectivement, tu disais, c’est politique,
et c’est le choix aussi qui est fait dans les entreprises ou
les collectivités.
Nous, par exemple, le positionnement, c’est de jamais
l’utiliser comme remplacement des agents.
C’est le positionnement qui a été pris et qui a été clair
dès le début.
Toujours l’utiliser en assistance pour être en maîtrise.
Parce qu’effectivement, même si sur le papier, c’est
capable,
notamment avec les IA agentiques qu’on voit récemment,
de remplacer carrément des tâches complètes,
On voit aussi surtout que quand on n’est plus en maîtrise et
en contrôle du sujet,
ça part quand même vraiment dans tous les sens et on est
loin justement de l’effet
waouh, il y a des bases de données qui se sont retrouvées
complètement supprimées,
il y a des prises de décision qui sont faites par l’IA qui
sont complètement à côté.
Donc voilà,
tout le sujet est de rester vraiment en maîtrise du sujet
pour ne pas se laisser
dépasser.
Le sujet de remplacer complètement des personnes, pour
l’instant, pour moi,
il n’est vraiment que théorique.
Tu parles des IA agentiques, il y a peut-être besoin de le
définir, ce n’est pas juste un chatbot, c’est ça ?
Oui, en fait, les IA classiques,
ça fonctionne sous forme d’une conversation,
donc on va dialoguer et prompter avec l’IA,
et donc l’IA agentique,
c’est comme un mini-agent qui va exécuter des tâches à notre
place.
place donc qui va pouvoir prendre des rendez-vous à notre
place,
rédiger des comptes-rendus et l’envoyer à des personnes à
notre place.
En fait voilà il va exécuter plusieurs tâches comme ça et
effectivement là c’est assez impressionnant
dans les démos qu’on peut avoir mais aussi dans les failles
que ça représente puisque en fait
si on installe une IA agentique sur
son ordinateur on va lui donner accès à notre messagerie à
nos dossiers,
pourquoi pas à notre garde bancaire,
à des comptes sur notre navigateur web.
Et donc là, en termes de failles et de confidentialité,
c’est très problématique.
Je voudrais en dire sur la partie…
Non, c’est moi, je veux…
Non mais vas-y, je te…
Juste sur la partie gain de temps et productivité, c’est
souvent ce qui est promis en fait,
souvent dans ces dispositifs qui soutiennent l’IA.
Il y a même un dispositif national qui s’appelle Oser l’IA
pour aider les entreprises à adopter l’IA, etc.
Sur la partie gain de temps et productivité,
j’ai vu une enquête passer il n’y a pas très longtemps
encore où en fait quand on gagne du temps en utilisant l’IA,
ça fait juste qu’on augmente notre charge de travail parce
qu’on a plus de temps et du coup on accepte encore plus de
missions.
Donc du coup, on rend acceptable d’accepter encore plus de
missions qu’avant, juste parce que l’IA a répondu plus vite,
et des fois, moins bien que ce qu’on aurait pu répondre.
Donc il y a toute cette partie-là, et j’aime bien faire le
parallèle, et j’espère que ça le sera,
avec les caisses automatiques qu’on retrouve dans les
supermarchés.
On a mis les caisses automatiques en place, ça a enlevé
énormément de caissières, on criait au fait qu’il n’y aurait
plus du tout de caissières,
et puis aujourd’hui on voit dans les supermarchés où bien
souvent les caisses automatiques sont fermées, et on remet
des caissières à la place, parce qu’en fait,
en automatisant tout, on enlève le contrôle humain.
Du coup, il y a eu beaucoup plus de vols dans les magasins,
donc maintenant on remet des caissières.
Et là, plus on utilise l’IA dans certaines tâches du
travail,
plus on enlève le contrôle humain, et arrivé au résultat
final,
on n’est plus en mesure de pouvoir remodifier juste un petit
élément de ce qu’on a produit,
parce que c’est l’IA qui a eu tout le processus, et on ne
comprend même plus c’était quoi le processus que l’IA a
effectué.
Donc revaloriser la place de l’humain, refaire par soi-même
et comprendre toutes les étapes,
ça permet de valider que c’est bien fait comme on l’entend.
Je pense que l’humain a encore plus sa place aujourd’hui et
j’espère que ça réduira pas le nombre
d’emplois au contraire.
Je rebondis sur les caisses automatiques puisqu’il y a un
article du Monde qui a été publié il n’y a pas très
longtemps justement sur la
question de l’impact de l’IA sur les métiers et qui montrait
que dans les années
90 avec le développement d’internet et de l’automatisation,
effectivement ça touchait plutôt des métiers peu qualifiés
alors qu’aujourd’hui, évidemment on est dans la…
prédiction, mais en tout cas que ça touche aussi des liages
génératifs,
peut avoir des effets directs sur des métiers plus
qualifiés,
notamment ceux de l’ingénierie qui peuvent être touchés.
Après, on ne peut pas non plus nier que ça n’a pas d’effet
sur certains métiers.
Les métiers de la traduction ont pris un peu cher ces
derniers temps.
Je veux bien partager une petite anecdote, mais vous l’avez
peut-être noté comme moi,
un petit article ou interview d’Arthur Mensch, je crois,
un des fondateurs de Mistral la semaine dernière, qui disait
que c’était super,
il avait intégré dans son entreprise une IA agentique et que
du coup
ses développeurs ne codaient plus.
Et il était hyper désolé de dire non, mais en fait…
Le problème qu’on a aujourd’hui,
c’est les goulots d’étranglement organisationnel.
Et donc, du coup, il parlait des humains.
Ces agents vont hyper vite.
Et du coup, il n’a pas pu se séparer
de tout l’humain.
Les personnes qui coordonnent les projets, celles qui
communiquent autour.
Donc, on a quand même des signaux, quelques raisons de
s’inquiéter.
Il faut, je pense, rester…
mobilisés et critiques autour de ce sujet.
Je voulais juste rajouter quelque chose.
Dans l’enquête qu’on a conduite auprès des étudiants,
donc des étudiants qui sont des futures personnes sur le
marché du travail,
ressort une bonne partie des étudiants qui ont aussi
questionné notre
questionnaire,
qui n’ont pas posé assez de questions sur le devenir des
futurs métiers.
C’est bon.
pourquoi ils sont formés finalement.
Et ils mettent sur la table ce que je disais tout à l’heure
et
ce qui est revenu aussi,
le flou juridique et le flou au niveau de leur formation.
Est-ce que véritablement leur formation est adaptée au
métier potentiel qu’ils pourraient avoir
demain ?
Et ils évoquent justement que les enseignants et
l’université, l’institution, ne leur apportent pas.
pas forcément de réponse là-dessus.
Et c’est source d’angoisse chez les étudiants,
les futurs travailleurs et travailleuses.
Merci Pierre.
C’est vrai qu’on est tous confrontés à cette incertitude de
ce que seront les métiers de demain et ce que les
transformations actuelles de nos sociétés vont donner.
Je propose qu’on revienne vraiment sur le sujet de…
de la médiation numérique,
en tout cas des différents métiers d’accompagnement de
public autour de ces questions et de
venir à ce qui nous intéresse vraiment.
Alors je sais qu’il y a plein d’expériences qui vont être
vécues cet après-midi pendant les ateliers,
mais peut-être avez-vous des questions qui concernent les
démarches,
les questions qui se posent à nous quand on accompagne les
publics sur les questions des pratiques d’intelligence
artificielle ?
Je vois une main levée au fond.
Merci pour cette table ronde.
J’ai une petite question.
Ah oui, je suis Tony Van Pouck, je travaille à l’Edulab
Rennes 2 et je suis le collègue de Thomas.
Donc ma question va se porter plutôt sur des exemples.
Qu’est-ce qu’on peut faire peut-être ?
Alors avec Thomas, on travaille aussi pas mal sur les sujets
d’IA,
mais notamment local.
Il y a un atelier, comme il disait, demain sur le sujet.
Au-delà de cet exemple-là, est-ce que dans la médiation
numérique,
est-ce qu’il y a des usages type des chatbots ?
Est-ce qu’il y a des usages d’automatisation qui sont
intéressants pour la
médiation numérique et quelles sont aussi ses limites ?
Je ne sais pas si ça a été beaucoup investi par vous.
Merci pour cette question.
Est-ce que les professionnels de la médiation numérique
intégreraient des
chatbots pour répondre à leur public ?
C’est ça la question ?
Je n’en ai pas entendu parler de ce type d’expérience.
Raphaël, oui ?
Ça fait partie de ce que je présente cet après-midi, mais
moi je l’ai forcément,
en tant qu’addict à l’IA,
je l’ai intégré dans mon processus de travail et du coup
dans la
création de supports d’animation.
Sur la création de visuel, sur la création de quiz,
même réflexion.
Là, j’ai une idée d’atelier, j’ai un axe,
je vais m’aider de l’intelligence artificielle pour
développer mon projet.
Et donc, je dirais oui,
c’est comment ?
Tenir l’atelier ?
Oui, c’est ça, je fais de la pub pour que vous veniez à mon
atelier.
Et oui, on peut utiliser l’IA aussi pour développer,
pour faire du web, des applications et tout ça,
ou de la vidéo, tout ce qu’on a évoqué depuis le début.
Donc c’est potentiellement plein d’outils qui
peuvent être utilisés pour de la médiation numérique.
Voilà, Thomas, tu utilisais une illustration générée par
Notebook LM.
Voilà, moi, pour préparer mon intervention cet après-midi,
j’étais un peu short.
Eh bien, oui, j’ai utilisé, pareil,
une illustration de Notebook pour schématiser, en fait,
une approche, une démarche ou un concept.
Je ne sais pas si j’ai répondu à la question, mais pour
automatiser, peut-être pas.
Peut-être dans le sens agentique, comme tu disais, Emy.
Peut-être au niveau des stats,
pour reprendre sur si on a un tableur Excel,
si on a des choses répétitives.
On se dit que l’IA va nous faire gagner du temps sur ce qui
est répétitif.
Mais sur le vrai côté créatif, réflexif, humain,
on va dire, c’est moins.
Là, tu témoignes de différentes…
cas d’utilisation de l’IA pour nous professionnels de la
médiation numérique qui peuvent nous aider dans nos
ateliers et c’est intéressant en tout cas moi je rejoins
vraiment les expériences
dont tu témoignes je crois que la question de Tony c’était
aussi
est-ce que un chatbot l’IA pourrait nous remplacer auquel
nos usagers pourraient interroger
par exemple quand c’est le week-end ou le soir voilà je ne
sais pas je crois que c’est ça
mais je ne sais pas si ça Merci.
Oui, c’est intéressant, il faut qu’on y travaille.
Et tendre la médiation numérique.
Et tendre et pas remplacer.
Ben oui, moi j’aime bien montrer,
alors je ne l’ai pas en fait démo encore au public,
et moi-même dans mon utilisation personnelle, je ne l’ai pas
encore beaucoup utilisé,
alors je vais encore parler de Google, c’est ça qui est
terrible,
mais voilà, il y a un mode live où on peut…
record on peut enregistrer le lien voit ce que ce qu’on fait
sur notre écran et donc moi je suis
nul en excel en tableur et donc je vais avoir mon petit
professeur qui va me guider pas à pas pour faire des croisés
dynamique
et donc oui ça
potentiellement ça va ça va se déployer ça peut se déployer
alors thomas
veut réagir et ensuite émis voyez encore quelques projets en
face d’expérimentation et merci ça me fait une
belle perche pour partager aussi certains des projets Du
LabFab,
on avait parlé à un moment de faire un chatbot où les
personnes pourraient indiquer quel projet ils ont envie de
réaliser et l’IA vient indiquer quel FabLab est le plus
adapté parce qu’il y a les bonnes machines,
parce qu’il est proche de chez la personne, parce que les
horaires conviennent à la disponibilité de la personne.
Et en fait, ça nous demande beaucoup de temps de répondre à
des mails des fois pour pouvoir indiquer tout ça.
On avait réfléchi à pouvoir développer ce genre de chatbot.
Après, se pose la question de où est-ce qu’on l’héberge ?
Est-ce qu’on fait aller les gens sur ChatGPT par exemple ?
ou quel service on va utiliser pour tester ça.
Et puis dans les expérimentations, l’envie de mettre une IA
en local sur une carte électronique,
c’est aussi pourquoi pas de proposer aux utilisateurs de
pouvoir documenter leur projet.
En fait, qui parle par exemple à une IA pendant 2-3 minutes
et l’IA rédige la documentation.
Parce qu’en FabLab, on a le constat que beaucoup de projets
sont réalisés mais les gens souvent partent sans faire la
documentation.
Puis il y a un autre projet aussi au FabLab de Bruxelles où
c’était aider les gens à ranger
les outils dans le FabLab.
donc en fait c’est une IA qui…
va proposer qu’on prenne en photo l’outil parce qu’on ne
connaît pas le nom,
et l’IA va nous guider après dans le Fab Lab pour savoir où
est-ce qu’on va aller le ranger ou le trouver.
En tout cas, c’est des expérimentations, je pense que
beaucoup de personnes expérimentent et se rendent compte des
limites,
et ça permet de sensibiliser le public aussi.
Donc ce n’est pas forcément une solution pérenne qui va
venir nous remplacer, mais en tout cas,
c’est un bon moyen d’expérimenter, de s’informer, puis de
sensibiliser par la suite.
Nous ce qu’on expérimente c’est toujours ce principe de RAG
sur les bases documentaires.
Là on voit que la source d’info est intéressante pour nos
agents.
On a notre intranet,
sur notre intranet il y a plein de rubriques sur les
ressources humaines et sur l’assistance
informatique.
Et donc on crée un RAG, assistance informatique,
qui reprend tous les documents qui sont disponibles sur
l’intranet mais qui ne sont pas toujours…
très accessible ou trop long, etc.
Donc on les met là-dedans.
Derrière, on met un modèle de langage tout petit, 8B,
qui consomme rien, qui est hébergé localement.
Et donc les agents vont pouvoir poser leurs questions de
base
d’assistance informatique de premier niveau, donc installer
une imprimante,
Teams, c’est quoi, etc.
Des trucs de premier niveau.
Ce qui, non seulement,
permet d’avoir pour eux des réponses rapides à leurs besoins
d’assistance, et en plus,
qui débloque du temps pour les services support
sur des demandes plus personnalisées, qui demandent de
prendre plus de temps.
Et en fait, ce constat, nous, on le fait pour la partie
assistance informatique,
mais aussi pour les marchés publics ou les finances, etc.
Pareil, pour les demandes de premier niveau, ça permet
qu’elles soient avalées, comme tu disais, comme ça,
toutes ces infos.
Enfin, ces réponses qu’on fait quasi quotidiennement,
on dit la même chose et d’avoir plus de temps pour passer du
temps et personnaliser un peu
les réponses.
Et donc, ce sont des outils qui seront accessibles pour les
agents de Rennes Métropole.
C’est ça l’idée avec ce souci de garder la souveraineté sur
l’outil.
C’est pas des IA connectés Internet.
C’est ça l’idée.
C’est ça.
En fait, là,
on n’a pas besoin pour ce genre d’outil d’aller
effectivement scraper sur Internet pour ça.
Il va aller vraiment chercher que dans la base documentaire
que l’on a définie,
ce qui nous permet d’avoir des petits modèles pas
énergivores, pas de fuite de données, ce qu’on est sur,
des solutions beaucoup plus simples.
Et en plus,
le service ressources de la connaissance gère aussi sa base
de
connaissances.
Ça permet aussi de ressensibiliser sur la mise à jour de ces
infos, etc.,
la documentation.
Merci.
Alors il nous reste le temps encore pour deux questions.
Oui ?
Bonjour, Karen Bera, ATER au département de sciences et
l’éducation.
Je voudrais savoir si vous avez des informations ou un avis
concernant l’utilisation d’un point de vue éthique et
social,
notamment parce que,
car il me semble que l’IA se nourrit
à partir d’une externalisation.
du travail et où les conditions sont très
précaires.
Donc, est-ce que vous disposez de ces informations ?
C’est ça ma question.
Oui, alors est-ce que Thomas peut rebondir sur cette
question ?
Les IA, grand public et géants américains reposent sur du
travail très précaire,
c’est ça ?
Est-ce qu’on peut
bénéficier de services qui aient une approche éthique ?
Alors effectivement il y a ces problématiques là, on a
entendu parler
à travers un reportage de Arte assez récent sur l’entreprise
Sama au
Madagascar où ils font travailler les petites mains de l’IA,
c’est le nom du reportage d’ailleurs,
où ils viennent annoter des données, des images pour pouvoir
entraîner les IA.
Il y a des IA qui sont plus éthiques normalement,
c’est le cas de Euro et l’ELM qui est sorti il n’y a pas
très longtemps, notamment aussi sur l’impact
environnemental.
En fait ils utilisent normalement des énergies renouvelables
et puis réinvestissent dans les énergies renouvelables.
Après est-ce que ces modèles aujourd’hui sont assez
efficaces pour qu’on les adopte
directement ?
C’est ça un peu la limite.
Des fois on essaye ces outils qui sont un peu plus
souverains ou un peu plus éthiquement parlant corrects
et on se rend compte qu’il y a une certaine limite et du
coup on retourne sur l’outil principal de chez
ChatGPT ou ce genre de choses.
Il y a une IA notamment qui a été développée par l’Inagora.
Et puis OpenLLM, c’est une IA française, elle s’appelle
Lucie, je lui ai encore donné un prénom.
Et Lucie, cette IA était 100% open source,
c’est-à-dire qu’il partage le code qui a servi à entraîner
l’IA,
enfin qui a servi à fabriquer l’IA, et il partage aussi les
données d’entraînement.
Donc on peut aller vérifier dans les données d’entraînement
qu’il n’y a pas de biais, notamment de biais de genre, de
biais racistes, etc.
Et tout le monde attendait cette IA Lucie, et je crois
qu’elle est sortie en janvier 2025, si je ne dis pas de
bêtises.
Et quand elle est sortie, les utilisateurs l’ont essayé et
puis ça s’est pris une claque sur les réseaux.
Tout le monde a dit mais c’est trop nul, ça répond mal, etc.
Bah oui mais effectivement puisque ChatGPT c’est novembre
2022, donc il y a eu plein de retours utilisateurs,
donc ils ont le temps d’améliorer le modèle.
Et du coup aujourd’hui où maintenant on a plein de modèles
qui sont pertinents,
quand il y a des alternatives comme ça qui sortent,
ça nécessite qu’on les soutienne plutôt qu’on les critique
directement.
Et on n’est peut-être pas assez informé sur ces
alternatives-là qui existent encore aujourd’hui.
Bien, notre table ronde arrive à sa fin.
On a le temps pour une dernière question.
Est-ce qu’il nous reste une question ?
Oui, Nils ?
Est-ce que, alors pour le coup, vous parlez de disparité,
de savoir prompter, bien prompter.
Est-ce que savoir prompter, c’est améliorer l’IA, mais de
façon éthique,
j’entends, si on lui pose des questions, mieux prompter ?
Et aussi on lui pose des questions, prompter avec plus de
sécurité,
je ne donne pas de données personnelles, tout ça, est-ce
qu’on améliore l’éthique de l’IA et son fonctionnement ?
Le fait de prompter sans donner trop de données, ou de
prompter de meilleure qualité,
est-ce qu’on améliore l’IA en elle-même, de façon éthique
j’entends ?
Je dirais non.
Je dirais que ça évite de se faire voler ces informations.
soit personnelles, soit institutionnelles.
C’est surtout ça.
Après, justement, ça rebondit sur la question précédente.
En fait, ce qui améliore les IA,
de ce que je comprends de ces technologies, c’est
l’entraînement.
C’est tout le travail qui est invisibilisé par les géants de
la tech,
les fermes à clics à Madagascar, au Kenya.
Donc oui, je vous invite à regarder ces reportages.
tout ce travail journalistique qui met en lumière ça.
Parce qu’en fait, oui, l’IA, c’est l’extraction des
ressources, c’est tout ça.
Et c’est aussi l’exploitation humaine.
Donc, sur l’amélioration,
c’est du rouge ouvert.
Les gens vont être confrontés à du contenu généré et dire
est-ce que c’est
positif ou négatif.
C’est avec une immense quantité de retours des
utilisateurs ou de ces entreprises-là qui sont utilisées
pour l’entraînement que
les modèles, on n’a pas défini ce qu’étaient les modèles,
mais le moteur qui est derrière l’IA
va être amélioré.
Et c’est vrai que là,
sur Mistral ou sur un peu tous les outils…
quel est l’entraînement derrière,
quel est le sous-traitant quelque part dans le monde qui est
utilisé.
On parle de boîte noire algorithmique et qu’on ne sait pas
trop comment ça marche,
mais pareil au niveau de la sous-traitance,
c’est aussi invisibilisé.
On parle de système où les spécialistes en IA, les
développeurs en IA, parlent de cette boîte noire,
parce que quand on soulève le capot de l’intelligence
artificielle, aujourd’hui on voit juste un amas de…
Le chiffre et le nombre qui se baladent, on n’arrive pas à
savoir comment est-ce que l’IA s’est construite.
On connaît le code, on connaît la base de données
d’entraînement, mais on n’arrive pas à comprendre vraiment
ce qui a été
« sauvegardé » dans l’intelligence artificielle.
Donc on parle toujours d’une technologie où ça reste assez
flou de savoir comment est-ce qu’elle arrive à s’améliorer
ou qu’est-ce qu’elle est
allée chercher dans les données qu’on lui a données pour
pouvoir
« s’améliorer » . Ça met un peu d’esprit flou sur la
technologie dont on est en train de parler depuis tout à
l’heure.
Mais non, c’est quelque chose à prendre en compte justement
aussi.
Quand on dit on discute avec les IA de façon gratuite, on
n’a pas coché la case, je ne veux pas que mes données soient
réentraînées,
enfin utilisées pour l’entraînement des modèles, on est
incapable de savoir ce que l’IA va conserver ou non.
Et du coup dans la partie du prompt, même si on a donné des
informations personnelles, est-ce que cette info là il va la
garder ou non ?
C’est toujours un peu compliqué, un peu délicat.
Donc il vaut mieux des fois y faire attention, justement
limiter un maximum ce qu’on partage,
pour potentiellement ne pas le retrouver d’ici quelques mois
ou quelques années dans d’autres modèles IA aussi.
Merci.
Nous allons arrêter cette table ronde ici.
Je vous demande d’applaudir nos intervenants du jour.
Merci à vous.