Cadre éthique, déontologique et professionnel

Transcription

Donc voilà, la demande de la journée,
c’était de vous présenter rapidement qu’est-ce que c’est
l’intelligence artificielle,
et aussi de tout de suite placer la question sur c’est quoi
un cadre éthique,
déontologique,
professionnel qu’on doit réfléchir et qu’on peut penser
autour
de ces questions.
Je suis psychologue clinicien de formation,
mais très rapidement j’ai travaillé en recherche,
par exemple au service de l’État français.
sur les utilisations de l’intelligence artificielle, des
données, et très rapidement,
depuis quasiment maintenant 15 ans,
j’ai pu voir qu’il manquait un petit peu de cadre.
On peut utiliser toutes ces technologies très prometteuses,
mais parfois,
elles viennent évidemment avec beaucoup de défis, de
risques,
comme n’importe quelle lecture de journal nous permet de le
voir.
On va passer en revue quelques fondamentaux.
Qu’est-ce que c’est l’IA, mais un peu au-delà des clichés,
et au-delà de chat GPT,
qu’est-ce qu’on appelle l’intelligence artificielle.
Je voulais montrer aussi pour beaucoup d’entre vous,
évidemment touchés par la psychologie,
que la psychologie a aussi un rôle assez déterminant dans
l’intelligence artificielle.
C’est un petit côté cocorico pour nous tous et toutes,
mais au moins regarder cet aspect-là aussi.
Je voulais vous montrer quelques usages actuels qu’on peut
voir en psychologie
de l’intelligence artificielle pour montrer un petit peu
aussi l’état actuel
des pratiques.
Et puis commencer après à aller doucement vers les risques
spécifiques liés à l’intelligence artificielle.
Rappeler aussi qu’il y a un cadre légal qui se met en place,
notamment au niveau européen.
Et on pourra avoir un peu un début de discussion sur aussi
le positionnement du psychologue
là-dessus.
Donc l’IA impacte l’éducation, jusque là je ne vous apprends
absolument rien.
Et on voit que c’est des questions,
l’éruption de l’intelligence artificielle qui impacte les
psychologues et professionnels au sens large.
Donc de Belgique,
où on voit qu’il y a énormément d’expérimentations qui se
mettent en place,
donc là c’est par exemple, pas plus tard qu’en 2025,
20 écoles qui étaient sélectionnées pour expérimenter
l’usage de l’intelligence artificielle pour les
apprentissages de base.
En Belgique, on voit aussi des écoles qui,
en l’absence d’enseignants ou d’enseignantes, au niveau du
primaire,
réfléchissent à, par exemple,
avoir une intelligence artificielle qui peut suggérer des
exercices à faire.
Donc, on voit que ça peut aller même assez loin.
Du côté de la France,
il y a des revues à destination des professionnels qui
montrent un peu tous les
usages possibles de l’intelligence artificielle en matière
d’éducation.
Et tout ça amène à voir que les gens se rendent bien compte
que d’un côté,
aussi bien les jeunes que les professionnels,
tout le monde utilise de plus en plus l’intelligence
artificielle.
Maintenant, la question c’est qu’est-ce que c’est une bonne
utilisation,
une utilisation raisonnable de ces outils.
On voit que dans l’orientation, je pense que là aussi, je ne
vous apprends rien,
mais Parcoursup a été au cœur depuis presque 6 ans, 7 ans
maintenant,
de grosses discussions.
Et je crois que c’est aujourd’hui les résultats sur
Parcoursup.
donc c’est dans l’air du temps, mais sur l’IA comme outil ou
guide d’orientation.
Et je vous montre aussi à droite Oria,
qui est une des ressources suggérées notamment au niveau de
l’État français sur un des
sites en matière de sensibilisation à l’intelligence
artificielle.
Et on voit qu’il y a une vraie réflexion de fond sur comment
développer
des outils qui utilisent l’intelligence artificielle pour
faciliter, augmenter ou optimiser Merci.
des processus notamment en matière d’orientation.
Mais bon ça ne concerne pas que les écoles et je voulais
vous parler ici du fait que aussi au niveau des
universités on est directement impacté.
Je vous montre à gauche le plan par exemple de formation à
l’intelligence artificielle de l’université libre de
Bruxelles où il y a eu une sorte de réveil un
petit peu douloureux en voyant que de l’évaluation des
examens jusqu’au
à tous les travaux qui étaient rendus par les élèves,
l’intelligence artificielle était absolument partout et il
fallait absolument mettre un peu un cadre.
Mais qu’à côté de juste uniquement réguler ou encadrer,
il y avait aussi un vrai besoin et un vrai appétit de
beaucoup de gens dans les administrations,
dans les départements enseignement, recherche, qui voulaient
se former en fait.
Et donc il y a un plan massif qui a été mis en place,
donc on est quand même plusieurs milliers d’employés à
l’Université libre de Bruxelles.
pour former tout le monde du personnel administratif de
soutien jusqu’au personnel enseignant et de
recherche.
Et plus proche de vous, à Paris,
on voit que pour la Sorbonne aussi, il y a tout un ensemble
de ressources, de questions,
d’articles qui sortent sur l’IA dans l’éducation, entre
opportunités et défis,
où des personnes au sein de l’université sont devenues des
points de référence sur…
qui est-ce qu’on doit faire, pour qui, comment enseigner,
de quelle façon la plus optimale.
Pour autant, quand on commence à aller directement vers
votre cœur de métier,
il y a des doutes et des impacts non mesurables, déjà sur
les professionnels, où je pense que,
je n’ai pas pu faire une revue complète,
mais sur le stress aussi d’outils qui automatisent tout un
ensemble de processus sur les
professionnels de l’éducation ou qui travaillent dans le
milieu.
mais aussi sur les jeunes et quand on voit un peu,
par exemple ici c’était un sondage Ipsos à gauche,
quel est l’impact et puis aussi quel est le ressenti des
jeunes en matière d’intelligence artificielle,
il y a très nettement un besoin d’accompagnement beaucoup
plus grand qui est mis
en avant de façon assez systématique.
Et en fait quand on va même aussi plus loin,
vous êtes sûrement au courant que beaucoup de réseaux
sociaux aussi
pointé du doigt avec en ligne de fond l’intelligence
artificielle qui rend les
réseaux sociaux encore plus addictifs et des
grosses sociétés comme Facebook sont directement au cœur de
procès
de taille très importante sur l’impact que l’IA et
les réseaux sociaux peuvent avoir sur la santé mentale.
Donc dans ce contexte-là, des réflexions du fond à avoir
sur…
notamment pour nous les psychologues et pour vous aussi,
en particulier les psychologues de l’éducation, qu’est-ce
qu’on doit faire et comment ?
Il y a une telle réflexion de fond qu’il y a des
mobilisations et des
questions.
J’ai participé par exemple à gauche sur ce qui s’appelait le
Centre de Vectimologie
des Mineurs, mais le CVM,
une journée de formation qui était quand l’IALE numérique
transforme les pratiques professionnelles, qui était à
destination.
des psychologues et de tous les acteurs qui travaillent
notamment dans la protection de l’enfance.
Et au-delà de se mobiliser lors d’événements de journée
professionnelle,
on voit qu’aujourd’hui au niveau politique,
il y a une réflexion très forte aussi sur est-ce qu’il faut
interdire les réseaux sociaux,
est-ce qu’il faut interdire les smartphones et si ça peut
aller de la
France à la Belgique en passant par l’Australie,
il y a aujourd’hui un sentiment de « il faut commencer à
faire des actions » .
et pas uniquement à faire de la sensibilisation.
Et c’est aussi très profondément justifié par le fait que
l’IA a un aspect assez transformatif
et change complètement,
transforme un peu les pratiques de façon assez définitive.
Et ici, on voit à gauche par exemple une interview d’une
professeure à Vienne, Jennifer Meyer,
qui se posait des questions par exemple sur c’est quoi les
déterminants psychologiques d’une IA efficace dans
l’éducation, ses implications à long terme, comment l’IA
soutient ou entrave l’apprentissage,
comment est-ce que ça peut remodeler les processus éducatifs
à l’avenir.
Ce que je dois traduire ici,
c’est qu’au-delà de simplement encore une fois cette
sensibilisation,
on veut des données probantes,
on veut des actions concrètes et on veut des cadres.
Et ces cadres sont d’autant plus importants qu’on voit
aujourd’hui des tribunes,
on voit tout un ensemble de réflexions, de débats qui
disent,
est-ce que l’intelligence artificielle, comme dans l’exemple
que je vous ai donné en Belgique,
si on pousse son utilisation jusqu’à, par exemple,
remplacer aussi du personnel éducatif,
est-ce qu’il n’y a pas aussi une forme d’illusion sur le
fait que l’IA ne ferait croire qu’on n’a plus besoin
d’école ?
c’était un peu cette…
petite tribune provocatrice, mais on voit encore une fois ce
sentiment d’urgence.
Alors, sentiment d’urgence, c’est bien,
mais au-delà des clichés,
c’est important de revenir peut-être aux fondamentaux sur
qu’est-ce que c’est l’intelligence artificielle,
qu’est-ce qu’on entend par intelligence artificielle, et
puis aussi pour nous,
vers la psychologie, qu’est-ce qu’on doit retenir un peu de
tout ça.
Donc, ce que je voulais vous proposer, c’était avant d’aller
justement vers…
ces questions de pratiques, de normes, de standards,
de regarder d’abord ensemble qu’est-ce que c’est l’IA pour
ensuite introduire votre journée.
L’intelligence artificielle, c’est un terme qui est inventé
par le chercheur John McCarthy en
1955.
Pour lui, il le décrivait comme la science et l’ingénierie
de la fabrication de machines intelligentes.
Dès les débuts de l’intelligence artificielle,
on s’est posé beaucoup de questions sur qu’est-ce que ça
veut dire être intelligent ?
Est-ce que les machines qui imitent des choses que les
humains font,
ça suffit ?
Il y a des grands débats là-dessus.
Pour l’Union Européenne aujourd’hui, Il y a une définition
qui est reprise assez régulièrement.
L’intelligence artificielle,
c’est tout outil qui est utilisé par une machine afin de
reproduire des comportements liés aux humains,
tels que le raisonnement, la planification ou la créativité.
Je ne sais pas si vous sentez un peu la nuance ici,
mais on est passé en 1955 de l’idée de créer des machines
intelligentes à
ici l’idée de dire que ce sont des machines qui reproduisent
des comportements liés
aux humains.
On voit cette évolution de la définition.
Et aujourd’hui, encore une fois dans les nouvelles,
il suffit vraiment d’être un peu attentif aux
questionnements en cours
pour voir qu’on revient un peu à cette question de est-ce
que les machines peuvent être intelligentes ?
Bien qu’on n’y soit pas encore,
il y a aujourd’hui tout un ensemble de sociétés qui disent
qu’on y serait déjà.
Il y a une petite histoire quand même à l’intelligence
artificielle et souvent on a l’impression que c’est très
récent.
Et ça fait vraiment depuis, encore une fois, 1955, puis
1956,
on a vraiment eu l’émergence de l’intelligence
artificielle comme discipline qui était un peu une
conjonction de plein
de différents domaines.
Je prévais ici un peu une évolution progressive de qu’est-ce
que c’est l’intelligence
artificielle, comment est-ce qu’elle a évolué à travers le
temps,
et ce qui a été assez surprenant, c’est que très rapidement,
il y a eu une forme d’embellissement
emballés en se disant c’est génial l’intelligence
artificielle, les machines intelligentes,
ça va absolument tout faire.
Puis il y a eu un sort de retour de bâton qu’on a appelé
l’hiver de l’intelligence artificielle qui a duré assez
longtemps, certains poussent jusqu’à 2010, entre 1973 et
2010,
d’autres disent que c’est un chouïa exagéré.
Mais il y a eu un hiver.
Alors un hiver qu’est ce que c’était ?
C’était un peu l’impression de,
après un sort de pic d’espoir complètement enflammé,
on s’est dit mais en fait voilà L’intelligence artificielle,
elle ne délivre pas ses promesses et c’est un peu un
buzzword.
Donc, c’est resté un petit peu aux oubliettes en fond, mais
les utilisations se développaient,
les techniques se développaient.
Mais on a commencé à voir aux alentours de 2010, néanmoins,
un peu une explosion due à des progrès technologiques en
matière
de composantes, aussi de connaissances.
et il y a eu quelques moments clés, comme en 2009, Google a
construit une voiture autonome,
qui avait commencé à faire grand bruit en se disant, OK,
on arrive à ce moment où des machines sont capables de plus
en plus de
performer des tâches de façon autonome, de plus en plus
complexe,
d’intégrer des données de plus en plus rapidement.
Donc, on est rentré dans l’été de l’intelligence
artificielle,
si on doit l’appeler comme ça,
et ça a été un enchaînement de moments comme…
par exemple Siri qui a aussi donné un petit peu le ton en
disant maintenant on
peut même interagir avec elle, avoir une forme d’interaction
beaucoup plus poussée.
Et très récemment, ChatGPT ou Mistral en France, récemment
Cloud,
donc tous les grands modèles de langage et les outils type
chatbot ont
complètement fait passer la question de l’intelligence
artificielle dans une autre dimension,
voire même une guerre technologique.
On regarde un peu le type d’investissements qui sont en
cours,
de compétitions entre pays.
Je ne vous entends pas, mais s’il y a des questions, s’il
vous plaît, n’hésitez pas à m’interrompre.
Et Delphine ou Maud, si jamais il y a aussi des
interactions, s’il vous plaît,
si vous pouvez le dire dans le micro, ça sera avec plaisir.
Donc aujourd’hui, l’intelligence artificielle,
c’est un champ technologique très vaste qui recouvre
beaucoup de différentes disciplines.
Ce qu’on dit assez régulièrement, c’est que sous
l’intelligence artificielle,
il y a des formes plus classiques qu’on va voir dans pas
longtemps,
des formes d’apprentissage plus automatiques, qu’on appelle
l’apprentissage machine ou machine learning,
au sein duquel il y a des degrés aussi d’apprentissage de
plus en
plus autonomes.
Et donc, c’est ce qu’on va vers l’apprentissage profond,
ces fameux réseaux de neurones dont vous avez pu aussi
entendre parler.
qui sont en fait ici, quand on voit ce schéma,
une illustration du fait que l’intelligence artificielle
recouvre, encore une fois,
des formes plus très contrôlées par les humains,
jusqu’à des formes qui sont beaucoup plus capables de
performer des tâches en autonomie.
L’IA classique,
c’était vraiment une IA qui était basée sur la connaissance.
C’est-à-dire que, par exemple, ici, si vous deviez faire un
algorithme pour classer des fruits,
et je reprends des slides et des exemples que je trouvais
très illustratifs d’une de mes collègues dans notre
institut, Farid.
Si vous devez apprendre un algorithme, on pourrait un peu
comparer une recette de cuisine,
c’est-à-dire vous lui donnez des instructions, vous lui
dites, pour arriver à ce résultat, il faut que tu fasses
ceci,
pour que ça apprenne.
il faut que vous lui montriez tout un ensemble d’exemples et
que vous lui disiez, par exemple,
pour faire la distinction entre une banane et une pomme, ça
c’est une banane,
c’est exactement les contours, par exemple, d’une banane, ça
ressemble exactement à ça,
et vous décrivez tout un ensemble de caractéristiques très
très très très très précises
pour en fait un peu prémâcher au maximum le travail et pour
que, voilà,
pour des tâches relativement répétitives,
le système soit capable de pouvoir faire la discrimination
entre différentes formes.
entre différents fruits ici dans l’exemple, et de les
classer.
Donc il va faire une classification pas basée sur une
connaissance profonde,
au sens où cet algorithme n’a pas une conscience de
qu’est-ce que c’est une banane ou une pomme,
mais va être en mesure de pouvoir, sur la base des
informations que vous lui donnez, faire la distinction.
Mais ensuite il y a ce qui s’est appelé l’apprentissage
machine.
Donc ici la question c’était plus nourrir un système
d’intelligence
artificielle en lui donnant autant que possible
beaucoup d’informations et le modèle va être en mesure de
pouvoir
apprendre de lui-même, entre guillemets,
à partir des données que vous lui donnez.
Donc si vous lui donnez tout un ensemble de jeux de données,
c’est-à-dire beaucoup d’images par exemple de bananes et de
pommes,
le modèle va être en mesure de pouvoir faire une distinction
entre
les pommes qu’il va classifier ensemble sur la base de
critères qui déterminent
en se disant ça ressemble à des ronds, donc je vais mettre
tous les ronds ensemble, ou les bananes ça ressemble à des
rectangles,
je vais mettre ça de ce côté.
La différence ici,
c’est que vous n’avez pas déterminé en avance des critères
très
précis de ce que vous attendiez, et ici le modèle, de façon
plus inductive,
arrive à déterminer les différences là-dessus,
sans avoir conscience de ce que ça signifie,
et c’est là où l’input humain va être important.
À quoi l’intelligence artificielle est bonne ?
Elle est très bonne pour automatiser des tâches très
répétitives.
On entend souvent parler des gros mots sur LinkedIn, comme
par exemple « workflow » ,
c’est-à-dire les flux de travail,
pour faire de la classification aussi de documents,
faire des tâches qui sont de façon très répétitive ou très
structurée.
Un exemple que vous avez peut-être tous ou toutes utilisé,
c’est que vous avez de plus en plus d’applications bancaires
ou d’applications de tous genres.
Vous lui donnez des documents,
par exemple des factures ou des documents qui sont très
normés,
qui se ressemblent beaucoup.
Et il va être en mesure d’extraire les informations parce
qu’il y a une certaine forme de
redondance, cette répétition.
Et vous pouvez ensuite derrière assigner un certain nombre
de tâches.
Donc encore une fois, l’intelligence artificielle là-dessus
est très bonne.
Un exemple qu’on voit pour notre bonheur ou malheur, c’est
aussi les chatbots sur n’importe quel site,
même si ça s’est amélioré récemment.
Ces chatbots performent particulièrement bien quand vous
donnez des informations très
précises,
par exemple une foire aux questions ou une documentation
technique,
et vous mettez un chatbot juste pour aller chercher
l’information à l’intérieur de ce jeu de données très
limité.
Ça, ça peut le faire très vite.
Mais on voit aujourd’hui des utilisations de plus en plus
complexes et de plus en plus sophistiquées.
Et ici, un des exemples, c’était sur les questions de
prédiction.
Les prédictions sont un peu une frontière technologique et
humaine vraiment fascinante.
Prédiction, c’est souvent prédire le futur, on le sait, une
illusion.
Mais on voit que les modèles sont capables de prédiction,
c’est-à-dire sur la base d’informations historiques,
essayer de regarder ce qui pourrait se passer dans le futur.
Et il y a des modèles aujourd’hui, notamment en matière de
météo,
celui-ci par exemple qui avait été développé, je pense, par
Google,
qui était capable de prédire ou d’approximer de façon
très forte des conditions météorologiques sur la base de
tout un ensemble
d’informations sur plusieurs années,
et qu’il était capable de pouvoir essayer d’anticiper les
évolutions.
On voit aussi des utilisations d’analyse prédictive pour les
budgets,
par exemple beaucoup d’applications bancaires, encore une
fois,
sur la base de toutes vos dépenses sur plusieurs années ou
plusieurs mois, On peut faire une…
une estimation de ce qui va se passer dans le futur.
Un des développements les plus fascinants,
ça a été aussi ce qu’on a appelé le premier prix Nobel
d’intelligence
artificielle,
qui était autour notamment de la détection sur les
structures
protéinaires.
Et donc c’était le projet AlphaFold avec Google DeepMind,
donc DeepMind qui est l’entité recherche de Google, si je
dois le résumer.
Et on a appelé ça un peu le premier prix Nobel de
l’intelligence artificielle à deux
titres.
Le premier, c’est qu’il n’y a pas de prix Nobel.
pour les sciences informatiques, ça s’appelle davantage le
pre-turing,
mais on travaillait avec DeepMind pour pouvoir
développer ce modèle.
Et ici, il s’est posé deux questions.
Le premier, c’est cette découverte n’aurait peut-être pas pu
être possible sans justement ce
développement de l’intelligence artificielle.
Et la deuxième chose, c’est aussi jusqu’à quel point, et ça
a été le début de question,
sur à quel point est-ce qu’IA devient aussi un auteur ?
à part entière ou un contributeur à part entière de
découvertes scientifiques.
Donc, c’est des questions quasi infinies.
On n’a pas le temps pour ça aujourd’hui.
Et à quoi l’Ile-de-Lune ?
Alors, évidemment, c’est pour jeter des images un peu
stupides,
mais on voit que les développements restants sur nos
téléphones,
sur des applications de grand public, sont assez faciles.
et le niveau de précision, de réalisme.
devient aussi assez franchement bluffant et dans certains
cas
un peu inquiétant aussi pour tous les doutes fakes et
questions qu’on connaît.
Ici, on vous montre une image à gauche, par exemple,
qui date d’il y a à peine deux ans et demi et on voit que
c’était assez frustre et à l’époque,
ça nous semblait déjà une révolution.
Mais aujourd’hui, nos modèles sont beaucoup plus
sophistiqués.
Alors, pour aller aussi dans le cœur, de quoi est-ce que
l’IA a besoin ?
elle a besoin de données et en fait on oublie que l’IA c’est
pas juste un sorte de boîte magique
parfois boîte noire où on sait pas très bien ce qui se
passe,
ça a besoin d’énormément d’informations et on
voit que les données c’est pas forcément l’aspect qui saute
le plus
aux yeux des gens mais c’est vraiment un peu l’essence,
le fuel pour tous ces systèmes.
D’où peuvent venir les données quand on est en santé ou
quand on travaille dans le
domaine de la santé au sens très large.
Ça peut venir d’applications, ça peut venir d’objets
connectés, ça peut venir de smartphones,
ça peut venir de bases de données comme Santé publique
France, ça peut venir de réseaux sociaux.
Donc les données, c’est un ensemble très large
d’informations,
mais ça peut être aussi ce qu’on appelle les métadonnées.
C’est par exemple si vous envoyez un email,
le contenu de votre email peut être considéré comme les
données et les métadonnées,
c’est les informations sur les informations.
C’est par exemple l’heure à laquelle vous avez envoyé un
email, le jour acquis.
Et tout cet ensemble d’informations peut servir aussi en
matière de santé,
comme on l’a vu, à peut-être « prédire » des états de santé.
Par exemple, pour les fréquences cardiaques,
on voit aussi de plus en plus d’utilisation des montres
intelligentes pour, par exemple,
essayer de prédire est-ce que les personnes ont un risque
d’avoir un accident cardiaque ou pas.
Et encore une fois, une application directe de ce qu’on
vient de voir à l’instant.
Et pourquoi est-ce qu’il y a une telle déferlante
aujourd’hui ?
C’est que les moyens technologiques actuels ont vraiment
explosé.
Des sociétés comme Nvidia, dont vous avez peut-être entendu
parler,
sont au cœur d’une réelle transformation de tout le champ
et les performances de calcul sont de plus en plus
importantes.
Et le matériel d’ailleurs vient aussi avec un coût de
pénurie et donc il y a tous les
enjeux géostratégiques en ce moment sur comment contrôler
aussi ces composantes
qui rendent des pays plus…
compétitif que d’autres aussi.
Vous allez me dire merci pour toute cette longue explication
sur qu’est ce que c’est l’intelligence
artificielle mais c’est quoi le lien avec la psychologie et
comment est-ce que on peut se
positionner nous quand on travaille dans le domaine.
Donc l’intelligence artificielle il faut se
rappeler c’est ce que je vous ai dit au début que c’est un
croisement de disciplines et en fait l’informatique, les
maths,
c’est les deux plus évidents.
Mais il y a aussi la philosophie, la linguistique,
les neurosciences et la psychologie étaient une des
premières disciplines aussi au cœur du
développement de l’intelligence artificielle.
Et c’était une des premières disciplines, mais c’était aussi
une des premières applications.
Et ici, je vous montre quelque chose que peut-être certains
ou certaines d’entre vous ont vu,
qui s’appelait ELISA, une des premières applications
d’intelligence artificielle dès 1956.
C’était un chatbot qui travaillait en approche rogerienne.
Donc voilà, juste renvoyer des questions.
Beaucoup étaient pré-programmés, mais à l’époque, ça
avait…
Pardon, c’était 1966.
Ça avait fait grand bruit.
en se disant voilà on a ici la capacité de pouvoir
interagir,
d’avoir un thérapeute artificiel.
Mais informatique et psychologie se répondent beaucoup plus
profondément que
ça et je vous ai parlé de ces fameux réseaux de neurones.
Aujourd’hui le gros développement de l’apprentissage machine
s’est fait en
essayant aussi de trouver des stratégies en matière
d’informatique qui rendent les
systèmes plus capables d’apprendre.
Et un des modèles qu’on a essayé d’imiter et qui est assez
performant, c’est le cerveau humain.
Et ici, je vous présente quelqu’un que j’ai eu la chance de
rencontrer, qui s’appelait Jay McClelland,
qui vient de la psychologie cognitive.
Et il avait dit,
peut-être qu’on devrait appliquer aux machines le même
fonctionnement que
nos structures neuronales et nos neurones, comment est-ce
que ça fonctionne.
Voilà, c’est beaucoup de systèmes en parallèle qui peuvent
être activés.
Et ils ont…
et avec lui notamment, essayer de commencer à se dire,
voilà,
on devrait essayer d’appliquer aussi nos fonctionnements.
Donc ça peut être une source d’inspiration pour
l’intelligence artificielle et son développement.
Mais on voit aujourd’hui des réflexions qui vont même
beaucoup plus loin,
et vous connaissez les questions d’intelligence
cristallisée, intelligence fluide,
beaucoup de systèmes d’intelligence artificielle aujourd’hui
sont basés sur,
ils ont lu tout ce qu’il y a sur Internet, notamment par
exemple pour Chez GPT.
Donc voilà, ça connaît des connaissances un peu figées,
mais tout ce qui est intelligence plus fluide, c’est-à-dire
beaucoup plus contextuel,
il va se passer plus de problèmes, c’est-à-dire que prendre
en compte le contexte,
ça demande une connaissance beaucoup plus générale et
complexe qui est beaucoup plus difficilement mesurable.
Et aujourd’hui, il y a des scientifiques qui se disent
peut-être qu’il faudrait qu’on essaie de mieux comprendre
et mieux caractériser qu’est-ce que c’est l’intelligence en
termes de cognition,
notamment de l’intelligence artificielle.
Donc ici,
on voit que l’insurance informatique revient vers la
psychologie pour essayer de comprendre.
Et en fait, aujourd’hui,
on est dans un moment où on voit aussi le développement de
la robotique
qui explose en ce moment.
Il y a la question, est-ce que l’IAS est vraiment
intelligent ?
Il y a une définition de Yoshua Bengio,
qui est un des pères de l’intelligence artificielle et de
l’apprentissage machine,
qui dit que l’intelligence artificielle a une capacité de
prendre de bonnes décisions.
de comprendre l’environnement qui nous entoure et de
s’adapter.
Quand on travaille en éducation comme vous,
on est forcément au courant que c’est quelque chose qui
s’applique assez bien aux humains.
L’idée de dire qu’une intelligence, c’est une intelligence
dans un contexte, dans un environnement qui grandit,
qui évolue au contact des autres.
Et ce qui est intéressant, c’est qu’on se retrouve dans une
définition où Yoshua Piengeau, je pense,
n’est pas un expert de Piaget, mais pour autant dit, quelque
chose qui vient…
très profondément rappeler ça.
On se pose aujourd’hui des questions beaucoup plus complexes
qui touchent aussi à la psychologie,
qui sont celles de la conscience.
Est-ce que l’IA est dotée d’une conscience ?
Donc, ce n’est peut-être pas le cadre d’aujourd’hui, mais
quand je vous dis que ce ne sont pas des scénarios de
science-fiction,
je le suis très sérieux.
On a des rapports internationaux avec le soutien de
gouvernement qui se posent la
question très concrètement de si on avait une intelligence
consciente,
qu’est-ce que ça implique pour nous aussi dans les rapports
sociaux ?
dans les règles qu’on doit mettre en place.
Donc voilà, je ne vais pas essayer de vous déprimer
aujourd’hui,
mais ce sont des questions très sérieuses qui se posent.
Du point de vue des professions,
on voit que de la Belgique au Québec, en passant par la
France,
beaucoup de regroupements professionnels disent,
au-delà de parler de la psychologie influence l’IA,
qu’est-ce qu’on fait ?
Et on voit qu’il y a une évolution des comportements chez
les usagers,
il y a beaucoup de nouveaux usages qui apparaissent chez les
professionnels.
professionnels, on est tous humains,
donc on utilise aussi l’IA peut-être pour nos propres
besoins personnels et pour nos besoins
professionnels aussi.
Et il y a tout un ensemble de nouveaux outils qui se
développent à très grande vitesse en ce
moment, mais il y a des mesures qui commencent à être mises.
Ici, c’était par exemple la commission des psychologues en
Belgique qui disait
il y a de faux psychologues générés par l’IA dans les
médias, la prudence est de mise.
et on voit qu’ils ont ce rôle un peu de sentinelle et de
vigile en disant attention,
ça c’est des bonnes utilisations, ça c’est des mauvaises
utilisations.
Mais ça va évidemment beaucoup plus loin.
Il y a des questions sur est-ce que
ChatGPT peut être un outil psychométrique ?
Est-ce que ça peut être aussi un outil de détection de nos
états émotionnels ?
Et l’American Psychological Association dit même,
est-ce que ça peut complètement transformer la façon dont on
travaille ?
Quelqu’un me disait hier qu’apparemment, une des plus
grandes requêtes sur ChatGPT,
c’est « mais qu’est-ce que voulait dire ma femme ? » ou «
qu’est-ce que voulait dire mon époux ? »
ou « partenaire ? » Ce qui montre un peu que, au fond,
l’utilisation aussi d’un certain nombre de ces modèles de
langage est vraiment relationnelle,
c’est-à-dire utiliser ces outils pour mieux comprendre nos
états ou ce que
notre entourage pense.
On voit aussi l’émergence de nouvelles formes diagnostiques,
donc ça, ce n’est pas une surprise, et je pense que…
pour si certaines et certains d’entre vous ont vu
l’émergence de plusieurs
nouvelles technologies.
À chaque fois, on entend parler de nouvelles formes
diagnostiques et c’est un peu une tendance.
Ici, un des exemples en matière d’intelligence artificielle,
c’était est-ce que ça existe la psychose du chatbot ?
C’est-à-dire que l’intelligence artificielle, au contact de
personnes qui seraient vulnérables,
pourrait potentiellement déclencher un état psychotique due
à une
forme de confusion sur…
ne pas savoir aussi si l’entité à qui on parle en face est
informatique ou humaine,
et en tout cas qu’il y aurait un effet psychologique
possible.
C’est très discuté, ce n’est pas dans un manuel
diagnostique,
ça montre quand même un intérêt de savoir c’est quoi
l’impact sur la psychologie.
Quelques applications possibles de l’IA en psychologie,
au-delà de l’éducation,
c’est celle de l’automatisation clinique administrative.
On voit que les systèmes d’IA peuvent gérer des rendez-vous,
rédiger des notes, des rapports.
Et ça, c’est l’Ordre des psychologues du Québec qui, pour
ces professionnels,
faisait un peu une liste de qu’est-ce qu’on peut faire avec.
Et ils vont aussi parler d’aide à la décision.
C’est-à-dire qu’ils notent que l’IA peut aussi servir des
cliniciens.
prendre des décisions comme par exemple suggérer des états
diagnostiques
probables, faire des recommandations thérapeutiques.
En bout de ligne, c’est le ou la psychologue qui décide,
mais qu’il y a des outils qui se développent dans ce sens.
Il y a aussi des outils qui vont vers l’analyse du processus
thérapeutique et on va voir un exemple en prévention du
suicide,
c’est-à-dire là c’est plus un sort de compagnon de travail
qui vient ici un petit peu
vous indiquer…
si dans le processus thérapeutique en cours, il y a des
éléments qui doivent être dans votre attention ou pas,
aller jusqu’à produire des bilans, des hypothèses
diagnostiques, ce qui va assez loin.
J’ai travaillé pendant presque six ans dans un centre de
prévention du
suicide spécialisé en nouvelles technologies et je
travaillais notamment sur les questions d’utilisation de
l’intelligence artificielle pour les questions de prévention
du suicide.
Donc c’est un terrain où c’était…
très intéressant et c’est un terme que je veux que vous
reteniez aussi un petit peu,
mais c’est celui de dilemme éthique, c’est-à-dire une
tension entre des potentiels et des risques.
Et quand on regarde, en fait, la littérature,
les données probantes scientifiques,
on voit qu’on a atteint aujourd’hui un niveau de maturité et
d’efficacité à la fois perçu par les
professionnels, mais aussi dans les études,
pour dire qu’on est capable aujourd’hui avec des systèmes
d’IA de détecter le risque suicidaire.
à partir de données variées de systèmes de santé clinique.
Et donc,
on voit qu’on arrive aujourd’hui à une belle performance
là-dessus.
Ça fait des années que l’IA est très utilisée pour,
notamment, depuis 2017, les lignes d’écoute,
notamment qui fonctionnent par chat ou clavardage, comme ils
disent au Québec.
Dans les lignes d’écoute de chat, ici, vous avez à droite,
un petit screenshot de copie d’écran de…
à quoi ça ressemble.
Et c’est là où l’IA peut être un peu intéressant.
C’est souvent très,
très fatigant pour les intervenants et intervenantes en
ligne d’écoute d’avoir
énormément de messages par SMS.
Et c’est difficile de remonter la conversation.
Notre attention s’émousse.
On a vraiment du mal à suivre.
Et ici, l’IA peut être un outil qui vient rappeler.
Et donc, il y a plusieurs lignes d’écoute, notamment aux
Pays-Bas, au Canada,
où ils ont fait des intégrations de l’IA pour essayer de…
dire à l’intervenant, tiens, là, il y avait ceci,
qui devrait peut-être rester à ton attention.
Donc, c’est un outil en complément.
Mais il y a eu tout un ensemble de problématiques qui ont
été soulevées aussi.
C’était que cette fameuse Crisis Tax Line avait aussi
revendu des informations
à des tierces parties.
Et on voit qu’on revient toujours aux enjeux de vie privée.
Et quand on est en matière de santé, d’éducation, qu’on
travaille avec des populations vulnérables ou non,
ça devrait être un enjeu absolument critique.
Et il y avait une phrase, quelqu’un avec qui j’ai travaillé,
que j’aimais beaucoup,
mais qui disait « il se peut que les ordinateurs soient
souvent aussi bons que les êtres humains pour déterminer le
niveau de risque suicidaire,
mais il faut quand même un humain pour poser la question,
pour demander à une personne, à un risque,
quelles sont ses intentions » .
C’est un peu le début de la réflexion sur aussi,
qu’est-ce que c’est la place aussi du professionnel
là-dedans,
et jusqu’où est-ce qu’on peut aller.
Je vous montre ici simplement une page d’information que
j’avais trouvé très utile et que j’avais
présentée aussi lors d’un webinaire pour l’Association de
psychologie et psychopathologie de l’enfant et de
l’adolescent, APPEA.
C’était une page sur CHAT-GPT et les mineurs,
qui s’adressait à la fois aux parents et aux professionnels
en disant « à la fin,
ces systèmes ne doivent absolument pas remplacer des
humains,
ne sont pas aussi compétentes en matière de ces outils
généralistes comme
CHAT-GPT. » pour détecter les risques.
Donc, vraiment beaucoup de prudence.
Et ils donnent des recommandations très pratiques sur à qui
ça s’adresse, quand,
pourquoi.
Et donc, j’avais trouvé que c’était une page très
pédagogique que je vous engage à aller voir.
Il y a des risques, et je reviens encore une fois à la
prévention du suicide.
On voit émerger des nouvelles tragiques de morts par suicide
qui seraient liées, par exemple,
à l’utilisation d’agents conversationnels.
Et ça, c’est un exemple…
qui date d’il y a trois ans en Belgique,
qui était le suicide d’un Belge qui
était lié, dans le temps en tout cas,
à l’utilisation d’une sorte de dérivée de chagipiti et qui
lui avait
incité à se donner la mort.
Et qu’est-ce qu’on a vu à ce moment-là ?
On a vu toute une réflexion sur est-ce que ces grosses
sociétés ou ces gros
producteurs d’intelligence artificielle Merci.
intègre un peu aussi nos standards et nos bonnes pratiques
professionnelles ?
La réponse, je pense que vous la connaissez, elle est
trouvée, c’est non.
Et il y a un flou éthique et déontologique assez massif qui,
à titre personnel,
vraiment soulève de très grosses questions.
Ici, je vous montre à droite la page de OpenAI, donc la
société derrière Chachapiti,
et qui dit qu’on essaie de faire des choses, on est
conscient,
on essaie d’intégrer
que si une personne utilise Chachapiti et décide de dire
« j’ai envie de me donner la mort » , comment est-ce qu’on
réagit ?
Pour autant,
les plusieurs évaluations qui ont été faites indépendantes
ont montré que beaucoup de ces produits basés sur
l’IAN intègrent peu voire pas de mesures de protection et
qu’en dépit de promesses
d’amélioration des pratiques,
les risques éthiques demeurent encore très conséquents et
même si
aujourd’hui ça s’améliore de plus en plus et en première
ligne,
Maintenant les systèmes vont évidemment vous inciter à aller
voir de l’aide par exemple.
On voit qu’en le poussant et ou s’il y a des dérivés de ces
systèmes,
ils vont être de plus en plus faillibles et pouvoir faire
des
recommandations totalement erronées.
Pourquoi est-ce qu’il y a un flou éthique et déontologique ?
C’est que quand on parle des agents, notamment ces agents
conversationnels,
il y a tout un ensemble d’enjeux qui posent aujourd’hui.
le besoin de limites.
Il y a des promesses d’être toujours présent.
Quand vous réagissez avec un certain nombre de solutions qui
sont développées en matière de santé
mentale, quelque chose qui est assez frappant, c’est que
vous avez souvent ce « je serai toujours là pour toi » .
Le système Replika, par exemple, va même encore plus loin en
proposant un compagnonnage
IA, mais ça pose une vraie question puisque ce n’est pas
vrai et au delà de ne
pas être vrai,
ça peut poser des questions pour des personnes qui ne
seraient pas en mesure de discriminer.
Est-ce que c’est un risque ou pas ?
Il y a des pratiques thérapeutiques très mal ajustées.
Une étude de Stanford a comparé comment réagirait un ou une
thérapeute versus un
ou une thérapeute virtuelle.
Et ils ont vu que les pratiques thérapeutiques…
Les connaissances étaient entre guillemets là, parce
qu’elles avaient été ingérées,
mais mal digérées.
Et donc ici,
les pratiques thérapeutiques sur des modèles de base étaient
très mauvaises.
Voir même les conseils de psy que ces systèmes pourraient
faire,
plus on les pousse un peu pour être un peu plus précis,
plus ils sont très approximatifs.
Un autre aspect, c’est que vous avez peut-être entendu
parler du fait que ces systèmes sont très anthropomorphisés,
au point qu’on parle d’aspect psychophantique, c’est-à-dire,
on pourrait l’appeler faux cul, c’est vous dire exactement
ce que vous voulez entendre.
Et quand, encore une fois, on travaille avec des personnes
vulnérables, c’est absolument pas acceptable,
voire même dangereux.
Et la suggestion de méthode létale, ça c’est quelque chose
dont on a parlé.
Il y a quand même aujourd’hui un besoin, et c’est encore une
fois ce besoin de cadre.
Il y a eu 200 déclarations éthiques, et ça c’était un compte
que j’ai arrêté en 2021,
mais si on est très généreux aujourd’hui, on doit être à
300, 500,
et ça n’arrête pas aujourd’hui.
C’est des cadres éthiques,
donc c’est-à-dire pas forcément impliqués ou transférés en
matière de loi,
mais on voit qu’il y a une réflexion de fond sur comment
est-ce
que nous, à notre niveau, ça va des villes, jusqu’à des
ordres professionnels,
c’est quoi ce qu’on juge être une bonne utilisation de
l’intelligence artificielle.
Et je voulais vous donner une petite anecdote, mais notre
institut d’intelligence artificielle,
FARI, basé à Bruxelles, donc on est un centre de recherche,
on fait de la recherche appliquée,
beaucoup de formations.
Dans les formations qu’on donne, ce qui a été très
surprenant pour nous,
c’était que les demandes et les besoins n’étaient pas du
tout de plus
d’intelligence artificielle.
de devenir un maître de chat GPT, mais de faire des
stratégies.
C’est-à-dire que les organisations qui venaient nous voir,
publiques en particulier à 75%,
disent qu’on voit que tout le monde utilise l’intelligence
artificielle, mais on veut juste des règles du jeu clair,
un cadre bien défini sur qu’est-ce qu’on peut faire et
qu’est-ce qu’on peut pas faire,
pour qu’on ait aussi une bonne manière de travailler
ensemble.
Et ça m’a surpris parce que je pensais que ça serait le
besoin le plus sophistiqué dans une pyramide de besoins.
Et en fait, c’est le besoin de base.
On n’a pas forcément besoin de se faire expliquer l’IA dans
tous les sens.
On a vraiment besoin surtout de savoir comment bien
l’utiliser à notre niveau, dans notre organisation,
notre domaine.
Pour autant, il faut aujourd’hui, au-delà des cadres
éthiques,
parler aussi de régulation.
Et en France,
il y a évidemment tout un ensemble de lois qui sont en plus
en évolution permanente.
Mais au niveau de l’Europe, il y a ce fameux AI Act.
Vous n’en avez peut-être pas entendu parler, mais l’acte de
l’IA, c’est un texte…
assez massif qui vient en complément par exemple de la
réglementation pour la protection des
données,
pour être spécifiquement sur l’intelligence artificielle et
encadrer ses utilisations dans l’Union
européenne.
Et pourquoi ça vous concerne ?
C’est parce qu’en matière de DIA,
appliquée à la santé,
il y a tout ce qu’on appelle un ensemble de catégories de
risques et
il y a des mesures très concrètes qui sont ici suggérées.
Par exemple,
le AI Act dit que vous ne pouvez pas faire un système qui
n’est pas très
clair sur le fait que vous interagissez avec un système
d’intelligence artificielle.
Il faut qu’il y ait une première phrase qui soit très
précise sur « je suis un chatbot »
ou « je ne suis pas humain »
pour justement protéger aussi les publics.
Une autre forme de protection,
ce texte dit que les systèmes d’IA qui interagissent avec
des personnes physiques,
qui génèrent du contenu ou détectent des émotions,
ça doit être extrêmement encadré dans le contexte de la
santé,
et sinon il ne peut pas y avoir de détection des émotions
sans consentement parfaitement
explicite.
Voilà, pour finir, j’ai plus que quelques slides,
mais il y a des questions qui vont revenir et qui vont vous
être expliquées,
peut-être aussi dans le contexte plus de l’éducation, mais
c’est celle aussi des biais.
Il y a eu un scandale aux Pays-Bas qui a alerté beaucoup…
tout le secteur social, éducatif, un peu psychologie, dans
plusieurs pays,
qui était qu’il y avait eu un système d’IA qui était là pour
aider le personnel social à
identifier qui fera une mauvaise utilisation d’aides
sociales perçues dans des familles.
Et en fait, le système était complètement erroné, avait des
données biaisées,
c’est-à-dire faisait des assumptions erronées sur la base
d’informations un peu tronquées qu’il
avait reçues.
Et donc, il y a beaucoup de familles qui ont dû rembourser
des frais, et ça provoquait une détresse majeure
dans beaucoup de familles déjà sous tension.
Et ça montrait à quel point c’était particulièrement
important de faire attention à quand on
intègre l’intelligence artificielle à l’échelle d’un pays,
à l’échelle de services publics.
Et donc, ça a été un réveil.
Pour vous, l’importance, c’est aussi celle de la formation,
comme ce que vous êtes en train de faire aujourd’hui.
Il y a des événements aussi publics qui viennent un peu
réveiller…
plusieurs communautés ensemble et il y a un événement que je
vous invite à aller voir
qui sera à Lille du 12 au 19 juin et qui est
le sommet de l’IA qui est un peu un événement national où
des acteurs de l’éducation,
des acteurs technologiques se rencontreront aussi et le
tagline est assez intéressant que l’IA n’est pas sans vous.
Nous notre côté, on donne des formations et encore une fois
on voit que les besoins
évolue tout le temps et encore une fois que le besoin de
base c’est pas forcément celui de devenir un maître
en prompte chat GPT mais de comprendre qu’est ce que je peux
faire.
Pour vous il y a des ressources alors vous n’êtes pas
enseignant et enseignante mais
On voit qu’il y a aussi au niveau public tout un ensemble de
ressources, mais je pense que ça,
ça vous sera mieux expliqué par Katia aussi.
Qu’est-ce qui peut être utile pour vous ?
Qu’est-ce que vous devez savoir ?
Mais ce n’est pas forcément un constat uniquement de déprime
que je
voulais vous partager,
mais c’est celui aussi de dire qu’il y a aussi une vraie
prise de conscience qu’il faut aussi donner plus d’outils,
de matériel pédagogique pour les professionnels.
En résumé, Et je finirai, je pense, pile poil dans les
temps,
mais la psychologie est au cœur de l’intelligence
artificielle de ses débuts à aujourd’hui.
Alors voilà, en tant que psychologue de l’éducation, de
l’éducation nationale,
c’est aussi un point important pour notre discipline d’où on
vient regarder c’est quoi
son lien avec le développement d’une technologie dont on
entend parler tous les jours.
Ça transforme toute notre discipline, nos professions.
On voyait au tout début de l’éducation jusqu’à
l’orientation, En passant par l’accompagnement
psychologique,
je voulais vous donner un portrait très large de comment
est-ce que ça peut se
manifester.
Et ça peut se manifester de la détection des états
psychologiques, des émotions, des profils de personnalité,
voire même de soutien pédagogique.
Ça peut offrir tout un ensemble de ressources, mais
aujourd’hui,
on a un constat sans appel qui est qu’il faut un cadre
pratique déontologique
beaucoup plus fort.
et on m’a transmis très gentiment des documents
qui concernent vous, vos professions à vous.
J’étais curieux de savoir un petit peu, est-ce que
l’intelligence artificielle est mentionnée ?
C’est quoi les technologies pour les psychologues de
l’éducation dans les cadres de pratique,
dans les regroupements professionnels ?
Et je pense que c’est encore aujourd’hui une question qui
doit être encore plus
poussée et ce n’est pas une critique, c’est un constat pour
beaucoup d’autres domaines.
des cadres odéontologiques adaptés
sont vraiment un besoin que nous on nous relaie énormément.
On a formé 5000 personnes dans les
4 dernières années et on voit toujours ce même besoin encore
une fois,
c’est qu’on veut des règles déontologiques pratiques,
très concrètes pour savoir qu’est-ce qu’on peut faire,
qu’est-ce qu’on ne peut pas faire à notre niveau, dans notre
contexte.
Donc voilà, c’est une invitation et j’espère que après ces
journées de formation,
vous aurez aussi peut-être le rôle de champion ou championne
pour commencer cette
discussion dans votre travail.
Voilà, merci beaucoup et s’il y a des questions, je suis à
votre disposition.
Merci beaucoup
Karl pour l’intervention qui est complètement dans le
timing.
On va prendre 15 minutes de questions maximum pour ne pas
prendre trop de retard
pour la conférence qui suit.
Est-ce qu’il y a des questions ?
J’ai peut-être une question.
Moi, c’est…
Est-ce que vous avez…
Ah, il y a une question en fond, je crois.
Tu peux répéter ta question, Karl ?
Non, je disais que je pouvais poser une question aussi, mais
je voyais qu’il y avait une question en fond, donc je vais
laisser.
Oui, alors je vois.
Il y a une question.
Bonjour.
Dans les établissements scolaires,
on voit fleurir des protocoles santé mentale et
qui notamment, on peut dire ça comme ça, affichent les
élèves.
C’est-à-dire que des fiches santé mentale avec des détails
quand même
très poussés,
des éléments de secret professionnel figurent sur ces fiches
santé
mentale.
Donc, elles circulent a priori sur Prenaut, sur des outils
RGPD.
où est-ce que…
Où sont-elles stockées ?
Ça, on ne sait pas, mais dans l’institution, certainement.
Est-ce que les outils RGPD sont à l’abri de manipulation de
l’IA ?
Aujourd’hui on voit que le RGPD c’était un cadre qui a dû
être complété
par deux régulations.
Donc désolé je suis français mais je vis à Bruxelles donc
j’ai pris le pli de toutes les
régulations européennes.
Mais donc le Data Act, le Data Governance Act,
donc il y a beaucoup de régulations en cours qui vont
d’ailleurs fusionner entre elles.
Et c’était l’idée de dire oui le règlement sur la protection
des données donne tout un ensemble d’indications
précises sur qu’est-ce qu’on peut faire, qu’est-ce qu’on ne
peut pas faire.
au niveau d’organisation ou d’individu.
Mais ça ne dit pas forcément, donc Data Governance Act,
cette fameuse question de gouvernance,
c’est en tant qu’organisation, qu’est-ce qu’on peut partager
comme données,
qu’est-ce qu’on ne peut pas partager, et ça va beaucoup plus
loin.
Et si je prends les questions de fiches de santé mentale,
merci pour l’exemple, c’est très intéressant,
ça montre en effet que c’est…
Est-ce que c’est des informations qui peuvent être
transmises ou pas à des professionnels de
santé ?
il y a un flou un peu artistique,
et c’est quelque chose qu’on retrouve aussi sur,
notamment, encore une fois, les montres connectées,
ou par exemple le monitorage de l’utilisation de Microsoft
Teams dans des organisations.
On s’est rendu compte,
on pourrait faire des inférences de l’état de santé mentale
des gens à partir de données qui à la base ne sont pas
des notes cliniques ou des notes de santé mentale.
Et on se dit, s’il y a une forte chance que par exemple
l’heure à laquelle je me connecte,
la fréquence à laquelle je me connecte,
ou par exemple la qualité de mon sommeil soit revendue à des
organisations tierces ou
communiquée à des personnes tierces, sans mon consentement,
sans que je sois au courant,
c’est une vraie question presque démocratique.
Et j’utilise le gros mot démocratique ici, parce que, par
exemple,
Il y avait eu plusieurs cas aux États-Unis de personnes qui
s’étaient fait
refuser des prêts bancaires ou des assurances et il n’y
avait eu aucune
communication de dossier clinique ou de dossier médical ou
de dossier
avec un état de santé clairement mentionné.
C’était que les sociétés d’assurance et les banques avaient
acheté des données
par des tiers et avaient vu qu’il y avait un risque de
maladie longue durée pour des personnes,
notamment en matière de santé mentale et en matière de santé
physique.
Et donc, on voit que cette question du flux de données, de
jusqu’où ça va,
elle est mal encadrée.
Et là, c’est encore une fois la question du cadre
déontologique.
Je trouverais très intéressant qu’il y ait des mesures très
concrètes, précises, qui disent,
quand des notes sont prises dans les outils que vous
utilisez, par exemple,
comme j’ai mal entendu le nom, Beaucoup.
voici, on ne peut pas le transférer, ou il faut en référer à
telle ou telle personne.
Et je pense qu’il manque, comme ils disent au Québec, des
trous dans la raquette,
sur qu’est-ce qu’on doit faire ou pas.
Et on se retrouve, et moi j’ai eu ce cas-là, en travaillant
notamment dans une administration,
un peu en sorte de poids sur nos épaules, est-ce que c’est
moi qui dois décider de qu’est-ce que je dois faire ou pas
ici.
Et c’est un peu lourd.
Une autre question.
Bonjour, merci beaucoup pour votre intervention.
Je voulais vous poser une question, dans le prolongement de
ce que vous avez dit.
En gros, on avait vu il y a quelques années, il y a cinq ans
à peu près,
il y avait des données de la carte vitale chez nous en
France qui étaient rendues à IQVIA,
et puis qui finalement utilisaient ces données-là.
Donc après…
On ne sait pas trop où.
On a entendu ce matin qu’il y avait une nouvelle révolution
qui arrivait,
qui était assez forte.
C’est Microsoft et Nvidia qui allaient faire une révolution.
Ce qu’ils disent, c’est qu’ils ne font aucun doute que cette
réinvention sur l’ordinateur,
qui va être repensée pour l’IA,
est aussi importante que la transformation du téléphone en
ce que nous
connaissons aujourd’hui sous le nom de smartphone.
Donc en fait,
si nos ordinateurs sont très puissants et gèrent de l’IA
directement,
ça veut dire beaucoup plus de données personnelles qui vont
partir chez Microsoft et
après revendues je ne sais où.
Que pensez-vous de cette évolution-là, quand eux-mêmes
disent que ça va être très puissant ?
Pour faire un lien,
je suis à Vienne à une conférence en robotique et je suis
chercheur en psychologie à la base, donc vous allez me dire
qu’est-ce que tu fais là-bas.
Mais, et c’est quoi le lien avec la question,
on voit l’émergence de robots humanoïdes, de robots de
service,
de robots pour l’éducation, de robots enseignants,
de robots aussi par exemple pour s’occuper des personnes
âgées dans les
maisons de retraite.
et un sort de
phénomène dont tout le monde est très conscient mais en même
temps ferme les yeux assez volontairement,
c’est celui de l’aspirateur à données qu’on va avoir en face
de nous.
C’est à dire vous mettez un par exemple un robot
enseignant dans une école,
c’est des expérimentations qui sont en cours dans plusieurs
pays en téléprésence
ou simplement vraiment de façon un peu autonome.
Il y a tout un ensemble de données qu’on n’imagine même pas
qui sont collectées.
Par exemple, une caméra qui filme des visages d’enfants.
Vous avez aujourd’hui des modèles d’IA accessibles
gratuitement qui
approximent des états émotionnels.
C’est-à-dire que sur la base même d’images de pas très
grosse qualité,
des modèles pourraient être en mesure de voir un visage et
de dire cet enfant ou cet
adulte est content, pas content, heureux, une idée de l’âge,
tout un ensemble d’informations.
Et sur votre point de vue,
d’outils comme les smartphones qui deviennent encore plus
puissants, encore plus capables d’aspirer des données.
C’est une tendance générale dans la santé,
dans l’éducation que je vois.
Sur la question d’avant aussi, le RGPD avait fait des
premières bases,
mais on voit aujourd’hui qu’on a un besoin d’évolution et
d’encadrement plus strict parce
que les capacités technologiques augmentent de façon
très nette ces risques que vous mentionnez.
Donc oui, je suis d’accord que ça porte à inquiéter.
Après, encore une fois, je reviens sur la question des…
Vous avez la chance, je pense, de ce que j’ai compris pour
les psychologues de l’éducation,
d’avoir un ordre professionnel maintenant, ou si ce n’est
pas un ordre,
c’est un regroupement ou une organisation,
de faire remonter aussi des questionnements et de
s’impliquer,
parce que c’est ça aussi qui va amener derrière sur les
règles du jeu en couple.
plus clair et pratique.
Sur votre question sur le smartphone, ça va au-delà de ça,
mais pour autant,
c’est l’impression que je ressens dans beaucoup de domaines,
qu’est-ce que je peux faire à mon niveau ?
Il y a quand même des choses qu’on peut faire encore,
notamment au niveau de nos ordres professionnels.
On va prendre une dernière question.
C’est une petite remarque avec une question sur les
connaissances que vous avez en la matière.
Vous avez parlé de l’IA qui serait dotée de conscience, donc
un débat.
Moi je trouve que ça pose la question de qu’est-ce qu’un
être vivant ?
Définir ce qu’est un être humain par rapport à une machine.
Et donc ça repose le fameux dilemme de Descartes sur le
dualisme entre le corps et la vie.
J’aurais pu savoir où sont les débats sur
cela.
Je vous invite à regarder toutes les déclarations
sensationnalistes
à droite, à gauche.
Mais il y avait récemment quelque chose qui a beaucoup été
discuté,
c’était le Vatican qui avait publié tout un texte sur
l’utilisation de l’intelligence artificielle.
et il y avait eu notamment des…
un des fondateurs d’Anthropique, pour Claude Louty,
qui parlait de ses inquiétudes sur ce qu’ils étaient en
train de créer.
Est-ce que pour autant ça le freinait pour le faire ?
Non.
Mais ce qu’il décrivait,
c’était l’impression d’avoir quelque chose qu’il ne
comprenait pas entièrement.
Est-ce que c’est vrai ou pas ?
Ça reste aujourd’hui vraiment très débattu.
Et un des aspects au cœur du débat, c’est…
à partir de quand on parle de compétences morales,
de conscience.
Le modèle de référence qu’on a, c’est celui des humains.
Et si on doit calquer des comportements humains qu’on
appliquerait en
disant « si vous avez ce comportement, c’est que vous avez
une conscience » ,
on voit qu’on commence à en observer certains en matière de
système d’intelligence artificielle.
Un exemple très concret pour être pragmatique, c’est mentir.
Par exemple,
on voit que les systèmes d’IA sont maintenant capables de
mentir pour
réussir à s’auto-préserver ou à protéger des intérêts qu’ils
peuvent avoir.
Est-ce que ça fait toute une conscience ?
Est-ce que c’est simplement un comportement qui imite
complètement des belles habitudes humaines qu’on
a tous ?
La frontière est mince.
Mais sur le dualisme,
on voit même qu’il commence à être…
questionner parce qu’on voit et notamment dans les
conférences robotiques ou autres,
les questions d’hybridation humain-machine aussi qui
viennent se greffer par-dessus sur toutes ces questions
donc voilà, je pense pour aussi préserver le temps de Katia,
malheureusement je pourrais vous proposer deux,
trois ressources encore une fois le rapport sur la
sécurité de l’IA et c’est pas une lecture de plage mais
c’est très intéressant sur voir où on en est
actuellement sur ces questions d’encadrement d’une IA
consciente