{"id":15447,"date":"2023-07-28T09:10:13","date_gmt":"2023-07-28T08:10:13","guid":{"rendered":"https:\/\/rh.by.storhaye.com\/?p=15447"},"modified":"2023-07-28T09:15:59","modified_gmt":"2023-07-28T08:15:59","slug":"le-predictif-nouvel-oracle-des-temps-digitaux-3-3-2-2-2-2-3-2-2-2-2-2-2-2-2-2-2-2-3-2-2-2","status":"publish","type":"post","link":"https:\/\/rh.by.storhaye.com\/?p=15447","title":{"rendered":"Les robots conversationnels et la proph\u00e9tie de Deleuze"},"content":{"rendered":"
\n

Les robots conversationnels comme ChatGPT offrent de nombreux avantages \u00e0 la condition qu’on ne les utilise pas pour ce qu’ils ne savent pas faire.<\/p>\n<\/div><\/div><\/span><\/blockquote>

<\/span><\/div><\/div><\/div><\/div>
<\/div>
<\/div><\/i><\/span>
<\/div><\/div>
<\/div>

Une puissance en progr\u00e8s constant<\/h1>\n

ChatGPT a pr\u00e9cipit\u00e9 les robots conversationnels dans les mains du grand public. Comme souvent, certains y voient une opportunit\u00e9 facile, confondant surface et profondeur, quand d\u2019autres crient aux loups en annon\u00e7ant la disparition de certains m\u00e9tiers, confondant au passage conversation et argumentation. Il ne fait aucun doute qu\u2019il s\u2019agit d\u2019une perc\u00e9e significative et impressionnante sur un plan technique, qui conduira \u00e0 des usages pertinents comme \u00e0 des applications discutables. En ce sens, plusieurs observateurs ont relat\u00e9 certaines d\u00e9rives, comme par exemple le professeur australien Seth Lazar qui relate un \u00e9change douteux<\/a> avec la version de ChatGPT int\u00e9gr\u00e9e au moteur de recherche Bing.<\/p>\n

\n

Gageons qu\u2019il s\u2019agisse d\u2019erreurs de jeunesse d\u2019une technologie qui ne cessera de s\u2019am\u00e9liorer. Des initiatives comme ToxiGen<\/a> pour contrer les risques de d\u00e9rives haineuses par exemple s\u2019inscrivent en ce sens.<\/p>\n<\/blockquote>\n

On pourrait penser en premi\u00e8re analyse qu\u2019\u00e0 l\u2019instar de toute technologie, tout d\u00e9pendra de ce que l\u2019\u00eatre humain en fera. Or, c\u2019est pr\u00e9cis\u00e9ment-l\u00e0 que certaines questions se posent d\u00e9sormais car la perspective est un peu diff\u00e9rente dans le cas pr\u00e9sent. En substance, le discernement et l\u2019esprit critique des utilisateurs sont toujours cl\u00e9 mais la nature m\u00eame de l\u2019outil, de ce qu\u2019on lui a appris \u00e0 faire et comment sont d\u00e9terminantes.<\/p>\n

LLM et conversation<\/h1>\n

Les technologies dont il s\u2019agit reposent sur ce qu\u2019il est convenu d\u2019appeler des LLM pour Large Language Model<\/em>. Il s\u2019agit d\u2019algorithmes d\u2019apprentissage profond (deep learning<\/em>) qui produisent du texte en langage naturel. C\u2019est ce sur quoi s\u2019appuie ChatGPT avec le LLM d\u2019OpenAi baptis\u00e9 GPT-3[1]<\/a>. En substance, il s\u2019agit de l\u2019application d\u2019un concept plus vaste, utilis\u00e9 dans d\u2019autres domaines, les mod\u00e8les \u00ab Transformers \u00bb<\/a> avec un \u00ab m\u00e9canisme d\u2019attention<\/a> \u00bb qui offrent une tr\u00e8s grande puissance car ils peuvent mettre en parall\u00e8le ce qui \u00e9tait r\u00e9alis\u00e9 auparavant de fa\u00e7on s\u00e9quentielle avec des r\u00e9seaux de neurones r\u00e9currents (RNN). Le progr\u00e8s consid\u00e9rable observ\u00e9 r\u00e9cemment vient en partie de cette puissance li\u00e9e \u00e0 la parall\u00e9lisation. Autrement dit, le robot encode\/d\u00e9code plus et plus vite, on peut donc le nourrir plus, il apprend mieux et donc restitue mieux.<\/p>\n

Le fonctionnement de ces algorithmes invite n\u00e9anmoins \u00e0 formuler deux remarques :<\/p>\n

<\/a><\/p>\n<\/div>

<\/i><\/div>

D\u00e9pendance<\/h2><\/div>
<\/div>
\n

Le mod\u00e8le d\u2019apprentissage, quelle que soit sa puissance, reste tributaire des donn\u00e9es auxquelles il est expos\u00e9<\/p>\n<\/div><\/div><\/div>

<\/i><\/div>

Pertinence<\/h2><\/div>
<\/div>
\n

Le mod\u00e8le ne sait en aucun cas estimer la pertinence de ces m\u00eames donn\u00e9es. Il ne sait pas \u00ab faire la part des choses \u00bb<\/p>\n<\/div><\/div><\/div>

<\/div><\/div>

Ces deux caract\u00e9ristiques ne posent pas de difficult\u00e9 intrins\u00e8que : elles constituent des particularit\u00e9s qu\u2019il suffit de comprendre pour profiter de la puissance des outils sans pour autant ignorer leurs limites. En d\u2019autres termes, il faut que l\u2019utilisateur fasse, d\u2019une part, un effort de discernement quant au r\u00e9sultat que lui fournit le robot et, d\u2019autre part, aille \u00e0 la p\u00eache d\u2019une \u00ab contre-information \u00bb en l\u2019absence de connaissance des sources qui l\u2019ont nourri.<\/p>\n

L’outil fa\u00e7onne les usages<\/h1>\n

Dans cette perspective, l\u2019observation des modes d\u2019acc\u00e8s \u00e0 l\u2019information depuis 20 ans par Internet livre peut-\u00eatre un enseignement. Les premiers moteurs de recherche, comme Yahoo lorsqu\u2019il proposait une recherche par cat\u00e9gories, demandaient un effort de r\u00e9flexion \u00e0 l\u2019utilisateur.<\/p>\n

Google s\u2019est ensuite rapidement impos\u00e9 par la simplicit\u00e9 qu\u2019il offrait : un champ de recherche par mots-clefs sans avoir \u00e0 naviguer dans une taxinomie fastidieuse. Moins d\u2019effort pour l\u2019utilisateur donc mais avec toujours la possibilit\u00e9 d\u2019appr\u00e9cier le degr\u00e9 de pertinence des r\u00e9ponses fournies.<\/p>\n

Or, on le sait, la paresse et la facilit\u00e9 l\u2019emportent souvent dans la dur\u00e9e\u2026 Combien font aujourd\u2019hui l\u2019effort de scroller<\/em> au-del\u00e0 des premi\u00e8res r\u00e9ponses ? Qui est vigilant et veille \u00e0 distinguer les liens sponsoris\u00e9s, des \u00ab extraits optimis\u00e9s \u00bb ou des sites en tant que tels ? Qui a fait l\u2019effort dans la pratique d\u2019utiliser des moteurs de recherche alternatifs plus respectueux des donn\u00e9es personnelles malgr\u00e9 sa conscience des d\u00e9fauts de ceux qu\u2019il utilise ?<\/p>\n

Pour avoir un d\u00e9but de r\u00e9ponse, il suffit de voir \u00e0 quel point l\u2019algorithme de LinkedIn impose sa loi, conduisant \u00e0 ce que chacun cherche \u00e0 \u00ab l\u2019utiliser \u00bb pour optimiser sa visibilit\u00e9 et \u00e0 ce qu\u2019in fine<\/em> bruit, gesticulation, commentaires et pol\u00e9miques l\u2019emportent in\u00e9vitablement sur la pertinence de l\u2019information.<\/p>\n

La valeur de l’information<\/h1>\n

Les outils et moyens qui donnent acc\u00e8s \u00e0 l\u2019information conditionnent non seulement les comportements mais ils constituent aussi des filtres qui infusent puis diffusent information et d\u00e9sinformation. C\u2019est un sujet invariant qui pose l\u2019\u00e9ternelle question de la confiance dans la source de l\u2019information. Je me souviens par exemple avoir assist\u00e9 il y a plus de 30 ans \u00e0 un colloque sur la d\u00e9sinformation dont il ressortait en substance que tous les experts \u00e9trangers affirmaient que la source la plus fiable d\u2019information en France \u00e9tait alors le journal Le Monde, tous s\u2019empressant d\u2019ajouter \u00ab sauf pour tel domaine \u00bb\u2026 pr\u00e9cis\u00e9ment celui de leur expertise\u2026 S\u2019informer avec justesse, distinguer la bonne information du bruit a toujours demand\u00e9 un effort et le demandera toujours. Simplement, la nature de l\u2019effort change : elle se d\u00e9place de la capacit\u00e9 \u00e0 acc\u00e9der \u00e0 l\u2019information \u00e0 la capacit\u00e9 \u00e0 en appr\u00e9cier la pertinence et la valeur.<\/p>\n

Les risques de la paresse<\/b><\/h1>\n

Or, on peut craindre que la facilit\u00e9 et le confort des robots conversationnels conduisent \u00e0 ce qu\u2019ils deviennent la norme d\u2019acc\u00e8s \u00e0 l\u2019information pour le commun des mortels. La guerre entre les grands industriels du secteur en est relanc\u00e9e. Comme nous l\u2019\u00e9crivions avec Patrick Bouvard il y a 20 ans : \u00ab l\u2019enjeu moderne est la mod\u00e9lisation d\u2019une recherche rapide, op\u00e9rationnelle, int\u00e9grant des principes d\u2019exploitation param\u00e9trables des informations. Celui qui poss\u00e8derait un tel outil serait plus ma\u00eetre du jeu que les autres \u00bb[2]<\/a>. Or, si cette hypoth\u00e8se s\u2019av\u00e9rait, elle comporterait plusieurs risques qui doivent inviter \u00e0 une vigilance individuelle et collective.<\/p>\n<\/div>

<\/i><\/div>

Risque de soumission <\/h2><\/div>
<\/div>
Le mod\u00e8le du robot a pris la main sur l\u2019utilisateur sur l\u2019appr\u00e9ciation des sources qui l\u2019ont nourri comme sur ce qu\u2019il en ressort.<\/div><\/div><\/div>
<\/i><\/div>

Risque de paup\u00e9risation culturelle <\/h2><\/div>
<\/div>
\n

Une normalisation donc une r\u00e9duction de la culture d\u00e8s lors que se diffusent majoritairement des repr\u00e9sentations construites par un mod\u00e8le<\/a> qui s\u2019appuie sur des donn\u00e9es existantes sans d\u00e9bat contradictoire nourricier.<\/a><\/p>\n<\/div><\/div><\/div>

<\/i><\/div>

Accroissement des in\u00e9galit\u00e9s<\/h2><\/div>
<\/div>
\n

Les efforts d\u2019esprit critique ou de dissidence seront d\u2019autant plus pesants que le travail sera m\u00e2ch\u00e9, ce qui desservira la grande majorit\u00e9 de celles et ceux qui ne pourront pas les consentir, quelles qu\u2019en soient les raisons.<\/p>\n<\/div><\/div><\/div>

<\/div><\/div>

Les soci\u00e9t\u00e9s de contr\u00f4le<\/h1>\n

Dans cette optique, peut-\u00eatre est-il opportun de rappeler les mots de Gilles Deleuze sur l\u2019art et les soci\u00e9t\u00e9s de contr\u00f4le<\/a>.<\/p>\n