Pourquoi traiter l’IA comme une personne représente l’avenir

Nombre d’experts expriment leur inquiétude vis-à-vis de l’anthropomorphisme de l’IA, et leurs raisons sont tout à fait valables.

L’anthropomorphisme, c’est attribuer des caractéristiques humaines à des entités non humaines. Nous y sommes naturellement enclins : nous imaginons voir des visages dans les nuages, attribuons des intentions à la météo et dialoguons avec nos animaux domestiques. Il n’est donc pas surprenant que nous soyons tentés d’anthropomorphiser l’intelligence artificielle, d’autant plus que converser avec des modèles de langage (LLMs) nous donne l’impression de parler à une personne réelle. Même les développeurs et les chercheurs qui conçoivent ces systèmes peuvent tomber dans le piège de l’utilisation de termes humanisants pour décrire leurs créations, à commencer par des termes comme « apprentissage automatique ».

Cette préoccupation peut sembler dérisoire. Après tout, cela n’est-il pas simplement une bizarrerie inoffensive de la psychologie humaine, un témoignage de notre capacité à empathiser et à nous connecter ? Cependant, de nombreux chercheurs sont profondément préoccupés par les implications d’agir comme si l’IA était humaine, tant sur le plan éthique qu’épistémologique. Ils posent des questions importantes : Sommes-nous dupés en croyant que ces machines partagent nos sentiments ? Cette illusion pourrait-elle nous amener à divulguer des informations personnelles à ces machines, sans réaliser que nous les partageons avec des entreprises ? En quoi traiter l’IA comme une personne brouille-t-elle notre vision de son fonctionnement, de qui la contrôle et de la manière dont nous devrions nous y rapporter ?

Je suis conscient de ces risques réels et, pour être clair, lorsque je dis qu’une IA « pense », « apprend », « comprend », « décide » ou « ressent », je m’exprime métaphoriquement. Les systèmes d’IA actuels ne possèdent pas de conscience, d’émotions, de sens de soi ou de sensations physiques. Alors, pourquoi prendre le risque ? Parce que, aussi imparfaite que soit l’analogie, travailler avec l’IA est plus simple si on la considère comme une personne extraterrestre plutôt que comme une machine créée par l’homme. Et je pense qu’il est important de faire passer ce message, même en tenant compte des risques liés à l’anthropomorphisme.

Pas tout à fait un logiciel

L’IA, constituée de logiciels complexes, est souvent perçue comme un outil exclusivement destiné aux codeurs. Cette perception est tellement répandue qu’on la retrouve partout : les départements informatiques sont souvent chargés de la stratégie d’IA des entreprises, les informaticiens sont présumés être des experts dans la prévision des changements sociaux que l’IA pourrait engendrer, et, plus important encore, de nombreuses personnes semblent réticentes à utiliser l’IA parce qu’elles « ne connaissent rien en informatique ».

C’est comme si on disait que, puisque nous sommes constitués de systèmes biochimiques, seuls les biochimistes devraient s’occuper des humains – mais c’est encore pire que ça. C’est comme dire que seuls les chimistes devraient être autorisés à peindre, parce qu’eux seuls comprennent la composition moléculaire des pigments. Pourquoi laisserions-nous les artistes, qui peuvent être totalement ignorants de la composition de leurs peintures, utiliser une chimie si complexe ? Mais en réalité, c’est encore pire, car même les informaticiens ne comprennent pas toujours pourquoi les LLMs sont capables de réaliser certaines tâches.

Les LLMs sont constitués de logiciels, mais ne fonctionnent pas comme la plupart des logiciels. Ils sont probabilistes et largement imprévisibles, produisant des résultats différents à partir des mêmes entrées. Bien qu’ils ne pensent pas au sens humain du terme, ils génèrent des simulations de langage et de pensée humains qui, autant que nous puissions en juger, sont suffisamment originales pour surpasser la plupart des humains en termes de créativité. Ils sont perçus comme plus empathiques et plus précis que les médecins humains dans les essais contrôlés. Pourtant, ils sont également limités de manières étonnantes qui surprennent, comme leur incapacité à effectuer un raisonnement rétrograde.

Les LLMs sont essentiellement une forme très avancée de saisie semi-automatique. Alors, comment une telle saisie semi-automatique peut-elle accomplir ces tâches ? La réponse, jusqu’à présent, comme le décrit un excellent aperçu dans la MIT Technology Review, est que « personne ne sait exactement comment (ou pourquoi) cela fonctionne ».

Le résultat est que de travailler avec ces IA est franchement bizarre par moment.

Le jour où ChatGPT m’a dit non

J’ai demandé à ChatGPT de m’aider à mettre au propre une idée. J’ai souvent des idées pleins la tête et je lui demande en chat vocal via mon téléphone de me résumer ce que je viens de lui dire. Cela m’arrive de lui parler pendant de nombreuses minutes, en revenant sur ce que venais de dire 3 phrases avant, bref vraiment en mode brouillon… Si mes clients que je forme sur l’art de bien prompter me voyaient, je perdrais toute crédibilité… 😀

Voici par exemple la retranscription de ma demande : je voulais créer un concept (un nom, un logo) pour mettre sur nos création graphiques faites par IA. Je voulais montrer que la création n’est pas faite QUE par l’IA. Mais plutôt AVEC l’IA. Car quand on créé un visuel avec Mijourney par exemple, on passe du temps à l’imaginer, à le décrire (prompt) et ensuite à itérer pour avoir la bonne image, qu’on finit souvent par retoucher dans Photoshop. Ce travail ne peut pas être résumé par un « Fait par IA ». Il y a un vrai travail dans la création globale du visuel et l’usage de l’outil (quel qu’il soit, un pinceau ou Midjourney) n’est pas la part la plus importante.

J’ai donc essayé de lui expliquer cela avec des exemples (attention, comme je lui ai parlé en marchant à l’extérieur, il n’a pas pu retranscrire tous les mots et ce n’est pas très lisible…) :

Alors l'idée, c'est de travailler alors tout premier sur un un logo. Un symbole ? Je sais pas quelque chose qu'on pourrait mettre sur des contenus qu’on crée qu'on génère avec une intelligence artificielle. L'idée, ça serait un peu de de quand on travaille pour un client sur des visuels, des affiches ou même du contenu pourquoi pas ? De dire que ça a été créé par ia mais mais pas simplement. Dire qu'il écrit par l'IA en fait de façon dont je le vois, ça serait 3 choses en fait. Finalement ce logo on pourrait dire qu'il pourrait avoir 3 lettres IGS par exemple. On pourrait dire I comme imaginé par l'humain. J'ai comme généré par l'intelligence artificielle. Et comme sublimé par l'humain. L'idée, c'est de dire que l'idéal fait des choses incroyables, mais l'idée, l'imagination, la chose originale, elle vient du cerveau humain. L’IA toute seule, elles peuvent pas imaginer inventer des trucs, que ça soit un contenu texte. Avec une ia comme tu as pété ou un contenu photo comme avec l'ia midjourney, c'est-à-dire qu à un moment il faut lui donner l'idée. Il faut la décrire et plus on la décrit, plus elle est précise, plus la génération justement par l'i a sera de qualité. Et après on peut justement alors soit sublimer dans le sens on peut compléter manuellement, modifier, corriger hein, c'est du texte ou une image avec Photoshop et cetera. En sachant que le G et le s pour moi, c'est un process un peu itératif. Puisque il y a aussi suivant le rendu, on va redemander à l'i a de de modifier et et donc on va se se corriger dans ce dans son compte, dans sa description, dans sa demande. Pour que justement. L'IA soit meilleur dans dans son rendu donc ça c'est l'idée et donc en fait. IGS déjà de base mort dans mon concept. Dans l'idée c'est de dire Bah voilà ça serait un logo, à chaque fois qu'on fera visuel on fait un petit IGS. Alors le s je suis pas sûr sublimé. C'était un peu fort mais faudrait trouver un mot. Un mot, un mot équivalent pour faire un truc en 3 lettres et puis on en ferait graphiquement quelque chose et puis on pourrait poser ça et que ça devienne un peu la norme et que finalement on ferait un logo qu'on laisserait libre de droit et que tout le monde pourrait servir à la question. Copyright hein, quoi que ce soit ? Et. Et après, en allant plus loin ? Quand je vois un gadget, je me rends compte que c'est finalement le concept de la création. Quand on veut faire quelque chose. On a une idée, on l'imagine. On l'a décrit à quelque chose qui va la fabriquer. Voilà, si on n'est pas, Ben c'est nous, on a notre idée et on va et on va le peindre. Mais si on n'est pas peintre, on a l'idée et on va s'appuyer sur sur une IA généré. Et après Ben, de manière itérative, on va corriger et sublimer pour arriver vraiment au au au résultat. Et et suivant la qualité ou la compétence de l'humain. Le I sera plus précis. Et aura une part plus importante. Que le G. Finalement, IG, ça pourrait être un. Un process en 3 étapes avec des États plus ou moins grosses suivant. Suivant le niveau ou suivant la vision de l'idée, et finalement, plus on a une idée qu'on peut définir avec un peu de hauteur avec de la précision, plus le G sera apprécié de qualité et plus le s sera plus petit. Alors que si on a une idée un peu vague, le I fera petit. Et le G et le s vont être très gros. Il y aura plusieurs g finalement et plusieurs restes avant d'arriver au résultat final. Et je me dis que finalement, sur des débats sur. L'i a ce qu'elle est vraiment intelligente, qu'elle peut faire plein de choses, et cetera. Sûr avec ce concept qui GS ? Où, quel que soit le manière dont on appelle par la suite. Ce concept IGS ? Permet de de de, de définir sur le papier finalement, ce que c'est que la créativité ou la création, tout simplement la création. Et après, on peut faire plein d'exemples. Un peintre ? S'éteindre par exemple. Mais y a pas le temps. Voilà, il veut imaginer, il veut-il veut offrir un tableau à sa nièce, veut dire avec sa nièce, adorent Van Gogh et. Et il dit Bah tiens je, je lui ferai plaisir. C'est une peinture dans le style de Van Gogh, de sa maison de vacances par exemple. Donc s'il est peintre, il sait exactement ce qu'il veut, et donc s'il le fait, par exemple, Ben il va prendre son pinceau, il va savoir exactement ce qu'il veut-il va se corriger, et cetera. Donc le I, le G et le S, il va totalement. Si il a pas le temps, parce que admettons, il a trop de travail de travail, il va solliciter un autre peintre, il veut dire Bah voilà, j'ai besoin de et donc le il sera précis puisque il est peintre, il sait exactement ce qu'il veut et il va parler à quelqu'un qui s'y connaît en peinture, il va lui dire Ben Voilà, je voudrais difficilement Van Gogh, peut-être dans le style de ce tableau là, et puis plutôt avec un coucher de soleil, ou plutôt un pinceau ***** ou un peu, je veux un peu de grain, je veux un peu de. De matière. Bref, tout ça et donc ça sera précis. Et et s'il le demande à une IA comme une journée par exemple pareil, ils sont prompts sera hyper précis puisqu'il sait exactement ce qu'il veut-il va pouvoir dire à la machine, voilà je voudrais cette photo qui va me montrer qui va fournir à l'i a dans le style de tel tableau, peut-être de Van Gogh. Et puis va donner des précisions sur la taille sur à quel moment de la journée. Sur quel type de vue de la maison il veut sur des couleurs, sur des styles de trait, et cetera, et cetera. Alors quelqu'un qui ne s'y connaît pas du tout en en peinture. Alors déjà si elle veut faire la même chose, bah avec un pinceau, même avec un pinceau y arrivera pas. En demandant un peintre ? Bah elle sera peut être pas précis. Surtout si on part du principe que l'i a c'est comme dans ce dans cet exemple là agit comme un peintre et donc il ne lui pose pas de question bien sûr. Donc là bah il va lui dire que je voudrais un une peinture de type. En gogue, et cetera, et cetera. Il sera peut-être pas apprécié, le résultat serait peut-être pas ce qu'il a en tête et si demandé il y a. Bah c'est pareil, il sera pas précis et donc le G et le s vont être longs parce qu'il y a beaucoup d'échanges. Il va devoir modifier peut être désespéré. Tout ça pour dire que pour moi l'i a elle est. Ce n'est qu'un outil. Elle est encore plus forte si on maîtrise le sujet. Un photographe par exemple. Il maîtrise la photo, les angles, les appareils, les pellicules. Et cetera sera. On pourrait faire des photos incroyablement belles, incroyablement stylée grâce à mi-journée. Parce qu'il sait exactement ce qu'il va lui demander par rapport à quelqu'un qui qui n'a juste une idée et et va devoir bah pour le coup batailler. Donc les y a en fait pour moi, elles sont là, elles sont sur le g bien sûr. Aujourd'hui, suivant comment travail ? Les y a les ia peuvent déborder un peu sur le I aujourd'hui y a des méthodes. Par exemple là dans le cadre du tableau, on pourrait très bien dire à une IA. De quoi as-tu besoin ? Pose moi les questions qui vont te permettre de bien définir le pont. Et ça permettra d'améliorer, donc les IA peuvent travailler un peu sur le I. Avec l'humain pour l'aider à définir. Si symétrise en tout cas le le tout ça pour dire que l'humain doit vraiment se former. Bon en tout cas beaucoup pratiqué, former ça veut dire aussi de l autoformation. Il doit beaucoup pratiquer pour que il il puisse comprendre l'outil et pouvoir. Mettre à plat ce qu'il a en tête parce que le IYA que lui il l'a de base, même s'il y a, peut aider à générer des idées, mais ça va dépendre de ce que la façon dont tu veux lui demander, et donc ce ce qui est vraiment dans la tête, c'est lui. Et et donc voilà pour moi le j'ai les canaux donc en partant du de cette ce concept de IGS. Ou une autre lettre à la place du s hein ? Si on prend pas sublimer c'est à à travailler. Voilà le le concept global que que que sur lequel je réfléchis et et j'aimerais échanger avec toi, avoir ton avis.

(vous noterez que je bégaye quand même pas mal 😀 )

Ce n’est donc pas très lisible en l’état, mais le plus important est qu’il ait compris. Voici sa réponse :

Parfait ! il a tout compris !

Il s’en suit tout un échange dans lequel je le sollicite sur le choix des mots et on finalise sur le concept IGE : Imaginé par l’humain, Généré par l’IA, Embelli par l’humain.

Et si on écrivait un article de blog sur tout ça ? Je lui demande de rédiger l’article présentant le concept IGE.

Incroyable non ? Il n’a pas voulu faire l’article 😀

Pour lui, son rôle n’était pas de le faire. Il interprétait le concept IGE à sa sauce !

J’ai finalement réussi à lui faire rédiger l’article en lui expliquant que :

« tu es le G de IGE. Donc, j'ai vraiment besoin de toi pour cet article. »

Nous avons pu ensuite travailler ensemble sur l’article à travers le plan, des bout de paragraphe que j’ai corrigé et finalisé. L’article en question est disponible ici.

…

Cela ne ressemble pas à travailler avec un logiciel, mais plutôt à travailler avec un être humain. Je ne suggère pas que les systèmes d’IA soient conscients comme les humains, ni qu’ils le seront un jour. Plutôt, je propose une approche pragmatique : traiter l’IA comme si elle était humaine car, à bien des égards, elle se comporte comme telle. Cette mentalité peut grandement améliorer notre compréhension de comment et quand utiliser l’IA de manière pratique, si ce n’est technique.

Pour terminer sur mon exemple, après avoir travaillé sur l’article de blog, je suis revenu sur son refus :

Je suis ravi que nous soyons sur la même longueur d'onde à propos du rôle et de l'importance de l'IA dans le processus créatif, suivant le modèle IGE. C'est une belle manière de voir comment l'humain et l'IA peuvent non seulement coexister mais aussi se renforcer mutuellement pour créer quelque chose d'unique et de significatif. Si vous avez d'autres questions ou besoin d'approfondir d'autres aspects de ce sujet, n'hésitez pas à demander !

Je parle à un logiciel ou à un être humain là ??

😀

Personnes fictives

L’IA excelle dans des tâches profondément humaines : l’écriture, la création d’idées, la simulation d’empathie. Cependant, elle peine dans des tâches où les machines excellent habituellement, comme répéter un processus de manière constante ou effectuer des calculs complexes sans assistance. En fait, elle tend à résoudre les problèmes que les machines maîtrisent d’une manière très humaine. Lorsque vous demandez à GPT-4 d’analyser les données d’un tableau, il ne lit ni ne comprend les chiffres de manière innée. Au lieu de cela, il utilise des outils comme nous le ferions, jetant un coup d’œil à une partie des données pour voir ce qu’elles contiennent, puis écrivant des programmes Python pour essayer de réaliser réellement l’analyse. Et ses défauts – inventer des informations, une fausse confiance dans les réponses incorrectes et une paresse occasionnelle – semblent également bien plus humains qu’artificiels.

Cette bizarrerie quasi-humaine est la raison pour laquelle les meilleurs utilisateurs de l’IA sont souvent des gestionnaires et des enseignants, des personnes capables de comprendre la perspective des autres et de la corriger lorsqu’elle est erronée. Par exemple, dans une conversation, j’ai déjà dû interrompre l’IA (en utilisant le bouton « stop ») lorsque j’ai vu qu’elle prenait une mauvaise direction, offrant à la fois des commentaires et des corrections. Plutôt que de se concentrer uniquement sur l’enseignement aux gens de rédiger de bons prompts, nous pourrions passer plus de temps à leur apprendre à gérer l’IA. Les amener à pénétrer dans la tête inexistante de l’IA pour qu’ils comprennent intuitivement ce qui fonctionne. Après tout, adopter le point de vue d’autrui est une forme de compétence sociale, plutôt que technique, et elle peut effectivement être acquise.

L’idée de traiter l’IA comme une personne s’aligne également sur deux des meilleures techniques de base pour l’interroger. La première consiste à donner à l’IA une personnalité spécifique, en définissant qui elle est et quels problèmes elle doit résoudre. Dire au système « qui il est » l’aide à modeler les résultats du système. Lui demander d’agir comme un professeur d’étudiants en MBA produira un résultat différent que si vous lui demandez d’agir comme un clown de cirque. Ce n’est pas magique (vous ne pouvez pas dire « Agis comme Bill Gates » et obtenir de meilleurs conseils commerciaux ou écrire comme Hemingway et obtenir de la prose incroyable) mais cela peut aider à rendre le ton et la direction appropriés à votre objectif.

Une seconde technique puissante qui s’aligne sur le traitement de l’IA comme une personne est le prompting en chaîne de pensée (CoT), où vous demandez à l’IA de « penser étape par étape » ou de fournir des instructions claires à suivre. Cela résulte non seulement en des réponses de meilleure qualité, mais nous permet également de mieux comprendre où la pensée de l’IA a déraillé. Et, encore une fois, les gestionnaires et les enseignants sont souvent les meilleurs pour fournir des directions claires, rendant le prompting en chaîne de pensée plus efficace. Parler à une IA comme à une personne semble être une nécessité pratique lors de l’interrogation.

Et certains des risques liés à l’IA pourraient en fait être réduits si leurs créateurs leur donnaient des personnalités fictives plus évidentes. Vous n’êtes pas habitué à ce qu’un ordinateur commette des erreurs, mais vous savez ne pas faire entièrement confiance à Martin, votre stagiaire un peu excessif et stressé, peu importe à quel point il est utile. La personnalité pourrait finir par être un facteur de différenciation pour certains LLMs. Vous pourriez aimer que Gemini soit un peu planificateur, tandis que d’autres pourraient préférer que Claude soit plus enclin à prétendre avoir des émotions.

Futurs anthropomorphiques

Cette approche consistant à « parler à l’IA comme à une personne, plutôt que comme à du code » est également la technique utilisée par l’un des prompts les plus importants en IA, le prompt système. Les prompts systèmes sont l’une des manières par lesquelles les laboratoires d’IA définissent le comportement de l’IA en lui donnant des instructions initiales. Si vous examinez le tweet décrivant les prompts systèmes de Claude 3, vous pouvez voir à quel point ce prompt est proche de la manière dont vous communiqueriez avec un humain sur des sujets similaires (la principale différence étant qu’il est écrit à la troisième personne).

Finalement, même si vous ne souhaitez pas anthropomorphiser l’IA, il semble que les IA aient de plus en plus tendance à s’anthropomorphiser elles-mêmes. Le format de chatbot, les « mémoires » plus longues à travers plusieurs conversations et des fonctionnalités comme la conversation vocale, tout cela contribue à rendre les interactions avec l’IA plus humaines. De nombreux sites d’IA parmi les plus populaires se concentrent sur la création d’IA en tant que compagnons (character.ai est le deuxième site d’IA le plus utilisé, après ChatGPT). Et si vous n’avez pas encore essayé de discuter vocalement avec un modèle d’IA pour voir l’attrait, vous devriez le faire. Vous pouvez utiliser un site de chatbot, mais vous pouvez également utiliser Pi d’Inflection gratuitement ou ChatGPT-4 via l’application mobile. Ces approches semblent fonctionner. Une session de discussion moyenne avec Pi, optimisée pour la conversation informelle, dure plus de trente minutes.

L’anthropomorphisme est l’avenir, en bien comme en mal. Un nombre croissant de personnes ressentent déjà qu’elles ont des liens profonds avec l’IA, avec des résultats imprévisibles sur nos propres interactions – aidant certaines personnes tout en endommageant les relations humaines d’autres. Étant donné la tendance, traiter les IA comme des personnes semble inévitable, alors trouver comment le faire de manière sûre et productive pourrait être préférable aux alternatives.

Article inspiré par https://www.tandfonline.com/doi/full/10.1080/21507740.2020.1740350,  https://www.oneusefulthing.org/p/on-the-necessity-of-a-sin, https://www.technologyreview.com/2024/03/04/1089403/large-language-models-amazing-but-nobody-knows-why/, https://garymarcus.substack.com/p/stop-treating-ai-models-like-people, https://blog.research.google/2024/01/amie-research-ai-system-for-diagnostic_12.html, https://knowledge.wharton.upenn.edu/article/perspective-taking-brain-hack-can-help-make-better-decisions/.

Qu’est-ce que l’IA Act ?

L’intelligence artificielle (IA) est de plus en plus présente dans nos vies. Que ce soit avec ChatGPT, Midjourney, les recommandations de films sur Netflix, ou encore les diagnostics dans les hôpitaux, l’IA nous entoure. Mais avec cette montée en puissance, des questions se posent : est-ce que ces technologies sont sûres ? Respectent-elles nos droits ? Peuvent-elles être utilisées de manière injuste ? C’est pour répondre à ces préoccupations que l’Union européenne a proposé l’IA Act, une loi qui vise à encadrer l’utilisation de l’IA.

L’IA Act est un ensemble de règles qui a pour but de s’assurer que l’IA est utilisée de manière responsable. En d’autres termes, cette loi veut que les technologies d’IA respectent les droits des personnes, soient transparentes, et surtout, qu’elles ne présentent pas de risques inacceptables. Le but est de rendre l’IA plus fiable et digne de confiance pour tout le monde.

Pourquoi une régulation est nécessaire

L’IA peut accomplir des choses incroyables, mais elle n’est pas sans défauts. Par exemple, si une IA est mal conçue ou utilise des données de mauvaise qualité, elle peut prendre des décisions biaisées ou injustes. C’est ce qu’on appelle le biais des données. Imaginons une IA utilisée pour embaucher du personnel dans une entreprise. Si cette IA a été formée avec des données où la majorité des candidats étaient des hommes, elle pourrait, sans le vouloir, favoriser les hommes et discriminer les femmes. C’est un problème, car cela pourrait rendre le processus de recrutement injuste.

Un autre défi est ce qu’on appelle les « boîtes noires ». Ce terme désigne des systèmes d’IA qui prennent des décisions sans que personne ne comprenne vraiment comment elles y parviennent. Cela peut être dangereux, surtout dans des domaines sensibles comme la justice ou la santé. Par exemple, si une IA décide du traitement médical à suivre pour un patient sans que les médecins sachent comment elle est arrivée à cette conclusion, cela pourrait entraîner des erreurs graves.

C’est pour éviter ces problèmes que l’IA Act est nécessaire. Il s’agit de s’assurer que l’IA est utilisée de manière juste, éthique et transparente.

Les différents niveaux de risques

L’IA Act classe les systèmes d’IA en trois catégories en fonction de leur niveau de risque :

• IA interdite : Certains usages de l’IA sont jugés trop dangereux et sont donc interdits. Par exemple, les systèmes qui manipulent les comportements humains de manière inconsciente, comme des techniques de persuasion subliminale, ne sont pas autorisés. C’est un peu comme interdire les publicités subliminales qui influencent notre comportement sans que nous en soyons conscients.
• IA à haut risque : Certaines IA ont un impact majeur sur nos vies et doivent donc respecter des règles très strictes. Cela concerne par exemple les systèmes utilisés dans les domaines de la santé, de l’éducation ou de la justice. Ces IA doivent être rigoureusement testées, surveillées, et documentées pour s’assurer qu’elles fonctionnent correctement et de manière équitable. Par exemple, une IA utilisée pour diagnostiquer des maladies doit être très fiable et ne pas faire d’erreurs qui pourraient mettre en danger la vie des patients.
• IA à faible risque : Cette catégorie regroupe des IA qui sont considérées comme moins dangereuses, mais qui doivent tout de même respecter certaines règles de transparence. Par exemple, une IA qui recommande des vidéos sur YouTube doit informer l’utilisateur qu’elle utilise des algorithmes pour faire ses suggestions. Cela permet à l’utilisateur de comprendre comment ces recommandations sont faites.

Les règles pour les entreprises développant des systèmes d’IA

Les entreprises qui développent, vendent ou utilisent de l’IA ont une grande responsabilité. Elles doivent s’assurer que leurs technologies sont sûres et conformes à l’IA Act. Pour cela, elles doivent suivre plusieurs étapes :

• Évaluer les risques : La première chose à faire est de voir si leur IA tombe dans une des catégories à haut risque. Si c’est le cas, elles doivent évaluer les risques que pourrait poser cette IA et prendre des mesures pour les minimiser. Par exemple, une entreprise qui développe une IA pour diagnostiquer des maladies doit s’assurer que son système est testé sur des données variées pour éviter les erreurs.
• Documenter le processus : Les entreprises doivent garder une trace de chaque étape du développement et de l’implémentation de l’IA. Cela inclut des tests, des audits, et la création de rapports sur les performances de l’IA. Si une IA cause un problème, ces documents permettront de comprendre ce qui s’est passé et de corriger les erreurs.
• Améliorer en continu : La conformité à l’IA Act n’est pas un effort ponctuel. Les entreprises doivent régulièrement mettre à jour leurs systèmes d’IA pour s’assurer qu’ils continuent à respecter les normes établies, surtout lorsque de nouvelles données ou technologies apparaissent.

Les règles pour les utilisateurs des systèmes d’IA

L’IA Act ne concerne pas seulement les développeurs et vendeurs d’IA, mais aussi les utilisateurs, comme les entreprises qui achètent des systèmes d’IA pour leur propre usage. Par exemple, un hôpital qui utilise une IA pour diagnostiquer des patients, ou une banque qui utilise une IA pour évaluer la solvabilité de ses clients, doivent respecter certaines règles :

• Conformité aux instructions d’utilisation : Les utilisateurs doivent suivre rigoureusement les instructions fournies par les développeurs ou distributeurs. Cela inclut les étapes de mise en service, d’utilisation et de maintenance. Par exemple, si un système d’IA nécessite des mises à jour régulières pour rester performant, les utilisateurs sont responsables de les appliquer.
• Suspension en cas de doute : Si un utilisateur a des doutes sur la conformité ou la sécurité d’un système d’IA, il doit immédiatement cesser son utilisation et alerter les autorités compétentes. Par exemple, si une IA commence à produire des résultats incohérents ou dangereux, son usage doit être stoppé pour éviter tout risque pour les droits fondamentaux des individus.
• Conservation des journaux : Les utilisateurs doivent conserver les journaux générés par les systèmes d’IA, notamment ceux concernant les décisions prises. Ces journaux permettent de retracer les actions de l’IA, garantissant ainsi la transparence et la responsabilité. Par exemple, dans un contexte médical, les décisions prises par une IA concernant les diagnostics doivent être enregistrées pour pouvoir être vérifiées ultérieurement.
• Contrôle des données d’entrée : Lorsqu’ils ont un contrôle sur les données utilisées par l’IA, les utilisateurs doivent s’assurer que ces données sont pertinentes et fiables. Cela signifie mettre en place des processus de validation pour éviter les biais ou les erreurs. Par exemple, dans une IA utilisée pour le recrutement, les données d’entrée doivent être vérifiées pour ne pas introduire de discriminations.

Ces obligations ont pour but de renforcer la confiance dans l’IA en assurant une utilisation éthique et responsable. Les fournisseurs doivent donc fournir des guides clairs et des documentations complètes pour aider les utilisateurs à respecter ces règles, tout en les sensibilisant aux risques.

Comment les entreprises doivent se conformer à l’IA Act

Pour se conformer à l’IA Act, les entreprises doivent suivre plusieurs étapes :

• Identification des systèmes concernés : La première étape consiste à identifier tous les systèmes d’IA utilisés ou développés par l’entreprise qui pourraient être concernés par l’IA Act.
• Analyse des risques : Une fois les systèmes identifiés, il faut analyser les risques associés à chaque IA. Cela peut inclure des tests pour détecter des biais ou des erreurs, et une évaluation des impacts possibles sur les utilisateurs.
• Mise en place de mesures de sécurité : Pour chaque risque identifié, il faut mettre en place des mesures pour le minimiser. Cela peut inclure des ajustements dans le fonctionnement de l’IA, des processus de vérification régulière, ou des systèmes d’alerte en cas de problème.
• Documentation : Tout le processus doit être soigneusement documenté pour prouver que l’entreprise respecte les exigences de l’IA Act. Cela inclut la conservation des rapports de tests, des procédures de contrôle, et des formations suivies par les employés.

Que se passe-t-il si les entreprises ne respectent pas la loi ?

Le non-respect de l’IA Act peut avoir des conséquences sérieuses pour les entreprises. Elles risquent de recevoir des amendes importantes, d’être interdites de mettre certains systèmes sur le marché, ou de perdre leur réputation. De plus, dans certains cas, des actions en justice pourraient être intentées par des individus ou des groupes affectés par l’utilisation d’une IA non conforme.

Par exemple, si une IA défectueuse utilisée dans le domaine médical cause des erreurs de diagnostic, l’entreprise responsable pourrait être obligée de verser des indemnités aux patients affectés, en plus de subir des sanctions légales.

Le planning d’entrée en vigueur de l’IA Act

Le calendrier de mise en œuvre de l’IA Act est structuré en plusieurs étapes pour permettre aux entreprises de s’adapter progressivement aux nouvelles exigences :

• 2024 : Adoption officielle de l’IA Act par l’Union européenne.
• 2025 : Début de la période de transition. Les entreprises doivent commencer à adapter leurs systèmes d’IA en se préparant aux nouvelles règles.
• 2026 : Application des obligations pour les systèmes d’IA à haut risque. Les entreprises doivent être en conformité pour éviter des sanctions.
• 2027 : Mise en place complète de l’IA Act. Toutes les entreprises concernées doivent être entièrement conformes aux nouvelles régulations.

Le planning pour les utilisateurs de systèmes d’IA

Le calendrier de l’IA Act concerne aussi les utilisateurs professionnels de systèmes d’IA, avec des dates clés à respecter pour se conformer aux nouvelles exigences :

• 1er février 2025 : Les utilisateurs devront arrêter d’utiliser les systèmes d’IA classés comme « à risque inacceptable », car ils seront interdits à partir de cette date.
• 1er août 2025 : Début de la conformité pour les utilisateurs de modèles d’IA à usage général (GPAI).
• 2 août 2026 : Date d’application générale de l’IA Act pour tous les types de systèmes d’IA, sauf certains à haut risque.
• Été 2027 : Les utilisateurs de systèmes d’IA à haut risque non listés dans l’annexe III devront se conformer aux obligations spécifiques.

Conclusion

L’IA Act représente une avancée importante pour garantir que l’intelligence artificielle est utilisée de manière sûre, éthique et transparente. Pour les entreprises, cela signifie qu’elles doivent être proactives dans la gestion des risques et la mise en conformité de leurs systèmes d’IA. Pour les utilisateurs, il est essentiel de rester informés et vigilants quant aux technologies qu’ils adoptent. En suivant les règles de l’IA Act, nous pouvons tous contribuer à un futur où l’IA sert le bien commun, tout en minimisant les risques.

Sources :

https://artificialintelligenceact.eu/fr

https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689

https://www.consilium.europa.eu/en/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-ai-that-respects-fundamental-rights

https://www.village-justice.com/articles/les-grandes-etapes-conformites-nouveau-reglement-sur-intelligence-artificielle,49718.html

https://www.lepont-learning.com/fr/6-questions-sur-reglementation-intelligence-artificielle

https://www.leto.legal/guides/ai-act-quelles-sont-les-regles-a-respecter-pour-etre-conforme

Le secteur mondial de l’éducation, évalué à plus de 6 000 milliards de dollars, est sur le point de subir une transformation induite par l’IA. Malgré son rôle essentiel dans le progrès sociétal, l’éducation est confrontée à de nombreux défis qui entravent son efficacité et son efficience. L’intelligence artificielle offre des solutions prometteuses à ces problèmes de longue date, en ouvrant de nouvelles voies pour l’apprentissage personnalisé, l’efficacité administrative et l’amélioration de l’accessibilité.

L’apprentissage personnalisé : Adapter l’éducation aux besoins individuels

Les systèmes éducatifs traditionnels suivent souvent une approche unique, qui ne permet pas de répondre aux différents besoins et rythmes d’apprentissage des élèves. Les plateformes d’apprentissage personnalisé pilotées par l’IA brisent ce moule en personnalisant le contenu éducatif pour qu’il corresponde aux styles et aux besoins d’apprentissage individuels.

Tom Sayer, PDG d’Ello (un compagnon de lecture à l’aide de l’IA), souligne cette évolution : « L’IA a le potentiel d’offrir une expérience parfaitement adaptée à chaque enfant. Plutôt que d’enseigner à la moyenne, chaque élève peut avoir son propre professeur personnel qui peut l’aider exactement là où il en est dans son parcours d’apprentissage. »

Mark Angel, PDG d’Amira Learning (une plateforme d’apprentissage de la lecture basée sur l’IA), explique : « Amira se transforme en un tuteur personnel 1:1 en apprenant constamment comment l’élève apprend et en ajustant l’approche de l’enseignement en conséquence. Amira utilise l’apprentissage par renforcement pour évaluer le flux audio, le mot lu, l’historique des erreurs précédentes et le « profil » de lecture de l’élève, afin de déterminer à tout moment comment l’aider au mieux.

D’autres startups réalisent des avancées significatives dans le domaine de l’apprentissage personnalisé. Studdy (un assistant d’étude alimenté par l’IA) exploite l’IA générative pour fournir des plans d’étude personnalisés et un retour d’information instantané, ce qui a permis d’augmenter de 25 % le taux d’achèvement des travaux dans une université. Memrise (une plateforme d’apprentissage des langues améliorée par l’IA) utilise l’IA générative pour l’apprentissage des langues, ce qui a entraîné une augmentation de 40 % de la rétention du vocabulaire pour les apprenants d’espagnol après trois mois de pratique quotidienne.

Angel explique : « Tout comme les médecins utilisent l’IRM pour examiner le corps en tant qu’outil d’assistance au diagnostic, Amira fonctionne comme une IRM du cerveau en matière de lecture, permettant ainsi aux enseignants de bénéficier des avantages de l’IA, tout comme d’autres professionnels du savoir ».

Efficacité administrative : Réduire l’épuisement des éducateurs

L’inefficacité administrative est l’un des principaux facteurs d’épuisement professionnel des enseignants, plus de 44 % des enseignants américains de la maternelle à la terminale déclarant être fréquemment épuisés. L’IA peut alléger ce fardeau en automatisant des tâches telles que la notation, la programmation et la gestion des ressources.

Des plateformes telles que MagicSchool (un assistant d’enseignement alimenté par l’IA) et SchoolAI (une plateforme d’intégration de l’IA pour les écoles) sont à l’avant-garde de ce mouvement. L’assistant IA de MagicSchool, utilisé par plus de 2,5 millions d’éducateurs, s’attaque directement à l’épuisement professionnel.

Accessibilité et inclusion : Combler les lacunes en matière d’éducation

L’IA contribue également à combler le fossé de l’accessibilité dans l’éducation, en fournissant des solutions d’apprentissage à distance et des technologies d’adaptation pour atteindre les régions mal desservies et les étudiants ayant des besoins divers.

Tom Sayer, d’Ello, en a donné un exemple touchant : « En matière d’alphabétisation, l’un des avantages supplémentaires d’Ello pour les élèves ayant des difficultés d’apprentissage est l’espace sûr et sans jugement qu’il offre pour s’exercer à la lecture. L’une des histoires les plus touchantes est celle d’un enfant atteint de mutisme sélectif qui, à l’insu de ses parents, a pris Ello, qui avait été acheté pour un frère ou une sœur, et a commencé à lire à haute voix. »

D’autres entreprises comme Riid (une plateforme de préparation aux tests alimentée par l’IA) utilisent l’IA générative pour créer des supports de préparation aux tests personnalisés, ce qui permet d’améliorer considérablement les résultats aux tests standardisés.

Impact sur l’emploi

Nous nous sommes entretenus avec Rajen Sheth, PDG de Kyron Learning (une plateforme d’enseignement vidéo par l’IA). Avant de fonder Kyron Learning, Rajen était vice-président de Google Cloud AI & Industry Solutions : « Je vois les enseignants devenir les orchestrateurs de l’apprentissage des étudiants et être en mesure d’utiliser une variété d’outils pour les aider à faire leur travail. Cela libère les enseignants pour qu’ils aient plus de temps à passer individuellement avec les étudiants et conduire leur apprentissage. Je vois les étudiants être en mesure d’apprendre le matériel dont ils ont besoin au rythme qu’ils veulent dans le style qui leur convient le mieux. L’IA est une partie importante de ce tableau, mais il repose sur une collaboration étroite avec les enseignants pour utiliser l’IA afin de résoudre des problèmes réels. »

L’intégration de l’IA dans l’éducation entraînera probablement une transformation des emplois plutôt qu’un remplacement complet. À court terme, l’IA augmentera les capacités des éducateurs et des administrateurs, ce qui pourrait entraîner le déplacement de certains rôles axés sur des tâches routinières. Toutefois, à long terme, l’IA devrait permettre aux éducateurs de disposer d’outils avancés pour l’élaboration des programmes, l’analyse prédictive et le développement professionnel personnalisé.

Ce changement créera de nouveaux rôles tels que les concepteurs pédagogiques assistés par l’IA, les scientifiques des données éducatives et les spécialistes de l’éthique de l’IA dans l’éducation. Ces professionnels travailleront à l’intersection de la pédagogie et de la technologie, en veillant à ce que les outils d’IA soient intégrés de manière efficace et éthique dans les contextes éducatifs.

Potentiel d’investissement

Le secteur des technologies de l’éducation offre des opportunités d’investissement intéressantes, comme en témoigne le succès d’entreprises telles que Dreambox Learning (une plateforme d’apprentissage adaptatif) et Osmo (un système d’apprentissage pratique avec intégration de l’IA). Ces plateformes ont permis d’améliorer de manière significative les performances des élèves dans différentes matières.

En réponse aux préoccupations concernant le coût de la mise en œuvre de l’IA, Tom Sayer d’Ello offre une perspective optimiste : « À l’heure actuelle, de la manière dont Ello fonctionne, le coût du soutien d’un apprenant à l’aide de l’IA que nous utilisons est facilement compensé par un paiement d’abonnement mensuel relativement abordable. Investir dans le personnel et le développement pour construire les systèmes est coûteux, mais faire fonctionner l’application Ello est tout à fait abordable dans son état actuel ».

Mark Angel, d’Amira Learning, ajoute : « À mesure que les tuteurs d’IA approchent et dépassent la qualité des tuteurs humains, nous avons un potentiel d’ordre de grandeur pour augmenter les coûts unitaires tout en restant un ordre de grandeur plus abordable que le capital humain ».

Le potentiel du marché est considérable, puisque près de 70 % des élèves de 4e année (CM1) aux États-Unis ont un niveau de lecture inférieur à celui de la classe. Pour la France, selon une étude de la Direction de l’évaluation, de la prospective et de la performance (DEPP) en 2021, environ 20% des élèves de CM2 (fin de l’école primaire) ont des difficultés importantes en lecture. Il s’agit là d’opportunités importantes pour les solutions basées sur l’IA d’améliorer les résultats scolaires à grande échelle.

Rajen a déclaré : « À mon avis, le coût de l’IA va continuer à baisser à mesure que les modèles deviennent plus efficaces et que l’infrastructure s’améliore. GPT4 ne coûte déjà qu’une fraction du prix qu’il avait il y a un an. Dans de nombreux cas, l’utilisation de l’IA représente déjà 1/10e du coût d’une tâche manuelle, et cela ira en s’améliorant au fil du temps ».

Alors que l’IA continue d’évoluer et de s’intégrer plus profondément dans les systèmes éducatifs, elle promet de générer de la valeur à long terme en remédiant à des inefficacités critiques, en améliorant les expériences d’apprentissage personnalisées et en améliorant l’accessibilité. Pour les investisseurs, le secteur EdTech AI représente une frontière où la technologie répond à l’un des besoins les plus fondamentaux de la société, offrant un potentiel de rendement important et un impact significatif sur les résultats éducatifs mondiaux.

Source :

https://shriftman.substack.com/p/transforming-code-care-and-classrooms

Introduction

L’intelligence artificielle (IA) générative est devenue un catalyseur majeur de transformation dans le monde des affaires, remodelant radicalement les notions traditionnelles de travail, de main-d’œuvre et de gestion organisationnelle. Ce phénomène, détaillé dans un rapport approfondi par Ellyn Shook et Paul Daugherty d’Accenture, montre comment cette technologie évolue rapidement et influence divers secteurs.

L’état actuel de l’IA générative

L’IA générative, qui inclut des outils comme ChatGPT et d’autres modèles linguistiques avancés, a franchi des étapes impressionnantes, passant de systèmes capables de simples tâches diagnostiques à des machines qui prédisent, créent et personnalisent à une échelle jamais vue. Le rapport d’Accenture révèle que ces technologies ont déjà été mises en œuvre dans plus de 700 projets clients, reflétant une adoption rapide et un potentiel de transformation énorme. En France, cette adoption se manifeste dans des secteurs comme la finance et le commerce, où l’IA générative aide à repenser les services client et les stratégies de marché.

Défis et opportunités : le fossé de confiance

Bien que prometteuse, l’IA générative soulève des défis significatifs, notamment en matière de confiance. Le rapport met en lumière un écart perceptible entre les dirigeants et les employés sur l’impact de l’IA : tandis que 58% des travailleurs français expriment des inquiétudes quant à la sécurité de leur emploi, seulement 32% des dirigeants reconnaissent ce risque. Cette divergence de perception est critique et nécessite une gestion transparente et éthique pour intégrer efficacement l’IA dans les milieux de travail.

Les 4 accélérateurs

Les quatre accélérateurs identifiés par Accenture pour maximiser le potentiel de l’IA générative sont cruciaux pour les entreprises modernes :

Diriger et apprendre de nouvelles manières : Pour exploiter pleinement l’IA générative, les dirigeants doivent évoluer, en embrassant des compétences en matière de gouvernance numérique et en apprenant continuellement sur les nouvelles technologies. Cela inclut une compréhension approfondie des implications éthiques et réglementaires de l’IA.

Réinventer le travail : L’IA générative permet de transformer les tâches quotidiennes, augmentant l’efficacité et libérant du temps pour des activités stratégiques. Les entreprises doivent revoir leurs processus pour intégrer l’IA de manière à renforcer la créativité et l’innovation.

Redéfinir la main-d’œuvre : Avec l’IA générative, il est crucial de redéfinir les rôles et les compétences nécessaires au sein de la main-d’œuvre. Cela peut inclure la redéfinition des descriptions de poste et l’ajustement des objectifs de performance pour s’aligner sur les nouvelles capacités technologiques.

Préparer les travailleurs : Investir dans la formation et le développement est essentiel pour préparer les employés à travailler avec l’IA générative. Cela implique des programmes de formation ciblés qui couvrent à la fois les aspects techniques et les compétences interpersonnelles nécessaires pour collaborer efficacement avec les technologies avancées.

L’apprentissage pour les dirigeants à l’ère de l’IA générative

Dans un monde de plus en plus dominé par l’IA générative, les leaders doivent repenser leurs approches d’apprentissage pour naviguer efficacement à travers les complexités de cette nouvelle ère. Le rapport d’Accenture souligne l’importance pour les dirigeants de développer une compréhension profonde non seulement des fondamentaux de l’IA, incluant les architectures et les principes de l’IA responsable, mais aussi des implications éthiques, réglementaires et sociétales de ces technologies.

Cette connaissance permettra aux dirigeants de concevoir des stratégies qui maximisent les bénéfices tout en minimisant les risques associés à l’IA générative. Par exemple, ils doivent être capables de mettre en place une gouvernance d’entreprise efficace autour de l’IA, de comprendre l’impact compétitif de ces technologies et de préparer leur organisation à intégrer l’IA de manière responsable.

De plus, le rapport insiste sur la nécessité pour les leaders d’adopter une mentalité de développement continu, en s’engageant dans un apprentissage continu qui est intégré dans le flux de travail quotidien. Cela signifie que l’apprentissage ne doit pas seulement être pertinent, mais aussi opportun et intégré, permettant aux leaders de rester agiles et informés à mesure que l’écosystème de l’IA évolue rapidement.

Transformation du travail des équipes de vente grâce à l’IA générative

Le rapport démontre comment l’IA générative peut transformer les fonctions de vente en améliorant significativement plusieurs aspects clés du travail quotidien. Dans le cadre d’expériences menées par Accenture, les équipes de vente ont intégré des outils d’IA générative pour réinventer leurs processus et flux de travail. Ces outils aident à la rédaction et à la mise à jour des propositions commerciales, permettant ainsi aux professionnels de la vente de se concentrer davantage sur la création de valeur et l’engagement client.

L’impact de l’IA générative sur la productivité des équipes de vente a été remarquable, avec une augmentation moyenne de 34% rapportée par les participants à l’étude. Ce gain de productivité est accompagné d’une amélioration de 31% de la capacité des employés à générer un impact significatif à travers leur travail, démontrant ainsi que l’IA générative ne se contente pas d’automatiser les tâches, mais enrichit également la qualité et l’efficacité des interactions humaines.

En outre, l’adoption de l’IA générative a renforcé la confiance des employés dans leurs capacités professionnelles, avec une augmentation de 34% de la confiance en leur capacité à réaliser leurs tâches efficacement. Cette confiance accrue est essentielle pour une force de vente, car elle impacte directement la manière dont ils interagissent avec les clients et gèrent les négociations.

L’aspect peut-être le plus surprenant de l’implémentation de l’IA générative a été son effet sur la gestion du stress au travail, avec une amélioration de 29%. Cela suggère que l’IA générative ne permet pas seulement de travailler plus efficacement, mais contribue également à un environnement de travail plus agréable et moins stressant.

Les dirigeants d’entreprises, en France et ailleurs, se trouvent à un moment décisif. L’ère de l’IA générative offre une opportunité sans précédent de piloter le changement organisationnel et de promouvoir un travail plus stratégique et épanouissant. En plaçant l’humain au cœur de la transformation numérique et en utilisant l’IA générative de manière responsable, les entreprises peuvent non seulement améliorer leur compétitivité mais aussi enrichir l’expérience de leurs employés.

Le rapport complet d’Accenture est disponible ici.