IA et responsabilité : un équilibre à préserver

‍

Repenser la décision à l'ère de l'IA

L’IA est partout. Mais comment en faire un outil réellement utile, ancré dans les réalités du quotidien, des métiers, des organisations ? Au HUB612, nous croyons que les réponses ne viendront pas des grands discours, mais des pratiques de terrain. Celles des entrepreneurs qui explorent, testent, construisent, et parfois bousculent les usages.

C’est exactement ce que fait Emmanuel Théry avec DigitalKin, une startup lyonnaise née d’une ambition forte : rendre les expertises rares abondantes et accessibles grâce à des agents d’IA autonomes, explicables et performants. Dans un monde où la recherche, l’innovation et la production de savoir sont souvent freinées par des tâches longues et complexes, DigitalKin propose une nouvelle manière de travailler, plus fluide, plus humaine, et surtout, recentrée sur l’essentiel.

Nous avons échangé avec Emmanuel pour comprendre comment l’IA peut transformer le travail, pourquoi il est urgent de renouveler les organisations, se recentrer sur sa mission et en quoi cette technologie apporte autant de défis que d’opportunités. Son mot d’ordre ? Responsabilité. Individuelle, collective, technologique et éthique.

‍

• Quelles sont tes convictions sur l’IA ?

Je pense que l’IA est un changement majeur dans l’organisation du travail, dans les entreprises et dans notre société parce que beaucoup de tâches qu’on pensait réservées à l’humain, en réalité, se retrouvent maintenant faisables par des agents d’IA. Cela peut être une menace pour certains, si l’on considère le métier qu’on a uniquement sous l’angle des tâches à accomplir. Mais si on regarde les missions que nous les humains avons à accomplir, en réalité, cela nous permet d’aller beaucoup plus loin dans nos missions. Et de leur déléguer des tâches très chronophages pour nous consacrer aux tâches vraiment humaines qui ont plus de valeur, comme notre capacité à donner du sens, à créer du lien, à décider.

Je pense que ça peut nous permettre d’aller très loin, vers une meilleure organisation du travail et plus d’humain dans les métiers que font les gens. Et il y a aussi des risques associés à cela, parce qu’il faut accompagner le changement et que ça va très, très vite. 

‍

• Selon toi, à quoi doit servir l’IA ?

À nous permettre d’être plus humain. Aujourd’hui, tout ce qui me prend du temps et tout ce qui m’embête dans mon travail de chef d’entreprise au quotidien, c’est l’administratif, des dossiers à remplir, des procédures, des chiffres à malaxer : toutes ces choses-là l’IA va le faire beaucoup plus vite que moi. 

L’intelligence artificielle lit un million de fois plus vite que moi, elle rédige un million de fois plus vite que moi, elle analyse très vite. Par contre, prendre de la hauteur sur les choses, donner le cap, la vision, décider, c’est ce que je dois pouvoir faire et que je fais peu parce que je manque de temps pour le faire. Si l’IA me permet de passer plus de temps à cela et dans les rapports humains, ce sera très bénéfique.

‍

• Quels sont les enjeux actuels ? Et ceux à venir ?

Il y en a plusieurs. Il y a vraiment un enjeu d’accompagnement des personnes qui sont souvent dépassées et qui se disent que l’IA va trop vite pour le moment. “Je vais attendre que ce soit un peu plus clair pour me lancer.” Sauf que le train ne va pas ralentir et donc monter à bord du train, c’est maintenant qu’il faut le faire et c’est difficile car on est pas habitué à une croissance aussi exponentielle dans une nouvelle technologie.

Il y a une responsabilité collective dans les entreprises notamment pour accompagner les gens à redéfinir la façon de travailler. On ne peut pas simplement garder l’ancienne organisation du travail et se dire que l’on va faire de la productivité simplement parce qu’on intègre l’IA. Cela fait peur aux gens et légitimement car ça veut dire qu’on va juste essayer de faire la même chose avec moins, donc avec moins de personnes notamment. En réalité, l’IA permet de faire plus, de faire mieux, de faire plus efficacement, avec une meilleure efficience et plus d’intelligence. Servons-nous de cette intelligence pour redéfinir la façon dont on fonctionne dans les entreprises. Souvent, nous n’avons pas la vision claire de ce qu’il faudrait faire, de comment re-découper des tâches, comment réorganiser des services et donc nous n’osons pas nous lancer. Il faut se lancer néanmoins ! Et il y a des méthodes pour cela : l’IA elle-même peut aider à redéfinir comment devrait fonctionner un service pour tirer toute la valeur ajoutée de l’IA. C’est un très gros défi.

Il y a d’autres enjeux, notamment du côté de la souveraineté européenne. C’est un vrai risque que l’on soit dépendant de technologies qu’on ne maîtrise pas ou qu’on ne maîtrise plus. C’est important que l’on garde le contrôle sur ces technologies, et qu’on sache aussi expliquer ce qui se passe dans les agents IA, qu’ils ne soient pas des boîtes noires auxquelles on va remettre des pans de plus en plus importants de notre économie, de nos métiers, de nos entreprises. C’est important qu’on puisse expliquer ce qu’il se passe, les décisions qui sont prises et qu’on puisse les justifier. 

Et puis, je citerais l’enjeu d’aligner l’IA avec ce qui est le bien de l’humanité tout simplement, puisqu’on peut faire faire de très belles choses comme des choses néfastes à des agents IA. On parle beaucoup des biais dans les modèles d’IA mais au-delà de cela, on peut déterminer ce que doivent faire les agents. Il faut être sûr que cela va vraiment apporter un mieux-être pour les personnes et que l’IA ne vienne pas asservir les gens. 

‍

L’intelligence artificielle et la recherche

‍

• Quels cas d’usage concrets de l’IA dans la transmission de connaissance et dans la recherche te semblent les plus prometteurs ?

J’ai envie de citer d’abord le cas des revues de littérature puisque c’est ce qu’on fait chez DigitalKin avec notre première famille d’agents. Nous on fait des agents autonomes qui intègrent une expertise spécifique. C’est pour ça qu’on dit qu’on rend l’expertise rare abondante. Si vous êtes expert dans un domaine, vous allez pouvoir créer votre agent autonome qui intégrera votre expertise. On appelle cela un Kin, et vous lui donnez la possibilité d’agir pour vos partenaires, vos clients, comme si c’était vous. Et comme c’est une IA qui est transparente et explicable, vous pouvez cautionner les résultats de votre Kin, ça n’est pas une boîte noire. 

Dans la recherche, ça veut dire par exemple faire des revues de littérature scientifique, c’est un cas qui est universel dans la recherche. On commence toujours par se tenir au courant de ce que sait la science dans un domaine, avant de lancer des travaux de R&D. Si on le fait pas, on court le risque de simplement refaire quelque chose qui a déjà été fait, donc ce n’est pas de la recherche.

Ce processus est très chronophage, et prend des mois pour des chercheurs. C’est du temps qui coûte cher et qui n’est pas employé à faire avancer la science, mais juste à se tenir au courant de ce que savent les autres, de ce que sait la science. Ce pan peut vraiment être délégué à l’IA. Cela requiert une vraie expertise parce que ce n'est pas juste faire une synthèse générique d’un sujet, c’est analyser la littérature scientifique selon des axes bien précis pour répondre à des questions de recherche bien précises dans un contexte donné. Ce point, l’IA est capable de le faire, ça n’était pas le cas il y a encore un an. On est très fier de cela. Et cela va impacter beaucoup de monde dans la recherche. C’est à peu près ¼ du temps des chercheurs en moyenne, avec des grandes disparités bien sûr. Ce temps va être libéré pour qu’ils puissent faire ce qu’ils ont vraiment envie de faire qui est de faire avancer la science. 

‍

• Aujourd'hui vous vous adressez à la recherche. Mais dans l'avenir, vous pouvez élargir votre champ d'action, penses-tu que l'IA va menacer les emplois ? 

Oui comme toute nouvelle technologie. Comme l’automobile a menacé les cochets, ou l’eau courante les porteurs d’eau. Il y a des emplois qui n’existeront plus parce qu’ils sont centrés aujourd’hui sur des tâches qui demain seront faites par l’IA. C’est évident ! Mais il y en a d’autres qui vont émerger, surtout si on ne regarde pas uniquement la tâche à accomplir mais la mission que sert cette tâche, c’est en réalité une opportunité formidable.

C'est l’histoire des tailleurs de pierre. On demande au premier “qu’est-ce que tu fais ?”, il répond “je taille une pierre” et puis au second “qu’est-ce que tu fais ?” et il répond “je bâtis une cathédrale”, alors qu'il fait la même chose. Le premier va se sentir menacé par le robot tailleur de pierre qui arrive, et va dire “il y a un robot tailleur de pierre qui taille bien mieux que moi”, le deuxième va dire “c’est formidable, avec ça je vais pouvoir faire beaucoup plus de pierres de formes incroyables, que je ne pouvais pas faire avant, et je peux bâtir une cathédrale comme je n’aurais jamais pu le faire sans”.  

‍

L’humain au centre des processus de décision et de réflexion

‍

• Quelles sont, selon toi, les principales limites actuelles de l’IA dans vos projets ?

Leur capacité à raisonner vraiment en profondeur. Aujourd’hui, beaucoup de communications sont faites par les leaders de l’IA sur des “reasoning models” donc des modèles qui raisonnent. En réalité, on s'aperçoit que c’est plus du bachotage que du vrai raisonnement. Je m’explique : c’est comme si on apprenait par cœur des résolutions de problèmes et qu'on piochait très rapidement, automatiquement, dans cette banque de solutions pour prendre celle qui ressemble le plus au problème posé. Ça ne veut pas dire qu'on maîtrise vraiment le raisonnement, ça veut dire qu'on est capable de reconnaître un raisonnement qui a déjà été proposé. À chaque fois qu’on a des problèmes nouveaux, on s’aperçoit que les modèles peinent, même ceux qui sont censés être les leaders du raisonnement et les mieux-disants en termes de capacités de raisonnement. On doit pallier cela par l’organisation d’un système multi-agents qui permet de vraiment donner des fonctions plus simples à chaque modèle. C’est pourquoi on en utilise des dizaines à l’intérieur d’un Kin, c’est vraiment un système multi-agents, multi-modèles, modèles agnostiques. On peut fonctionner aussi bien avec des modèles frontières d’Open Ai, d’Anthropic, de Google, Mistral ou que des modèles open-source. C’est très important qu’on ne soit pas prisonnier d’un modèle si puissant soit-il ou vendu comme très bon en raisonnement par son concepteur, mais qu’on puisse nous-mêmes les agencer de la bonne façon dans notre système multi-agents qui lui va s’assurer de la rigueur et de l’expertise pour arriver à accomplir ses missions. 

‍

• Selon toi, quelles compétences humaines resteront irremplaçables, même face à des IA très avancées et expertes ?

‍La capacité de décision. L’IA analyse pour moi, elle va comparer des scénarios et va toujours le faire par rapport à ce que j’ai demandé. On dit que ce sont les IA qui font des choix ou qui décident mais elles le font par délégation, parce que je lui ai expliqué son périmètre, sa mission, ce qu’elle devait accomplir et je lui ai donné des autorisations. Tous ces éléments viennent de moi. C’est pourquoi l'humain ne doit jamais fuir sa responsabilité de définir ce qu’il veut et ce qu’il va déléguer à l’IA. Si une IA a fait un mauvais choix, il y a forcément un humain derrière qui est responsable de lui avoir délégué un choix à faire dans certaines circonstances, en vue d’obtenir un certain but dans un certain contexte. C’est très important de toujours en tenir compte.

Je pense qu’en tant qu’humain on reste les mieux placés pour faire ces choix parce qu’on ne fait pas marcher uniquement notre intellect mais on est inséré dans un tissu de relations. On ressent les choses aussi dans notre façon de vivre et d'interagir avec nos collègues, nos partenaires, nos clients, nos fournisseurs, nos employés et c’est très important qu’on reste en maîtrise de cela et que personne ne se retranche derrière un modèle. On ne peut pas dire : “C’est l’IA qui a décidé de ton augmentation par exemple, moi je n’y suis pour rien.”

‍

• Quelle place vois-tu pour l’humain dans les systèmes de plus en plus automatisés ? 

L’humain prend de la hauteur, l’humain est capable de manager ces IA. Cela suppose qu’il soit capable de penser de façon critique, de prendre des décisions et qu'il reste au centre. C’est un choix de design. On pourrait designer une organisation où on ne met pas l’humain au centre et où on laisse les IA décider toutes seules. D’après moi, ça serait un mauvais choix de design d’entreprises.

Je recommande à tous les chefs d’entreprise à qui je parle de partir de leur savoir-faire spécifique, de ce qui est leur raison d’être, leur façon d'apporter quelque chose à l’économie. Pourquoi leurs clients font appels à eux ? Parce qu’ils ont quelque chose de spécial, qui est leur sauce secrète, leur savoir-faire unique, leur différenciation. À partir de cela, il faut redéfinir leur processus de production, le rôle des humains là-dedans. Peut-être que les salariés de cette entreprise sont pris par des tâches qui ne devraient plus être faites par des humains, mais qui devraient être déléguées à des IA. Peut-être que au contraire, ils ne passent pas assez de temps pour être sur le terrain, pour être auprès de leurs clients, pour être là où on veut vraiment qu’ils prennent le temps et apportent de la valeur. Il faut avoir le courage de remettre à plat les organisations pour le faire et je pense que c’est une super opportunité !

‍

• Y a-t-il une idée reçue sur l’IA que tu entends souvent et que tu aimerais déconstruire ?

Je ne sais pas si c’est une idée reçue mais c’est un comportement un peu magique face à l’IA que je constate souvent. On voit des gens qui vont parler à l’IA en s’attendant à ce qu'elle devine ce qu’ils ont dans la tête alors qu'ils n'ont pas fait l’effort de définir eux-mêmes ce qu’ils voulaient au fond. Ils sont ensuite déçus parce que tout simplement ils n’ont pas pris la peine de définir ce qui était important pour eux : quel était le but à atteindre, quels étaient leurs critères d’évaluation, quel est le contexte, quelles sont les limites à ne pas dépasser ? C'est quelque chose d'exigeant pour nous, les humains, parce que cela nous force à déléguer correctement, à définir clairement les choses. "Qu’est ce que je veux au fond ?”. Et mon IA n’est pas magique. C'est certes quelque chose d’incroyable donc de loin cela semble magique pour la plupart des gens, pour nous tous. On se dit que c’est assez fou ce que l'IA est capable de faire mais ce sentiment de magie fait qu’on ne passe pas le temps qu’il faudrait à définir ce qu’on veut faire et à déléguer correctement les choses. 

C’est peut-être ça le point que j’aimerais déconstruire : inviter les gens à comprendre que l’IA n’est pas de la magie, qu’elle ne va pas deviner à votre place ce qui est important pour vous, ce que vous voulez au fond de vous. Si par la suite vous êtes déçus, c’est peut-être parce que vous avez été paresseux et que vous n’avez pas fait cet effort là, et non que l’IA ne marche pas. 

‍

• L’IA en un mot ?

J’ai envie de dire deux mots, je suis désolé mais il y en a deux. C’est une opportunité unique comme il n’y en a jamais eu dans l’histoire humaine donc opportunité et responsabilité parce qu’à grand pouvoir, grande responsabilité.