.svg)
Pour la suite de notre série sur l’IA, nous partons à la rencontre de Rémi Allain, CTO de Dream On Technology, qui partage son regard expert sur l’évolution de l’IA dans la cybersécurité. Entre enjeux technologiques et transformations à venir, il nous invite à découvrir comment l’IA s’impose comme un levier clé pour relever les défis actuels et futurs des organisations dans le monde de la cybersécurité.
- Dis nous en plus sur Dream On Technology et tes précédentes expériences.
Dream On Technology est une société éditrice de logiciels spécialisés dans l’outillage en cybersécurité. Nous développons notamment un logiciel qui s’appelle PanicSafe, une plateforme de gestion de crise, dont l'objectif est de renforcer la résilience des entreprises et organisations.
Aujourd’hui je vais vous parler d'IA, car au travers de mon parcours, elle a été omniprésente dans mon quotidien. De mes débuts en Security Operation Center (SOC) avec le machine learning pour la détection des menaces, jusque dans l’analyse de risque non-intrusive et très récemment avec PanicSafe où l’IA a été intégrée dès sa conception.
- Quelles sont tes convictions sur l’IA ?
L'IA va radicalement transformer notre façon de concevoir et de consommer des outils et services. Nous sommes à l'aube d'un changement majeur dans les usages des technologies.
Je pense que cela va devenir un incontournable, dans le sens où elle sera omniprésente dans tous les aspects de notre vie et qu’elle sera également ultra connectée à tous nos systèmes. L'IA deviendra de plus en plus accessible, comme on le voit déjà avec son apparition sur les smartphones via des modèles edge.
Cette révolution technologique va redéfinir notre interaction avec les appareils et services numériques, rendant l'IA une partie intégrante et invisible de notre quotidien.
- Selon toi, à quoi doit servir l’IA ?
Elle doit surtout servir à résoudre des problèmes complexes et à recentrer l’humain au cœur des activités à forte valeur ajoutée, avec des décisions qui peuvent être stratégiques, et là où son expertise est irremplaçable.
- Selon toi, comment va évoluer l’IA dans la cybersécurité ces prochaines années ? / Comment la cybersécurité peut être améliorée par l’IA ?
On va tendre de plus en plus vers des systèmes proactifs. Actuellement, l'IA est utilisée depuis de nombreuses années en cybersécurité à des fins d'analyse et d'aide à la décision, par exemple, pour la détection comportementale. Elle permet de traiter beaucoup plus de données, ce qui va permettre de rendre la cybersécurité boostée à l’IA plus pertinente, notamment dans la détection de signaux faibles sur des plages de temps beaucoup plus importantes.
L’avantage de l’IA, c’est qu’elle est capable de gérer de grands volumes de données, ce qui permet d’améliorer les capacités de détection, de s’intégrer avec de plus en plus d’écosystèmes et de favoriser les interactions.
On va passer d’une IA qui était plus axée sur l’analyse à une IA qui sera un petit peu plus proactive, capable de prendre des décisions plus éclairées. Elle pourra assister encore plus profondément comme dans le cadre d’un Centre d’Opérations de Sécurité, les analystes mais également dans la partie GRC (Gouvernance, Risque et Conformité), dans la phase préparatoire pour se mettre en conformité plus rapidement.
Avec cette capacité d’interconnexion et de mise en œuvre d’actions d’endiguement, l’IA permet d’automatiser les processus et donc de réduire le temps de réaction.
- Quels cas d’usage concrets de l’IA te semblent les plus prometteurs dans la cybersécurité ?
J’attends beaucoup de tout ce qui est remédiation automatique, du traitement des signaux-faibles et non-techniques notamment la gestion des faux positifs et de l’automatisation des processus pour les SOC (Security Operations Center).
Dans la découverte de vulnérabilités automatisées également, d’ailleurs on a déjà des premiers cas très prometteurs dans ce domaine-là.
Enfin, j’attends beaucoup de toute la phase préparatoire et d'entraînement puisque l’IA a cet avantage de pouvoir réussir à simuler extrêmement bien des attaques ou des environnements d’entreprise / proches du réel. L’IA va permettre de s'équiper et de se mettre en conformité beaucoup plus rapidement mais aussi de mieux se tester puisqu’on va être capable de rejouer des attaques complètes.
- Comment l’IA est intégrée dans votre produit ? Comment vois-tu qu’elle impacte votre secteur ?
Dans PanicSafe, l'IA est au cœur de notre produit, avec une intégration au maximum transparente, efficace et simple. Elle joue un rôle crucial dans la cellule de crise, guidant les actions et les décisions, tout en automatisant certaines tâches. Nous étendons son utilisation à la phase préparatoire, optimisant l'entraînement des équipes, l'organisation, et la gestion documentaire. L'IA est devenue un élément essentiel de toute application moderne, les utilisateurs s'attendent désormais à ce type d'interaction intelligente. Notre approche / valeur ajoutée a été de placer dès le départ l'IA au centre de notre solution, visant une intégration fluide et naturelle qui transforme radicalement l'efficacité et la précision de la gestion de crise.
- Quelles sont, pour toi, les principales limites actuelles de l’IA dans vos projets ?
Dans notre contexte de gestion de crise, nous devons mettre en place des garde-fous rigoureux pour empêcher l'IA de sortir de son rôle défini et de perturber les utilisateurs dans des moments critiques. La difficulté d'expliquer les décisions de l'IA (comment on est arrivé à ce résultat) tout comme l'encadrement de l'IA, en particulier des modèles de langage (LLM), reste assez complexe et nécessite une expertise pour être correctement mise en œuvre et maintenue.
- Si tu devais imaginer un usage de l’IA encore impossible aujourd’hui, ce serait lequel ?
Je suis très friand de toutes les avancées en termes d’interface neuronale, qui sont directement intégrées dans notre cerveau. Je vois par là l’accès immédiat et instantané à toute une connaissance. J’ai l’intime conviction qu’on passera d’outils qui sont augmentés à l’IA à des humains qui seront augmentés à l’IA.
- Y a-t-il une idée reçue sur l’IA que tu entends souvent et que tu aimerais déconstruire ?
"C'est magique, c'est intelligent". C’est complètement faux, ça ne reste que des algorithmes et que des probabilités.
- L’IA en un mot ?
Essentielle. On ne peut plus faire sans aujourd’hui.
