L'IA générative (GenAI) transforme tout dans le secteur de l'observabilité

Au cours des 40 dernières années, j'ai vu trois technologies vraiment disruptives : le World Wide Web au début des années 1990, la présentation par Steve Jobs de l'iPhone en 2007, et ChatGPT en 2022, qui est maintenant l'application à la plus forte croissance de toute l'histoire.

Ces trois technologies ont un point commun : ce sont des fractales d'innovation illimitées. En d'autres mots, plus vous regardez de près et plus vous trouvez des façons de les appliquer à différents secteurs, entreprises et cas d'utilisation, plus le nombre d'idées générées augmente et plus les idées elles-mêmes semblent infinies. L'innovation illimitée présente d'énormes possibilités de création de valeur, tout comme les milliards de dollars de valeur actionnariale engendrés au cours des décennies depuis les débuts du web et de l'iPhone.

La cadence de l'innovation ne cesse d'augmenter et c'est l'innovation elle-même qui en est le moteur et crée ce cercle vertueux d'accélération. Il a fallu sept ans au World Wide Web pour accumuler 100 millions d'utilisateurs, l'App Store de l'iPhone y est arrivé en un peu plus de deux ans, mais pour ChatGPT 2 petits mois ont suffi.

Lorsque le web et l'iPhone sont nés, ils ont obligé les entreprises à adopter de nouvelles façons d'interagir avec leurs clients en investissant sur des sites web et des applications mobiles et en réimaginant les processus commerciaux en cours de route. Tout cela a permis à des entreprises, comme New Relic, d'aider le monde entier à développer de meilleures applications. Et comme pour le web et l'iPhone, le potentiel des technologies de l'IA amène les entreprises à travailler dur et à agir vite pour développer leur stratégie d'IA. New Relic est bien placé pour les aider.

Qu'est-ce que l'observabilité avec l'IA ?

L'observabilité de l'IA est la capacité de monitorer, mesurer et comprendre le comportement et les performances des systèmes d'intelligence artificielle (IA) en temps réel. Ce concept a gagné en importance avec la complexité croissante des systèmes d'IA et leur intégration rapide dans différentes applications et divers secteurs. 
La capacité de l'IA à analyser et à comprendre les vastes quantités de données a un impact profond sur le monitoring. Avec le monitoring, l'IA peut être utilisée pour détecter avec plus de précision les anomalies et les comportements qui signalent des menaces. Elle peut également être utilisée pour obtenir des informations prédictives basées sur les données historiques et automatiser les tâches de routine pour permettre aux équipes de s'occuper des problèmes plus complexes. 

Le monitoring est un sous-ensemble de l'observabilité. Par extension, le but de l'IA dans l'observabilité est de fournir des informations détaillées (aussi appelées « insights ») sur les rouages des modèles d'IA et d'aider les développeurs, les scientifiques des données et les opérateurs à identifier et gérer les problèmes, à optimiser les performances et à garantir la fiabilité et la robustesse des systèmes d'IA.

Pourquoi l’observabilité de l'IA est-elle importante ?

L'observabilité de l'IA est cruciale pour différentes raisons, mais surtout parce que les systèmes d'IA font partie intégrante de plusieurs applications et secteurs. Voici quelques-unes des raisons pourquoi l'observabilité de l'IA est essentielle :

Monitoring des performances et optimisation

L'observabilité de l'IA permet un monitoring continu des métriques sur les performances clés, telles que la précision, la latence et l'utilisation des ressources. En comprenant comment fonctionnent les modèles d'IA dans des scénarios réels, les organisations peuvent améliorer l'efficacité et offrir une meilleure expérience utilisateur.

Détection et résolution des problèmes

Le monitoring et le logging en temps réel permettent la détection rapide des problèmes et des anomalies au sein des systèmes d'IA. Avec les logs et les métriques détaillées, les développeurs et les opérateurs peuvent dépanner les problèmes, identifier les causes profondes et implémenter des solutions en temps opportun. 

Amélioration de la fiabilité et de la robustesse

L'observabilité de l'IA contribue à la fiabilité et à la robustesse des systèmes d'IA en fournissant des insights sur leur comportement dans différentes situations. Cela est particulièrement important dans des environnements dynamiques où les distributions de données peuvent changer au fil du temps. Quand on comprend comment les modèles répondent aux variations dans les données entrantes, on peut alors s'assurer que les systèmes d'IA gardent les performances précises et fiables.

Conformité et gouvernance

Les fonctionnalités d'observabilité, telles que la traçabilité et l'explicabilité, permettent aux organisations de se conformer aux exigences réglementaires et de conformité. Pour garantir la transparence et la responsabilisation des secteurs opérant dans des cadres réglementaires stricts, il est essentiel de pouvoir tracer le flux des données via le système d'IA et d'expliquer les décisions prises par les modèles.

Réponse rapide aux changements

À mesure que les systèmes d'IA évoluent et s'adaptent aux nouvelles données, il devient vital d'observer leur comportement pour s'adapter aux changements. L'observabilité de l'IA permet aux organisations de rapidement répondre aux variations dans les modèles de données, à la dérive des modèles ou aux changements d'environnement. Cette agilité est fondamentale pour maintenir l'efficacité des applications d'IA dans le temps.

Les défis de l'observabilité

L'observabilité de l'IA est difficile pour de nombreuses raisons, dont la complexité des données, l'asymétrie des données, les biais, la dérive des modèles et plus encore.

• Complexité des données : il faut une quantité énorme de données pour générer des modèles d'IA. Et réciproquement, les systèmes d'IA génèrent de grandes quantités de données de types différents qui doivent être analysées et interprétées pour le monitoring des performances de l'IA et prédire les problèmes.
• Asymétrie des données : elle se produit lorsque les données utilisées pour l'inférence ne reflètent plus les données d'apprentissage du modèle. Ce décalage se produit pour de nombreuses raisons, y compris les dépendances de données telles que le comportement des utilisateurs et les tendances saisonnières, ou les problèmes d'intégrité des données telles que des données corrompues, manquantes ou incohérentes. 
• Biais : les biais dans les données d'apprentissage peuvent mener à des résultats erronés et avoir un impact négatif sur l'impartialité et l'exactitude des décisions prises par l'IA à partir des inférences. 
• Absence de normes : l'IA et l'observabilité de l'IA étant relativement nouvelles et leur évolution très rapide, les normes universelles de suivi des métriques de l'IA tardent à voir le jour, ce qui rend difficile les comparaisons entre différents modèles et le suivi efficace des progrès.
• Besoin d'intégration : les équipes et les services d'ingénierie travaillent souvent avec les outils d'IA qui conviennent le mieux à leurs projets ou qu'ils préfèrent. Pour ces raisons, il devient nécessaire d'assurer la compatibilité et le flux bidirectionnel correct des données dans ces outils afin d'opérer dans un environnement cohérent et holistique sans interruption du processus ni changement constant et inutile d'outils.

Ce sont là des caractéristiques des systèmes d'IA. Son flux système est différent de celui d'une pratique DevOps établie. C'est pourquoi les outils d'observabilité classiques peuvent ne pas pouvoir faire le suivi et prédire les performances système et la fiabilité de l'IA. 

Observabilité de l'IA et monitoring classique, quelle est la différence ?

L'observabilité de l'IA est la capacité de monitorer, mesurer et comprendre le comportement et les performances des systèmes d'intelligence artificielle (IA) en temps réel.L'IA observable exige une approche différente du monitoring et de l'analyse de l'IA. La suite d'outils DevOps d'aujourd'hui a évolué avec des approches standardisées pour l'observabilité de bout en bout. Les pipelines d'IA ont besoin du même niveau d'observabilité. Toutefois, les données de l'IA sont très différentes des données d'observabilité classiques et exigent de nouveaux outils pour le monitoring de l'IA. 

Les systèmes d'IA disposent de leurs propres données d'IA observables qui doivent être suivies au-delà des métriques de l'infrastructure. Ces données apportent d'importants insights sur la compréhension critique de la précision du modèle, la latence des prédictions et la santé du pipeline des données. L'observabilité de l'IA doit suivre les actions sur tout le pipeline pour mesurer l'asymétrie des données, les biais et l'obsolescence des modèles, et prévoir quand les problèmes se pourront se produire et quand les modèles devront de nouveau s'entraîner. 

La GenAI et le secteur de l'observabilité

Le terme GenAI fait référence aux modèles d'intelligence artificielle qui peuvent générer de nouvelles données en fonction de schémas existants. Ces modèles peuvent tout créer — des images réalistes à du texte cohérent — et créer d'innombrables possibilités dans de nombreux secteurs. Ils peuvent également synthétiser et comprendre les données à un rythme et à une échelle dont l'ampleur est bien plus efficace que les solutions existantes.

Alors que nous continuons de constater la rapide progression de la GenAI, il devient indispensable pour le secteur de l'observabilité de s'adapter et d'évoluer afin de pouvoir relever les défis et saisir les occasions qui se présentent. Voici deux approches majeures de l'IA générative qui vont transformer le secteur d'observabilité.

1. La GenAI va changer la façon dont nous diffusons des informations exploitables.

En tant que créateur du premier assistant GenAI pour l'observabilité sur le marché, nous comprenons le besoin de technologies d'IA combinées. La GenAI peut analyser de grandes quantités de données rapidement et efficacement, ce qui permet aux entreprises de prendre de meilleures décisions éclairées. Ainsi, les entreprises peuvent gérer les goulots d’étranglement potentiels et optimiser leurs systèmes informatiques pour obtenir de meilleures performances.

La GenAI peut également automatiser les tâches répétitives et optimiser les workflows, ce qui allège le processus d'observabilité et permet de gagner un temps précieux et d'utiliser moins de ressources.

Elle peut aussi drastiquement simplifier l'accès à des insights approfondis, car elle n'exige plus que l'on soit expert en interfaces de requêtes compliquées, et permet ainsi aux développeurs d'applications, SRE, responsables produits, ingénieurs d'AQ, et même aux cadres de direction et dirigeants du secteur d'y avoir accès et de tirer parti des grands avantages de l'observabilité.

New Relic, qui travaille en tandem avec la GenAI, offre de puissantes intégrations agentiques et propose un système d'intelligence qui apporte des insights sur l'observabilité et l'automatisation directement dans les outils et les interfaces préférées des utilisateurs. Par exemple, New Relic Agentic Integration avec ServiceNow va au-delà d'une simple extraction de données d'API pour fournir des recommandations intelligentes et des insights approfondis et essentiels aux outils et workflows dans lesquels les clients de ServiceNow travaillent déjà. Les entreprises qui ont adopté New Relic et ServiceNow peuvent automatiser les workflows, optimiser les temps de disponibilité de l'activité et prendre de meilleures décisions à partir des insights en temps réel.

New Relic AI, l'assistant GenAI de notre plateforme, collabore avec ServiceNow pour identifier, prioriser et gérer l'impact et la cause profonde des problèmes dans votre environnement numérique. New Relic apporte les données de production en temps réel comme les erreurs, logs, traces, vulnérabilités de sécurité et alertes directement dans les expériences et workflows de ServiceNow. Toutes les informations et les insights sont présentés directement dans les interfaces de ServiceNow, ce qui élimine les changements d'outils, déverrouille l'accès pour tous les utilisateurs et accélère la résolution des problèmes. New Relic et ServiceNow fournissent aux utilisateurs l'accès aux rapports d'intelligence sur les alertes qui contiennent une analyse de l'impact des alertes et des théories sur les causes probables basées sur une analyse approfondie de l'intégrité d'une application. Les utilisateurs peuvent également interroger des services, hôtes et composants système spécifiques pour en tirer les insights sur les performances à partir des données actuelles et les comparer aux tendances historiques et aux bonnes pratiques.

L'intégration agentique de New Relic avec ServiceNow donne aux entreprises d'aujourd'hui la possibilité de transformer des données métier critiques en insights. L'excellente IA agentique apporte l'observabilité intelligente dans Now Assist, ce qui a pour résultat :

• Des décisions plus judicieuses : insights intégrés exploitables de toutes les données TI et commerciales
• Une efficacité améliorée : automatisation des tâches et processus complexes
• Une collaboration intelligente : consolidation et priorisation des équipes, outils et interfaces 

En intégrant ces capacités d'IA à notre plateforme d’observabilité intelligente, nous aidons les entreprises à optimiser leurs systèmes informatiques et à réduire le temps passé à diagnostiquer et résoudre les problèmes.

2. Les entreprises ont besoin de développer leurs propres stratégies d'IA pour rester compétitives.

De même qu'Internet et les smartphones sont devenus essentiels aux stratégies commerciales modernes, la genAI fera bientôt partie intégrante de tous les plans de croissance des entreprises. Les organisations devront s'adapter et innover pour rester concurrentielles dans cette nouvelle ère de la technologie axée sur l'IA, sinon, elles seront vite oubliées.

Avec la ruée vers l'implémentation des capacités GenAI, les organisations auront besoin d'investir dans des produits d'observabilité pour assurer le bon fonctionnement et le monitoring de ces capacités. La rapidité d'action de l'ingénierie, les grands modèles de langage concurrents, les ajustements de précision et les boucles de rétroaction sont autant d'éléments essentiels à une expérience utilisateur exceptionnelle. Chacune de ces avancées stimulera aussi la demande de solutions d'observabilité de pointe qui répondent aux défis uniques posés par les technologies axées sur l'IA.

New Relic transforme l'observabilité de l'IA

Contrairement aux applications classiques, l'observabilité exige une visibilité sur un stack technologique plus large :

• Infrastructure : monitoring des calculs spécialisés (CPU, GPU, TPU) dans des environnements potentiellement distribués.
• Données : suivi de l'intégrité (santé) et des performances de diverses solutions de stockage des données, dont les bases de données vectorielles pour les modèles d'IA.
• Modèle : observation des performances, de la dérive, des biais et de l'explicabilité des modèles.
• Orchestration : monitoring du déploiement et de la scalabilité des workflows de l'IA et du cycle de vie des modèles.
• Application : analyse des performances parallèlement aux interactions spécifiques à l'IA et à leur impact.

Pour l'essentiel, l'observabilité de l'IA va au-delà des métriques standard et inclut les indicateurs de précision, de sécurité, et de fiabilité pour les applications d'IA. La gestion de ces complexités est vitale pour l'avenir de l'IA.

Le monitoring de New Relic AI assure la visibilité complète de bout en bout de tout votre stack d'applications d'IA dans le but d'optimiser les performances, la qualité et les coûts. Parmi les principales capacités :

• Paramétrage rapide et simple avec l'auto-instrumentation
• Débogage plus rapide grâce à la visibilité sur tout le stack d'IA
• Suivi des réponses de bout en bout pour comprendre tout le cycle de vie des interactions d'IA
• Comparaison des performances des modèles et des coûts pour choisir le modèle optimal
• Plus de 50 intégrations pour tout l'écosystème de l'IA

Cette solution donne aux ingénieurs SRE et Donnés d'IA une visibilité et des insights sur tout le stack d'IA, afin qu'ils puissent développer et exécuter des applications d'IA sûres, sécurisées et responsables en toute confiance.

L'ère de l'IA : adoption des innovations et préparation au changement 

En ce moment même, la puissance de l'IA générative transforme tous les secteurs. Les gouvernements le constatent, les investisseurs financent l'innovation de l'IA et toute une nouvelle interface de langage naturel redéfinit nos relations avec les machines. Des start-up vont naître et réimaginer le possible avec l'IA générative et sa trajectoire (r)évolutionnaire. Elles vont déstabiliser les leaders du marché qui devront prendre des décisions difficiles sur la durabilité de leurs modèles d'activité actuels. 

Alors que nous accueillons cette nouvelle vague d'innovations, il est essentiel que les entreprises d'observabilité restent à l'avant-garde de ce changement technologique, et aident à stimuler la croissance et les changements à mesure que cette transformation numérique met les gaz dans tous les secteurs. Celles qui maîtriseront son application deviendront les leaders du nouveau marché alors que celles qui y résistent resteront loin derrière. Celles qui seront en tête du Grand remaniement au cours des prochaines années et qui adopteront des approches axées sur l'IA établiront le nouveau classement.

Le pouvoir transformateur de l'IA générative est indéniable et son potentiel de réinvention du secteur de l'observabilité combiné spécifiquement à d'autres technologies de grande qualité est immense. Les entreprises d'observabilité ingèrent des quantités énormes de données et fournissent des analyses, des rapports et des alertes pour aider leurs clients à identifier les schémas, les anomalies et les prédictions à partir de ces données. Les modèles IA ont été conçus pour faire cela mieux que les humains, et les moteurs qui alimentent les modèles — mais aussi les modèles eux-mêmes —  gagnent exponentiellement en vitesse et en puissance. L'intelligence artificielle jouera inévitablement un rôle central dans l'observabilité et les clients demanderont des fonctionnalités qui ne pourront provenir que de solutions alimentées par l'IA. En intégrant les capacités de l'IA à nos offres et en développant des solutions d'observabilité sur mesure, nous espérons faire passer l'observabilité à sa prochaine étape, en étendant ainsi sa portée et son importance dans le cycle de développement de logiciels.

L'IA générative transforme déjà les entreprises, la culture, la créativité et les communications. Elle touche tous les aspects de notre vie. Ce faisant, elle transforme également le secteur de l'observabilité. En adoptant cette technologie et son immense potentiel, nous pouvons stimuler un monde plus connecté, efficace et innovant pour tous.