La plateforme de Datadog prend désormais en charge le monitoring et la résolution de problèmes des applications d’IA générative
août 2023 par Marc Jacob
Les fonctions basées sur l’IA générative, telles que les assistants et les copilotes d’IA, deviennent rapidement une partie importante de la feuille de route de tous les produits logiciels. Bien que ces fonctionnalités émergentes soient très prometteuses, leur déploiement dans des applications destinées aux clients pose de nombreux problèmes, notamment en termes de coût, de disponibilité et de précision.
Les piles technologiques utilisées dans l’IA générative évoluent rapidement, tandis que de nouveaux framework applicatifs, modèles, bases de données vectorielles, chaînes de services et technologies de support sont adoptés et utilisés tout aussi rapidement. Pour ne pas se laisser distancer, les organisations ont besoin de solutions d’observabilité capables de s’adapter et d’évoluer en même temps que les piles d’IA.
Aujourd’hui, Datadog annonce un large ensemble de fonctionnalités d’observabilité de l’IA générative pour aider les équipes à déployer en toute confiance en production des applications basées sur les grands modèles de langages (LLM) et les aider à résoudre en temps réel les problèmes liés à leur état de santé, leur coût et leur précision.
De plus, Datadog lance également en version bêta une solution complète, LLM Observability, qui rassemble des données provenant d’applications, de modèles et de diverses intégrations pour aider les ingénieurs à détecter et à résoudre rapidement de réels problèmes d’application tels que les pics de coûts des modèles, les dégradations de performances, les dérives, les hallucinations et plus encore, afin de garantir des expériences utilisateur positives.
Datadog annonce Bits, un assistant IA pour aider les ingénieurs à rapidement résoudre les problèmes applicatifs
L’assistant IA apprend à partir des données d’observabilité d’une organisation et répond aux questions via une interface conversationnelle
Datadog annonce le lancement de Bits, un nouvel assistant basé sur l’IA générative qui apprend des données d’observabilité des clients et aide les ingénieurs à résoudre en temps réel leurs problèmes applicatifs. Cette fonctionnalité s’ajoute à l’ensemble des fonctions d’IA de Datadog disponibles aujourd’hui.
Bits AI aide les équipes à devenir efficaces, en apprenant des données d’un client en matière d’observabilité, de plateformes de collaboration, de systèmes de gestion de contenu et de nombreuses autres sources, pour répondre rapidement aux questions, fournir des recommandations et construire des étapes de remédiation automatisées dans un langage conversationnel qui prendrait normalement des heures ou des jours aux ingénieurs pour les reconstituer de manière traditionnelle. Les types de problèmes que Bits AI aide les utilisateurs à résoudre sont les suivants :
Répondre à des questions en langage naturel en faisant apparaître et en corrélant des données provenant de logs, de metriques, de traces, de transactions d’utilisateurs, de signaux de sécurité, de coûts du cloud et plus encore, sur l’ensemble de la plateforme Datadog ;
● Déboguer et résoudre les problèmes au niveau du code en expliquant les erreurs, en gérant les incidents de bout en bout en bipant les bonnes équipes, en calibrant les niveaux de gravité, en fournissant des mises à jour sur l’état de l’incident et en remplissant d’autres documents tels que des post-mortems, le tout avec un contexte reporté du web vers Slack :
● Suggérer des corrections de code que les développeurs peuvent appliquer en quelques clics et construire automatiquement des tests unitaires pour les corrections.
Datadog annonce Security Inbox pour aider les ingénieurs à prioriser les problèmes, gagner du temps et améliorer la leur posture de sécurité de leur organisation
Cloud Security Management rassemble désormais diverses informations sur la sécurité en une liste priorisée et exploitable pour les équipes de sécurité et DevOps.
La nouvelle fonctionnalité Security Inbox permet aux ingénieurs de prioriser et de remédier aux problèmes de sécurité les plus importants qui affectent leurs applications en production.
Les produits de sécurité traditionnels sont spécialisés dans l’identification d’énormes volumes de risques spécifiques tels que les attaques d’exécution, les vulnérabilités ou les mauvaises configurations. Les ingénieurs passent d’innombrables heures à trier chaque type de risque et à assembler manuellement les informations pertinentes de diverses provenances, ainsi que le contexte de l’environnement, afin d’évaluer ce qu’ils doivent corriger au sein de leurs applications et de leur infrastructure. Pourtant, nombre de ces risques sont corrélés et interconnectés les uns aux autres, et ont tous une cause commune.
Security Inbox fournit à tous les utilisateurs sécurité de Datadog une liste unique et exploitable de leurs principaux problèmes de sécurité. Cette fonctionnalité regroupe automatiquement les signaux individuels provenant des produits de sécurité de Datadog, qu’il s’agisse de vulnérabilités, de menaces, de mauvaises configurations ou de risques liés à l’identité. En consolidant automatiquement cette liste, Security Inbox élimine le travail manuel et fastidieux consistant à rassembler des preuves provenant de sources distinctes. En exploitant et en combinant le contexte de sécurité et d’observabilité de Datadog, Security Inbox priorise et met en évidence les informations réellement critiques par le biais de rapports, d’alertes et de notifications afin que les utilisateurs puissent se concentrer sur ce qui est vraiment important.
Security Inbox pour Cloud Security Management est désormais disponible pour tous les clients de Datadog.
Datadog annonce Historical Investigations pour Cloud SIEM
Les clients peuvent mener des investigations sur un historique en visualisant et en corrélant les activités de sécurité sur une longue période de temps
Datadog annonce 15 mois de rétention des données pour Cloud SIEM, avec de nouvelles fonctionnalités de détection et d’exploration permettant aux équipes de sécurité de mener des investigations sur un historique et de découvrir les menaces cachées dans leurs environnements informatiques et cloud.
Mener des investigations prend du temps car les équipes de sécurité importent et archivent constamment d’anciens logs vers un stockage à long terme. Ces logs peuvent être répartis entre plusieurs environnements et zones géographiques pour des raisons de conformité et doivent souvent être ré-indexés avant qu’une investigation puisse commencer. Les clients peuvent également avoir besoin d’écrire des requêtes de recherche complexes pour corréler l’activité de l’utilisateur avec d’autres événements de sécurité afin de découvrir une menace.
Datadog Cloud SIEM visualise l’activité de sécurité à travers les systèmes ou les entités, tels que les utilisateurs, les appareils, les adresses IP, les applications et les connexions réseau au sein de l’infrastructure de l’organisation jusqu’à 15 mois en arrière. Cette nouvelle fonctionnalité permet aux clients de corréler et de découvrir des menaces embarquées sans avoir à écrire des requêtes personnalisées ou à importer des données de logs pour chaque investigation.