Checkmarx annonce CheckAI
août 2023 par Marc Jacob
Checkmarx annonce CheckAI pour ChatGPT, premier plugin de l’industrie conçu pour détecter et prévenir les attaques visant le code généré par ChatGPT. Il permet aux développeurs et aux équipes de sécurité qui travaillent dans l’interface ChatGPT, de se protéger contre les attaques causées par les packages malveillants et les dépendances open source.
Le plug-in CheckAI GPT associé à Supply Chain Threat Intelligence de Checkmarx permettra aux RSSI et responsables de la sécurité applicative de s’assurer que les équipes de développement capitalisent au maximum sur leurs outils d’IA générative à l’instar de ChatGPT, en matière de gains de temps, tout en restant conformes aux normes AppSec.
Au sein d’un environnement productif offrant une expérience de développement de qualité, les développeurs pourront facilement :
1. Analyser le code généré par IA dans l’interface ChatGPT à la recherche de vulnérabilités
2. Recevoir des commentaires en temps réel sur les vulnérabilités potentielles ou la validation de leurs packages open source
3. Mettre en œuvre une protection contre les packages open source malveillants
En travaillant dans l’interface ChatGPT, les développeurs peuvent rechercher les vulnérabilités open source et les paquets malveillants de manière transparente dans le code généré par IA.
En décembre 2022, les chercheurs en sécurité Checkmarx ont découvert une vulnérabilité dans le processus d’inscription OpenAI qui aurait pu permettre un crédit illimité de nouveaux comptes. L’équipe a signalé la vulnérabilité à OpenAI, qui a rapidement travaillé à la résoudre.
Le plugin CheckAI pour ChatGPT est disponible dans le cadre de la version bêta des plugins ChatGPT - actuellement disponible pour tous les utilisateurs de ChatGPT Plus. Il protège contre les paquets malveillants et les dépendances open source. D’autres cas d’usage, tels que la protection rapide, les validations IaC et d’API et plus encore, seront ajoutés dans le cadre de futures versions.
CheckAI est alimenté par Checkmarx One ainsi que par Supply Chain Threat Intelligence de Checkmarx pour détecter les packages open source malveillants. Spécialement conçu pour le développement d’applications cloud natives, Checkmarx One est une plateforme évolutive s’intégrant aux outils et environnements de développement de choix des développeurs.