Le prompt injection : une nouvelle menace pour les modèles d’IA

Nouvelle forme d’attaque, le prompt injection consiste à pousser un modèle de langage IA à générer du contenu indésirable, trompeur, ou potentiellement malveillant. Cette menace, déjà problématique dans les modèles grand public comme ChatGPT ou Gemini, peut s’avérer beaucoup plus ennuyeuse lorsque ceux-ci sont connectés à des données internes d’entreprises car ils créent une nouvelle surface d’attaque beaucoup plus complexe à contrôler. Explications de l’advisor Hervé le Jouan.

-----------------------------------------------------------------------

SMART TECH - Le magazine quotidien de l’innovation

Dans SMART TECH, l’actu du numérique et de l’innovation prend tout son sens. Chaque jour, des spécialistes décryptent les actualités, les tendances, et les enjeux soulevés par l’adoption des nouvelles technologies.

👉 https://www.bsmart.fr/emissions/smart-tech

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.