[article] 
inProgrammez ! > HS 16 (Automne 2024) . - p. 78-82

Titre :	La sécurité de l’IA générative à base de LLM
Type de document :	texte imprimé
Auteurs :	Denis Duplan
Année de publication :	2024
Article en page(s) :	p. 78-82
Langues :	Français (fre)
Mots-clés :	Large Language Models  Intelligence artificielle générative  Cybersécurité
Résumé :	Dans un précédent article, il avait été question d’attaques sur un agent à base de LLM, typiquement un chat. En effet, un tel agent interprète le prompt non seulement comme un texte à compléter, mais aussi comme une liste d’instructions à suivre, ce qui fait de ce texte un vecteur d’attaque facile à exploiter. Dans ces conditions, la prolifération des agents constitue un enjeu considérable du point de vue de la sécurité informatique, et c’est sans surprise que les agences telles que l’ANSSI ont entrepris de sensibiliser les organisations à ce sujet.
Permalink :	./index.php?lvl=notice_display&id=119539

[article] La sécurité de l’IA générative à base de LLM [texte imprimé] / Denis Duplan . - 2024 . - p. 78-82.
Langues : Français (fre)
in Programmez ! > HS 16 (Automne 2024) . - p. 78-82

Mots-clés :	Large Language Models  Intelligence artificielle générative  Cybersécurité
Résumé :	Dans un précédent article, il avait été question d’attaques sur un agent à base de LLM, typiquement un chat. En effet, un tel agent interprète le prompt non seulement comme un texte à compléter, mais aussi comme une liste d’instructions à suivre, ce qui fait de ce texte un vecteur d’attaque facile à exploiter. Dans ces conditions, la prolifération des agents constitue un enjeu considérable du point de vue de la sécurité informatique, et c’est sans surprise que les agences telles que l’ANSSI ont entrepris de sensibiliser les organisations à ce sujet.
Permalink :	./index.php?lvl=notice_display&id=119539