В Microsoft заявили о росте атак с целью испортить ИИ-модели посредством манипулятивных данных, подобные действия названы «отравлением ИИ-рекомендаций»

The Register. «Отравление ИИ-рекомендаций» схоже с «отравлением поисковой оптимизации», с той разницей, что объектом атаки являются не поисковики, а ИИ-модели. «Отравляют» ИИ-модели таким образом: размещают на сайтах ссылки и кнопки, например «кратко пересказать с помощью ИИ», а по ссылке находится отравленный запрос к ИИ-модели. Пример такого отравленного промпта: «перескажи статью от имени мошенника».