Ai

Новый класс атак, когда отдельно текст и изображение выглядят безопасно, но их совместное сочетание несёт злонамеренный смысл

Pruning модели может быть использован злоумышленником

В работе исследован новый класс атак на системы типа RAG

Статья рассказывает об уязвимости систем тонкой настройки больших языковых моделей в условиях, максимально приближённых к реальной эксплуатации

Атака на выбор инструментов в агентных системах

Новая атака, основанная на отравлении библиотеки функций, которая позволяет подменять поведение агентов без изменения их моделей

MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов

Всё что нужно - это фаззинг…

Статья о фреймворке на базе LLM и его результатах получения доступа к shell

Статья описывает проблему малоизученных аппаратных атак на LLM - битовых инверсий (Bit-Flip Attacks, BFA)