Проект OWASP Top 10 for Large Language Model ApplicationsOWASP Top 10 for Large Language Model Applications направлен на информирование разработчиков, дизайнеров, архитекторов, менеджеров и организаций о потенциальных рисках безопасности при развертывании и управлении большими языковыми моделями (LLM). Проект предоставляет список из 10 наиболее критических уязвимостей, часто встречающихся в приложениях LLM, подчеркивая их потенциальное влияние, простоту использования и распространенность в реальных приложениях. Примеры уязвимостей включают, среди прочего, быстрые инъекции, утечку данных, неадекватную изолированную программную среду и несанкционированное выполнение кода. Цель состоит в том, чтобы повысить осведомленность об этих уязвимостях, предложить стратегии устранения и, в конечном итоге, улучшить состояние безопасности приложений LLM.
Некоторые полезные ссылки - чек лист и LLM
