garak is an open-source LLM vulnerability scanner designed for security testing of large language models against various risks. It provides a framework for identifying LLM vulnerabilities through a range of probes. This command-line tool helps assess a model or system's security. It is actively updated by NVIDIA and the community, with documentation and community support available.
Почему это важно
Документация API
GitHub
Доступность API
overview
garak is an open-source LLM vulnerability scanner designed for security testing of large language models against various risks. It provides a framework for identifying LLM vulnerabilities through a range of probes.
This command-line tool helps assess a model or system's security. It is actively updated by NVIDIA and the community, with documentation and community support available.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Ещё на Stork
Другие инструменты этой категории, подобранные по общим тегам
Одно короткое письмо в день — только инструменты, которые стоит попробовать. Без воронок продаж.
одно письмо в день · отписка в два клика · без сторонних трекеров
Для билдеров
Её читают AI-агенты. На неё приходят покупатели. Она отвечает на восьми языках и через MCP. У вашего инструмента может быть такая же — в эфире за 24 часа.
