NeMo-Guardrails

Языковые модели (LLM) имеют возможность выполнять множество задач, таких как ответы на сложные вопросы, творческое письмо и даже разработка и отладка исходного кода. Создание приложений, основанных на LLM, может быть сложным, поскольку безопасное и надежное выполнение не является простой задачей. NeMo Guardrails был создан компанией NVIDIA как решение этой проблемы.

Это программное обеспечение поддерживается инструментами с открытым исходным кодом, такими как LangChain, которая за несколько месяцев набрала более 30 000 звезд на GitHub. Эти инструменты предлагают многократно используемые, простые в использовании шаблоны и структуры для создания приложений на основе LLM путем комбинирования LLM, API и других программ.

Источник: https://developer.nvidia.com/blog/nvidia-enables-trustworthy-safe-and-secure-large-language-model-conversational-systems/