Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/65/es

"Guardrails Empresariales": Implementar guardrails que alineen las respuestas de la IA generativa con políticas y reglas específicas de la empresa es esencial. Estos guardrails ayudan a mitigar riesgos al asegurar que el contenido generado por el chatbot se adhiera a normas establecidas y directrices éticas, previniendo posibles daños legales y reputacionales. En el bot NVInfo, implementamos muchos guardrails en los prompts de LLM inicialmente. Sin embargo, más tarde nos dimos cuenta de que no todos los LLMs siguen estos prompts de manera consistente. Por lo tanto, implementamos estos guardrails durante el pre y post-procesamiento de consultas y respuestas respectivamente usando Nemo Guardrails (13).