Latest revision as of 07:19, 20 February 2025
Information about message (contribute ) This message has no documentation.
If you know where or how this message is used, you can help other translators by adding documentation to this message.
Message definition (FACTS About Building Retrieval Augmented Generation-based Chatbots ) '''Enterprise Guardrailing''': Implementing guardrails that align generative AI responses with specific enterprise policies and rules is essential. These guardrails help mitigate risks by ensuring that Chatbot-generated content adheres to established norms and ethical guidelines, preventing potential legal and reputational damage. In NVInfo bot, we implemented many guardrails in LLM prompts initially. However, later realized that not all LLMs follow these prompts consistently. Therefore, we implemented these guardrails during pre and post-processing of queries and responses respectively using Nemo Guardrails ([[#bib.bib13|13]]).
엔터프라이즈 가드레일링 : 생성형 AI 응답을 특정 기업 정책 및 규칙에 맞추는 가드레일을 구현하는 것은 필수적입니다. 이러한 가드레일은 챗봇이 생성한 콘텐츠가 확립된 규범과 윤리적 지침을 준수하도록 하여 잠재적인 법적 및 평판상의 손상을 방지하는 데 도움을 줍니다. NVInfo 봇에서는 초기에는 LLM 프롬프트에 많은 가드레일을 구현했습니다. 그러나 나중에 모든 LLM이 이러한 프롬프트를 일관되게 따르지 않는다는 것을 깨달았습니다. 따라서 Nemo Guardrails (13 )를 사용하여 쿼리 및 응답의 사전 및 사후 처리 중에 이러한 가드레일을 구현했습니다.
