Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/65/ko

엔터프라이즈 가드레일링: 생성형 AI 응답을 특정 기업 정책 및 규칙에 맞추는 가드레일을 구현하는 것은 필수적입니다. 이러한 가드레일은 챗봇이 생성한 콘텐츠가 확립된 규범과 윤리적 지침을 준수하도록 하여 잠재적인 법적 및 평판상의 손상을 방지하는 데 도움을 줍니다. NVInfo 봇에서는 초기에는 LLM 프롬프트에 많은 가드레일을 구현했습니다. 그러나 나중에 모든 LLM이 이러한 프롬프트를 일관되게 따르지 않는다는 것을 깨달았습니다. 따라서 Nemo Guardrails (13)를 사용하여 쿼리 및 응답의 사전 및 사후 처리 중에 이러한 가드레일을 구현했습니다.