Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/60/zh

在部署生成式 AI 聊天机器人时，建立信任至关重要。为了降低风险，防止幻觉、毒性、公平性、透明性和安全性等问题的防护措施是关键。强大的基础模型在这些防护措施上越来越好。然而，仍然存在许多越狱、对抗性攻击和其他安全问题的可能性。除了这些安全风险之外，基于生成式 AI 的聊天机器人还容易受到衍生风险（如下所述）的影响。由于我们的机器人都是内部企业聊天机器人，我们更关注企业内容安全和敏感数据的防护。以下是我们基于经验总结的关于保护基于 RAG 的聊天机器人的学习和见解。解决这些挑战对于维护企业环境中基于 RAG 的聊天机器人的完整性和安全性至关重要。