Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/60/zh

在部署生成式 AI 聊天機械人時，建立信任至關重要。為了降低風險，防止幻覺、毒性、公平性、透明性和安全性等問題的防護措施是關鍵。強大的基礎模型在這些防護措施上越來越好。然而，仍然存在許多越獄、對抗性攻擊和其他安全問題的可能性。除了這些安全風險之外，基於生成式 AI 的聊天機械人還容易受到衍生風險（如下所述）的影響。由於我們的機械人都是內部企業聊天機械人，我們更關注企業內容安全和敏感數據的防護。以下是我們基於經驗總結的關於保護基於 RAG 的聊天機械人的學習和見解。解決這些挑戰對於維護企業環境中基於 RAG 的聊天機械人的完整性和安全性至關重要。