Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/65/de: Difference between revisions

Latest revision as of 07:23, 20 February 2025

Information about message (contribute)

This message has no documentation. If you know where or how this message is used, you can help other translators by adding documentation to this message.

Message definition (FACTS About Building Retrieval Augmented Generation-based Chatbots)

'''Enterprise Guardrailing''': Implementing guardrails that align generative AI responses with specific enterprise policies and rules is essential. These guardrails help mitigate risks by ensuring that Chatbot-generated content adheres to established norms and ethical guidelines, preventing potential legal and reputational damage. In NVInfo bot, we implemented many guardrails in LLM prompts initially. However, later realized that not all LLMs follow these prompts consistently. Therefore, we implemented these guardrails during pre and post-processing of queries and responses respectively using Nemo Guardrails ([[#bib.bib13|13]]).

Unternehmensleitplanken: Die Implementierung von Leitplanken, die die Antworten generativer KI mit spezifischen Unternehmensrichtlinien und -regeln in Einklang bringen, ist entscheidend. Diese Leitplanken helfen, Risiken zu mindern, indem sie sicherstellen, dass von Chatbots generierte Inhalte den etablierten Normen und ethischen Richtlinien entsprechen und potenzielle rechtliche und rufschädigende Schäden verhindern. Im NVInfo-Bot haben wir zunächst viele Leitplanken in LLM-Eingabeaufforderungen implementiert. Später stellten wir jedoch fest, dass nicht alle LLMs diese Aufforderungen konsequent befolgen. Daher haben wir diese Leitplanken während der Vor- und Nachbearbeitung von Anfragen und Antworten mithilfe von Nemo Guardrails (13) implementiert.