Translations:FACTS About Building Retrieval Augmented Generation-based Chatbots/67/ko: Difference between revisions

    From Marovi AI
    (Importing a new version from external source)
     
    (No difference)

    Latest revision as of 07:19, 20 February 2025

    Information about message (contribute)
    This message has no documentation. If you know where or how this message is used, you can help other translators by adding documentation to this message.
    Message definition (FACTS About Building Retrieval Augmented Generation-based Chatbots)
    Our work can be compared with RAG papers on various topics dealing with RAG quality along all the FACTS dimensions we presented (freshness, architecture, costs, testing, and security). Due to lack of space, we contrast our work with selective works. Barnett ''et. al.'' ([[#bib.bib3|3]]) presented seven failure points when engineering RAG systems. In their work, they highlight the challenges of getting retrieval augmented generation right by presenting their findings from having built three chatbots. Wenqi Glantz ([[#bib.bib6|6]]) elaborated 12 RAG pain points and presented solutions. We experienced similar challenges first-hand when building our chatbots. However, none of these works discuss the challenges with complex queries, testing, dealing with document security, and the need for flexible architectures. In our work, we not only build on failure/pain points of RAGs as mentioned above, but also present our 15 control points in RAG pipelines and offer specific solutions for each stage. Also, we extend our insights and present practical techniques for handling complex queries, testing, and security. We present a reference architecture for one of the implementations of agentic architectures for complex query handling, strategies for testing and evaluating subjective query responses, and raised awareness for dealing with document ACLs and security. Furthermore, we present a reference architecture for a flexible generative-AI based Chatbot platform.

    우리의 작업은 우리가 제시한 모든 FACTS 차원(신선도, 아키텍처, 비용, 테스트, 보안)에서 RAG 품질을 다루는 다양한 주제의 RAG 논문과 비교할 수 있습니다. 공간 부족으로 인해 우리는 선택된 작업과 우리의 작업을 대조합니다. Barnett et. al. (3)는 RAG 시스템을 엔지니어링할 때 발생하는 7가지 실패 지점을 제시했습니다. 그들의 작업에서는 세 개의 챗봇을 구축하면서 얻은 발견을 제시하여 검색 증강 생성(RAG)을 올바르게 수행하는 데 있어 도전 과제를 강조합니다. Wenqi Glantz (6)는 12개의 RAG 고통 지점을 설명하고 해결책을 제시했습니다. 우리는 챗봇을 구축할 때 유사한 도전을 직접 경험했습니다. 그러나 이러한 작업 중 어느 것도 복잡한 쿼리, 테스트, 문서 보안 처리, 유연한 아키텍처의 필요성과 관련된 도전을 논의하지 않습니다. 우리의 작업에서는 위에서 언급한 RAG의 실패/고통 지점에 기반을 두고 있을 뿐만 아니라, RAG 파이프라인의 15개 제어 지점을 제시하고 각 단계에 대한 구체적인 해결책을 제공합니다. 또한, 우리는 통찰력을 확장하여 복잡한 쿼리 처리, 테스트 및 보안을 다루기 위한 실용적인 기술을 제시합니다. 우리는 복잡한 쿼리 처리를 위한 에이전트 아키텍처 구현 중 하나에 대한 참조 아키텍처, 주관적인 쿼리 응답을 테스트하고 평가하기 위한 전략, 문서 ACL 및 보안을 처리하기 위한 인식을 제고했습니다. 또한, 유연한 생성 AI 기반 챗봇 플랫폼에 대한 참조 아키텍처를 제시합니다.