JigsawStack 혼합 에이전트(MoA) 개요

성능 향상 및 비용 절감

다양한 LLM 조합 사용

프롬프트 엔진 자동 최적화

자동화된 LLM 선택 프로세스

작동 방식

프롬프트 정의 및 엔진 생성

ID 관리 및 엔진 실행

장점

향상된 응답 정확성

비용 효율성 개선

일관된 출력 데이터 유지

추천 자료

LangChain 공식 문서

LLM Orchestration 도구 비교

프롬프트 엔지니어링 모범 사례

• RAG #01. RAG 밑바닥부터 웹 채팅까지
  • RAG와 웹 서비스 개발에 관심 있는 분들을 위한 튜토리얼입니다.
  • RAG란?
    • 'Retrieval-Augmented Generation'의 약자로, 대규모 언어 모델(LLM)에 외부 지식을 결합하여 더 정확하고 신뢰성 있는 응답을 생성하는 기술입니다.
• 선행 지식
  • 튜토리얼을 원활하게 진행하기 위해 필요한 파이썬 지식:
    • 문자열, 리스트 등의 기본 자료형
    • 함수, 클래스, Callable 객체
    • 타입 힌트 문법
    • OpenAI LLM API를 파이썬 코드로 직접 호출해본 경험
• LLM이란?
  • 대규모 텍스트 데이터로 학습된 인공지능 모델
    • 자연어를 이해하고 생성하는 능력을 보유
    • 질문에 대한 답변, 텍스트 요약, 번역, 코드 작성 등 다양한 작업 수행 가능
• 튜토리얼 구성
  • LLM은 어떤 질문이든 답변을 하려고 노력합니다.
    • LLM의 한계와 실세계 적용 시 고려할 점을 다룸
  • 튜토리얼 실습 준비
    • 실습에 필요한 환경과 도구 설정 방법 안내
  • 비용 계산 함수
    • OpenAI API 사용 시 발생하는 비용 파악 및 관리 방법 설명
  • 대화 시작 시에 한 번에 모든 지식을 제공하기
    • 초기 대화에서 필요한 정보 효과적으로 전달하는 방법 소개
  • 전형적인 RAG
    • RAG의 단계별 구현 방법 상세