[플레이데이터 SK네트웍스 Family AI 캠프 10기] 14주차 회고

14주 차 학습

 

 

1. RAG

 

 

RAG

• 외부 지식을 검색하여 LLM이 올바른 답변을 할 수 있도록 도움
• 확장성, 정확성, 제어 가능성, 설명 가능성, 범용성의 특징을 가짐 

 

Native RAG

• Loader
  • 다양한 소스에서 문서를 불러오고 처리함
  • page_content, metadata를 포함함
• Splitter
  • 토큰 제한이 있는 LLM이 여러 문장을 참고해 답변할 수 있도록 문서를 분할함 
• Vector DB
  • 분할한 문서를 벡터로 저장하여 유사한 벡터를 효율적으로 검색함
  • Indexing, Querying, Post Processing의 순서로 동작함

 

Advanced RAG

• Retriever
  • 사용자 질문에 맞는 관련 문서 벡터 검색
• Reranker
  • 의미를 비교하여 순서를 재정렬함
    • RAG의 문제점인 정보 손실을 해결함
  • 복잡한 의미적 관계를 반영하여 더 정밀하게 정보를 검색함

 

Modular RAG

• LangSmith
  • LLM 애플리케이션 모니터링, 테스트, 배포 지원 온라인 플랫폼
• Tools
  • LLM이 자연어 명령을 해석하여 프롬프트에서 파라미터를 추출하고, 이에 맞는 함수를 자동으로 호출 
• LangGraph
  
  • LLM을 사용한 애플리케이션에서 상태를 유지하고 여러 에이전트 간의 협업을 설계할 수 있도록 함
  • 복잡한 에이전트 런타임을 구현할 때 순환 그래프를 만들어 관리할 수 있음

 

 

2. MCP

 

MCP

• LLM 기반 애플리케이션이 다양한 컨텍스트를 보다 효율적으로 사용할 수 있도록 설계된 개방형 표준 프로토콜
• 여러 도구나 서비스와 연동하며 동작할 수 있음

 

---

14주 차 회고

 

 

Keep

 

• 이번 LLM 단위에서 배우면서 모호하다고 느낀 부분들이 많이 있었는데 프로젝트를 통해서 직접 구현해 보면서 많이 배울 수 있었다.
• 여전히 피곤하긴 하지만 그래도 운동을 하니까 조금씩 체력이 붙고 있는 것 같다.

 

 

Problem

 

• 이번 단위 프로젝트에서 Fine Tuning이든 RAG든 많이 부족하다는 것을 느꼈다. 그래서 내가 LLM에 많은 관심이 없어도 조금은 더 알아둬야겠다는 생각을 했다.
• 토요일에 새로운 시험이 잡혀서 이번 단위 프로젝트가 끝나면 공부를 시작해야 한다.

 

 

Try

 

• 일단 이번 단위 프로젝트를 최대한 잘 마치는 것이 중요하다. 프로젝트를 열심히 해서 내가 무엇을 할 수 있고 무엇에 강한지 계속 알아나가야 한다.
• 계속 상반기 공고가 나오고 있어서 꾸준히 지원을 해나가면서 자소서를 다듬어야 한다.
• 공부를 할 시간이 부족하다고 느껴서 이에 대해서 고민을 해봐야 할 것 같다.