카테고리
AI 개발
LLM을 제품에 넣는 방법을 다룹니다. API 호출과 스트리밍, 함수 호출과 구조화 출력, RAG 파이프라인 설계, 에이전트와 도구 사용, 평가와 비용 관리까지 실제로 동작하는 코드와 함께 설명합니다.
-
LLM API 기초: 요청, 스트리밍, 에러 처리
LLM API의 메시지 구조와 시스템 프롬프트, 스트리밍 응답, 재시도와 타임아웃, 키 관리까지 프로덕션에 필요한 기본기를 코드와 함께 정리합니다.
-
프롬프트 설계: 재현 가능한 출력을 얻는 법
역할·작업·제약·형식의 네 요소로 프롬프트를 구성하는 방법과 예시 제공, 단계 분리, 출력 형식 고정 기법을 정리합니다. 프롬프트를 코드처럼 관리하는 방법까지 다룹니다.
-
RAG 파이프라인 설계: 검색으로 환각 줄이기
문서를 나누고 임베딩해 검색한 뒤 모델에 근거로 제공하는 RAG의 전체 단계를 설명합니다. 청크 크기, 하이브리드 검색, 재순위, 평가 방법과 한계까지 다룹니다.
-
AI 개발자를 위한 구조화 출력과 함수 호출 설계 가이드: JSON 스키마부터 재시도까지
AI 모델의 출력을 신뢰성 높은 구조화된 데이터로 만드는 방법을 배웁니다. JSON 스키마 강제, 도구 정의, 그리고 오류 발생 시 처리하는 원리를 이해하여 안정적인 애플리케이션을 구축할 수 있습니다.
-
AI 에이전트 개발 가이드: 도구 사용, 루프 구조, 실패 처리 원리
AI 에이전트의 핵심 구조와 작동 원리를 이해합니다. 도구 사용, 루프 구조, 실패 처리 등 실질적인 개발 요소를 학습하여 신뢰성 높은 에이전트를 구축하는 방법을 안내합니다.
-
LLM 평가 방법 가이드: 골든셋 구축부터 자동/사람 평가까지
LLM의 성능을 객관적으로 측정하는 다양한 평가 기법을 배웁니다. 골든셋 구축, 자동 평가, 사람 평가, 그리고 LLM-as-judge의 원리와 한계점까지 정리합니다.
-
AI 개발 비용과 지연시간 최적화: 토큰 절약부터 스트리밍까지
LLM API 사용 시 발생하는 비용과 지연시간 문제를 해결하는 실질적인 방법을 안내합니다. 캐싱, 모델 라우팅, 스트리밍 등 개발 단계별 최적화 기법을 익히실 수 있습니다.
-
LLM 시스템 설계 패턴: 아키텍처와 모듈화 원칙 이해하기
LLM을 활용하는 시스템을 구축할 때 필요한 핵심 아키텍처와 모듈화 원칙을 배웁니다. 프롬프트 관리, 데이터 검색, 외부 도구 연동 등 각 구성 요소의 역할을 이해하고 시스템을 설계하는 방법을 제시합니다.
-
LLM 시스템 설계 패턴 심화: 모듈화와 상태 관리 원칙
LLM을 실제 서비스에 통합할 때 필요한 아키텍처 설계 패턴을 다룹니다. 시스템을 모듈화하고 상태를 일관되게 유지하는 방법을 학습하여 안정적이고 확장 가능한 시스템을 구축합니다.
-
LLM 시스템 모니터링: 운영 AI의 성능, 비용, 안정성 추적 방법
실제 서비스에 배포된 LLM 시스템의 지연 시간, 비용, 응답 품질을 측정하고 관리하는 원칙을 배웁니다. 시스템 안정성을 유지하는 방법을 익히실 수 있습니다.
-
LLM 평가 지표 심층 분석: 성능 측정 기준과 방법론
LLM의 성능을 측정하는 다양한 평가 지표와 방법론을 알아봅니다. 정확도 외에 유창성, 논리적 일관성 등 다차원적인 평가 기준을 설정하는 방법을 안내합니다.
-
LLM 시스템 설계 패턴: 메모리 및 상태 관리 원칙
LLM이 대화나 복잡한 작업을 수행할 때 필요한 외부 메모리 활용 방법과 상태 관리 원칙을 배웁니다. 일관된 맥락을 유지하는 시스템 설계 방법을 이해할 수 있습니다.
