Please enable JavaScript.
Coggle requires JavaScript to display documents.
LLMOps/Orchestration - Coggle Diagram
LLMOps/Orchestration
리소스 관리
리소스 모니터링(DashBoard)
그룹별 사용량 관리
클러스터 연동 및 관리
Serverless 관리
Storage 연동 및 관리
Token 비용 관리/모니터링
sLLM Fine-Tuning
모델 리파지토리
전체 모델리스트
Foundation Model 별 Leader Board
Model 별 성능지표
학습/평가 데이터 셋
Foundation Model 선정
모델 파라미터 설정
Model 학습 간 모니터링
모델 자동 평가
상세 평가 결과(Graph)
사용자 평가
모델 비교 평가
모델 서빙
모델 모니터링(Graph)
API G/W 등록 관리
학습 모델/Adapter 저장
서빙 자원 설정
1 more item...
모델 병합 (Adapter)
MoE 관리
평가 지표 관리
학습자원 할당
자원 배정 승인
학습속도 가속화
deep speed 설정
사용자 관리
권한 그룹별 Role 관리
모델/데이터/자원 권한 관리
Role 관리
SSO 연동
사용 로그 관리
원천 데이터 관리
데이터 Parsing
Parsing 데이터 Viewer/Edit
학습 데이터 생성
생성 Prompt 관리
학습 데이터 에셋
Embedding Model 관리
Checking 데이터 생성
청킹 방법 관리
Vector DB 생성
Vector DB 관리
데이터 업데이트 관리
데이터 에셋 등록
데이터 에셋 관리
검색 스토어
OCR 연동
데이터 처리 lineage 관리
외부 데이터 소스 연동
S3/ RDB / Hadoop 등 연동 관리
G.AI App 개발
사용 LLM 모델 선정
질의 분류
Tool 연동
Tool 관리
Agent 생성
Agent 평가
Agent 배포
API G/W 관리
Agent 간 성능 비교
Agent 관리
Prompt 연결
MoE 사용
Pipeline 생성(GUI)
Pipeline 관리
모델 caching
Prompt 관리
Few shot Prompt
질의 구분별 Prompt
외부 연동 모델 관리
인증 키관리
Rule 기반 필터링
개인정보 비식별화
Hallucination 제거