Please enable JavaScript.

Coggle requires JavaScript to display documents.

AI Architect - Coggle Diagram

- - - - IaC 基礎設施代碼化
        
        Pulumi
        
        Terraform
        
        建議學習 Terraform 或 Pulumi。即便不能動公司的 K8s，您可以在個人環境練習如何定義基礎設施。
      - 異步處理與消息隊列
        
        當 AI 推理時間很長時，如何使用 Redis 或 RabbitMQ 進行異步排隊，避免前端超時？
      - GitOps
        
        情景: 需要調整模型參數或增加 Worker 數量，但沒有 kubectl 寫入權限。
        
        ArgoCD
        
        GitOps 指的是所有的東西都能進git, 而且只需要修改 Git 倉庫裡的 YAML 檔，系統會自動同步到 K8s。
      - kustomize
        
        Post-Rendering Pattern
      - 實驗環境
        
        k3s
        
        minikube
      - Sealed Secret
- - - - GPU 費用
      - API 費用
      - 精度成本平衡
      - Make vs. Buy：什麼時候該用 OpenAI API？什麼時候該在地端跑 Llama 3？您需要能算出兩者的 TCO (總體擁有成本)。
  - - - 提示詞攻擊
- - - - 第一層：工具與流程組合 (The Orchestrator)
        
        架構師視角：這些工具屬於 "Low-code/No-code" 層次。架構師要判斷的是：這個專案適合用 Dify 快速上線嗎？還是因為有極高的自定義需求（例如複雜的條件分支或多代理協作），應該改用 LangGraph 或純代碼開發？
        
        關鍵技能：熟練使用 n8n, Dify, LangFlow
        
        程度要求：能快速搭建原型 (PoC)。
      - 第二層：工程化與自動化 (The MLOps/DataOps)
        
        關鍵技能：熟練使用 MLflow, Argo, k8s
        
        程度要求：確保 RAG 不是「一次性」的。
        
        架構師視角：
        MLflow：用於評估。當你更換了 Embedding 模型或調整了 Chunk size，你如何科學地證明回答變好了？你需要建立實驗追蹤與 RAG Evaluation (RAGAS/TruLens) 流程。
        Argo/k8s：用於數據流水線。當公司有 10 萬份文件更新時，如何自動觸發 Argo Workflow 進行重新索引？這就是 Data Ingestion Pipeline 的自動化。
      - 第三層：檢索優化與核心原理 (The Core Strategy)
        
        關鍵技能：Hybrid Search, Re-ranking, GraphRAG, Multi-Agent
        
        程度要求：當 RAG 回答不準確時，你具備「診斷與開方」的能力。
        
        架構師視角： * 檢索策略：什麼時候用向量搜尋？什麼時候該加關鍵字搜尋 (BM25)？
        優化手段：掌握 Query Decomposition（將複雜問題拆解）或 HyDE（生成假設性文件）等進階技巧。
- - - - Pinecone
        
        HNSW
        
        IVF
      - Milvus
      - Weaviate
  - - - SageMaker
    - - Vertex AI
    - - Azure AI