Please enable JavaScript.

Coggle requires JavaScript to display documents.

AI Assistant ver 1, avoid limitation - Coggle Diagram

- - - - use case of Support in Research Publication
        
        MIT Publication
      - use case of Answer your questions by research source
        
        Consensus
        
        Elicit
  - - - google
      - youtube
        
        use case of summarizing youtube video
        
        youtube digest
        
        summarize.tech
- - - - definitions
        
        deep learning algorithm that can recognize, summarize, translate, predict, and generate text based on knowledge gained from massive datasets
    - - LLM hallucination
      - LLM controlability
      - LLM stale memory
        
        conflict giữa việc học hỏi thông tin cũ và thông tin mới
      - LLM lack of comlex situations
  - - - Không cần fine tuning
      - One-shot
        
        Cần một ví dụ để dự đoán
      - Few-shot
        
        Cần nhiều ví dụ để dự đoán
      - Zero-shot
        
        Không cần ví dụ từ dự đoán
    - - Nâng cấp từ GPT3 bao gồm các phương pháp học tăng cường
      - Reinforce Learning from Human Feedback
        
        Why ?
        
        Kiểm soát nội dung toxic
        
        How ?
        
        Reward Model: Chấm điểm (con người để chấm điểm và gắn nhãn)
        
        SFT (Supervise Fine Tune để tạo ra nhiều output từ câu hỏi đưa vào)
        
        Thuật toán PPO để Reward ở bước cuối cùng
        
        limitations
        
        human bias
        
        cost of human feedback
        
        lack of variety in feedback context
        
        What ?
        
        What is different from Traditional Machine Learning ?
        
        In traditional Machine Learning, The feedback is typically labelled
        
        What is different from RL
        
        In RL
        
        In RL, The feedback is redefined reward function
        
        In RL from HF, Based on Human feedback to create reward function
      - Alternative to
        
        GPT - 3
        
        GPT -3 chưa giải quyết nhu cầu người dùng
        
        Learning trên tập dữ liệu, thông tin chưa được kiểm soát (khó kiểm soát các yếu tố hay thông tin liên quan đến bạo lực, chính trị)
      - Validation
        
        Theo tiêu chí độ hài lòng của người sử dụng
      - Source of Information
        
        general sources
        
        Internet Text, websites, books, articles, research paper, forrums, and more
        
        limited sources to:
        
        preprocessing to eliminate violent contents
        
        limitations
        
        bias
        
        training data is already bias
        
        rely on many source of forum, community, if rely heavily can lead to bias
        
        imbalance represenation
        
        certain topics, communities, or perspectives are underrepresented in the training data
        
        feedback loop
        
        bias from user feedback
        
        data selection bias
        
        mannual preprcessing to select data can lead to bias
        
        measuring the bias (ChatGPT không rõ cách nó làm, nhưng có thể recommend một số phương pháp phổ biến)
        
        Corpus Analysis
        
        Proxy Labelling
        
        Sentiment Analysis
        
        Disparate Impact Analysis
        
        User Studies and Surveys
        
        @ current factors that may impact the way ChatGPT weight data source
        
        training objectives (bởi con người set)
        
        source diverstiy
        
        ...
        
        outdated information
        
        hiện tại chỉ đến 2021
        
        lack of context understanding
        
        what ChatGPT might response
        
        it say it will admit it
        
        kinh nghiệm của mình, câu hỏi với context quá speicific (ví dụ research trên Market Việt Nam), có thể trả lời cũng chưa chính xách
        
        inability to specific data source
        
        for examples: paid subscription content
      - ChatGPT Strength
- - - - từ kinh nghiệm thực tế của mình, có gì cần notes lại không
        
        approach ChatGPT
        
        1.0. mình có framework để tiếp cận thông tin trước, dùng chat GPT bằng cách đặt câu hỏi generally để xem có enrich framework của mình không, từ framework đó, dùng ChatGPT để research và tổng hợp thay vì phải browsing rất nhiều trang trên google thì tiết kiệm thời gian
        
        1.1 crosscheck lại thông tin ChatGPT tổng hợp
        
        1.1.1 Với những thông tin của mình
        
        so sánh với những thông tin mình có, có chỗ nào bất hợp lý không (critical thinking), đặt câu hỏi lại ChatGPT để cụ thể hóa vấn đề
        
        1.1.2 Với những thông tin khác
        
        google, có thể các phương tiện AI chuyên biệt cho các source thông tin khác (sách, artciles, ...)
        
        cần consider các yếu tố nhanh và hiệu quả
        
        lưu ý: có trường hợp nó makeup thông tin, có một vài cái nó không biết nhưng nó tỏ ra rất confident
        
        2.0. tránh để (đặt câu hỏi mang tính) ChatGPT kết luận, thay vì đó dùng ChatGPT để research thông tin, assistant trong việc tìm ra kết luận
        
        chatgpt self discipline
        
        why ?
        
        mình không phải máy, không phải lúc nào cũng tỉnh táo và cảnh giác (thực tế mình rất dễ xuôi theo ý kiến của nhiều người)
        
        when ? (chủ yếu là khi mình có nhiều cảm xúc)
        
        5 more items...
        
        how ?
        
        làm sao để han chế ?
        
        build up một vài nguyên tắc trong mối quan hệ này
  - - - điểm mạnh trong các tác vui về ngôn ngữ, hiểu về ngôn ngữ hơn cả mình
        
        marketing
        
        content generate
        
        seo
        
        keyword optimization
        
        sentiment analysis
      - language learning
        
        kế hoạch học ngôn ngữ mới
        
        vocabulary
        
        new vocabulary
        
        giải nghĩa câu, từ
        
        cultural education
        
        provide education about target language
        
        help you better understand the language
        
        reading
        
        read and comprehend text
        
        simplyfy this text/ summarize this text giúp mình absorb nội dung tốt hơn
        
        writting
        
        correction & comment
        
        paraphrasing
        
        create writting prompts & practice exercise
        
        simulate
        
        chấm điểm
        
        speaking
        
        simulate một cuộc hội thoại (tư duy) bằng tiếng anhd và nhờ nó feedback
        
        alternative AI
        
        replika (nút AR)
        
        listening
        
        simplyfy this transcript/ summarize this transcript giúp mình absorb nội dung tốt hơn
      - language simulation
        
        simulate các môi trường liên quan đến ngôn ngữ
        
        simulate một cuộc phỏng vấn
        
        simulate
    - - code
      - code explanation
      - debug