Please enable JavaScript.

Coggle requires JavaScript to display documents.

INFORMATION RETRIEVAL, Xử lý hình thái từ, Dựa trên độ tương đồng ngữ…

- - - - có cấu trúc vs phi cấu trúc
      - có ngữ nghĩa vs văn bản tự nhiên
      - chính xác vs gần đúng
    - - tìm trên thuộc tính hay trên nội dung?
    - - So khớp từng chuỗi
      - lập chỉ mục
  - - - Câu hỏi <=> Tài liệu
      - Cơ sở tri thức
    - - Các định nghĩa hình thức
        
        <D,Q,F,R(q,d)>
  - - - Vài công thức sim (cos, L1, L2)
      - Ma trận biểu diễn
        
        ý nghĩa theo dòng
        
        ý nghĩa theo cột
        
        Rút gọn ma trận
        
        Số chiều của không gian đó là gì?
    - - Nguyên lý cơ bản
      - Làm mịn để tránh xs bằng 0, kết hợp với các pp xấp xỉ
      - BM25: có thêm tham số qtf và dl bên cạnh tf-idf
  - - - mục tiêu: tìm ra feature của tài liệu một cách chính xác
      - cái gì biểu diễn tốt nhất nội ý nghĩa nội dung? String-> Word -> Phrase/Chunk -> Concept
      - filter ra các stop word, empty word
      - Phương pháp tf*idf
    - - Túi từ
      - Inverted index
      - ranking
  - - - n-grams
        
        uni-bi-tri, ước lượng bằng maximum likelihood
      - Làm mịn
        
        kết hợp với corpus
        
        kết hợp các n-gram
      - Nguyên lý
        
        Coi mỗi document là một LM,
        ta tính P(q,D) là xác suất q thuộc về LM đó
    - - Mục tiêu rút gọn, giảm chiều ma trận A = U.S.Vt, bằng cách chọn Sk<<S
      - dùng SVD
      - vấn đề: chi phí cho SVD lớn khi index & có sai số => kỹ thuật folding-up
- - - - Tăng sự liên hệ/trùng nhau
        giữa 2 độ liên quan
  - - - Document
        
        Relevant,
        thang đánh giá 11 điểm
      - Queries
- - - - Vấn đề của
        keyword search
        
        keyword vs concept
        
        Giải pháp
        
        NL2FL
        (natural to formal)
        
        W2P
        (word to phrases)
        
        Knowledge
        
        4 more items...
        
        Kỹ thuật WSD (khữ nhập nhằng nghĩa)
        
        Giúp liên kết word với concept đúng của nó
        
        Cần có kho WordNet
        
        Biểu diễn mô hình IR
        trong hệ trục
        
        truc y: các loại term sử dụng:
        word-> phrase -> sentence
        
        truc x: mức độ tri thức đưa vào
        
        trục z: mức độ biểu diễn câu query
        
        Từ đa nghĩa & đồng nghĩa
        
        Các khái niệm phức:
        kết hợp các word với nhau
        
        Khái niệm liên quan:
        user muốn tìm tài liệu con của query
    - - WordNet
        
        2 loại relation
        
        Conceptual: thể hiện bằng các synset kết nối nhau
        
        Lexical relation
        
        Cách index
        
        Là CSDL tri thức ngữ nghĩa English
        
        Phân chia từ vựng theo hệ thống cấp bậc
      - Ontology
        
        Là Model biểu diễn các khái niệm
        
        Trong 1 lĩnh vực cụ thể
        
        Thể hiện mối quan hệ giữa các KN
        
        Thực thể
        
        Lớp
        
        Thuộc tính
        
        Mối quan hệ
    - - Tiền xử lý
        
        Làm sạch, tách đoạn, tách câu,...
      - Phân tích
        hình thái
        
        NER (bằng heuristics, danh sách tiên riêng,
        từ kho dữ liệu vàng đã gán nhãn đủ tin cậy)
        
        Word Segmentation
        
        Word embeding
        
        Word2vec
        
        local vs distributed representation
        
        khái niệm window size trong skip-gram
        
        Là kỹ thuật map word -> vector
        
        GloVe
        
        Sử dụng count matrix
        cho ma trận Co-occurrence
        
        Giảm kích thước ma trận
        
        Neural network (Skip-gram, CBOW)
        
        Dùng mô hình xác suất
        
        (ví dụ mô hình LRMM)
      - Phân tích
        ngữ pháp
        
        POS-tagger (POS-tagset),
        phổ biến là PTB (36 nhãn chính + 12 nhãn phụ)
        
        Gán nhãn ranh giới ngữ (chunker)
        
        Gán nhãn quan hệ ngữ pháp (parser)
        
        Gán nhãn cây cú pháp (syntatic tree)
      - Phân tích
        ngữ nghĩa
        
        Hệ thống nhãn ngữ nghĩa (WordNet)
        
        Các nguồn tri thức
  - - - Các bài toán căn bản
        
        Stemming vs Lemmatization
        
        POS-Tagger
        
        Parser
        
        Chunker
        
        Word Segmentation
      - Các bài toán khó
        
        Khử nhập nhằng ngữ nghĩa (WSD)
        
        Nhận diện thực thể (NER)
        
        Phân giải đồng tham chiếu (Co-reference)
- - - - Data phân tán
      - Data lớn, biến động
      - Phi cấu trúc, 30% là trùng lắp
      - Ko đảm bảo chất lượng
      - Data không đồng nhất
  - - - Dựa trên số link ra/vào của 1 webpage
      - Dùng thuật toán PageRank
- - - - Mô hình ngôn ngữ 2 chiều
      - Thể hiện từ dựa trên ngữ cảnh trước và sau nó
      - Pre-training
        
        Fine-Tuning
  - - - Sự phát triển các web ngoài tiếng Anh,
        nhu cầu tìm nhiều tài liệu liên quan
      - Xu hướng toàn cầu hóa
      - Thư viện số đa ngôn ngữ
    - - Dịch query
        
        Từ điển
        
        Kho ngữ liệu
        
        corpus parallel
        
        corpus comparable
        
        Dịch tự động
      - Chọn 1 pivot language
      - Dịch document
  - - - ý tưởng & định nghĩa
      - Bài toán tối ưu hóa
        khoảng cách lề
        
        lề cứng
        
        dựa vào toàn bộ các sample
        để tối ưu hóa độ lỗi
        
        lề mềm
        
        Chỉ dựa vào các vector nằm ngay trên lề
    - - ft*idf
- - - - Pragmatic