Tổng quan

Hiện nay với sự phát triển của công nghệ, các nền tảng mảng xã hội, báo trí, truyền thông …vv. Chúng ta liên tục được tiếp cận với nhiều nguồn thông tin khác nhau, do đó nhu cầu của con người trong việc chọn lọc và sử dụng thông tin cũng ngày càng cao. Các bài toán về gợi ý người dùng, tìm kiếm xu hướng (trending), chat bot … đã và đang ngày càng được cải tiến và phát triển. Vậy thì việc trích trọn thông tin như thế nào ? Bài viết này mình xin phép được trình bày về một số phương pháp chọn lọc từ khóa từ văn bản đã được sử dụng trong khá nhiều bài toán về xử lý ngôn ngữ tự nhiên (NLP).

1. Spacy

Để nói về extract keywords thì không thể không nhắc tới spacy. Là một trong những thư viện Python NLP khá nổi tiếng, SpaCy đi kèm với các pretrained pipelines và hiện đã và đang hỗ trợ mã hóa và đào tạo cho hơn 60 loại ngôn ngữ khác nhau. Bao gồm các mô hình mạng nơ-ron cho các tác vụ gắn thẻ, phân tích cú pháp, nhận dạng thực thể được đặt tên, phân loại văn bản …

Một số xử lý cơ bản của spacy như sau.

• Tách nội dung văn bản đầu vào bởi tokens
• Trích xuất các key words từ danh sách token.
  • Đặt các key words với các thẻ POS như “PROPN”, “ADJ”, “VERB”, “NOUN”… (Danh sách thẻ POS có thể tùy chỉnh)

Các bạn có thể tìm hiểu sâu hơn về spacy ở đây nhé: Spacy

2. Rake_NLTK

RAKE (Rapid Automatic Keyword Extraction) là một phương pháp trích xuất từ khóa để tìm các từ hoặc cụm từ có liên quan nhất trong một đoạn văn bản bằng cách sử dụng một tập hợp các từ dừng và dấu phân cách cụm từ. RAKE sử dụng thuật toán trích xuất từ khóa độc lập theo miền và cố gắng xác định các cụm từ khóa trong nội dung văn bản bằng cách phân tích tần suất xuất hiện của từ và sự đồng xuất hiện của nó với các từ khác trong văn bản. Rake nltk là một phiên bản mở rộng của RAKE với sự hỗ trợ bởi NLTK
Trình xử lý cơ bản của RAKE

• Chia nội dung văn bản đầu vào bởi dotes
• Tạo ma trận các từ đồng xuất hiện
• Word scoring – Điểm đó có thể được tính bằng mức độ của một từ trong ma trận, dưới dạng tần suất từ hoặc mức độ của từ chia cho tần suất của nó
• Các cụm từ khóa cũng có thể tạo bằng cách kết hợp của các từ khóa

Các bạn có thể tham khảo kỹ hơn thư viện Rake nltk ở đây nhé: RAKE_NLTK

3. TextRank

Textrank là một thư viện trong Python có chức năng trích xuất từ khóa và tóm tắt văn bản. Thuật toán xác định mức độ liên quan chặt chẽ của các từ bằng cách xem liệu chúng có theo sau nhau hay không. Các thuật ngữ quan trọng nhất trong văn bản sau đó được sắp xếp bằng cách sử dụng thuật toán xếp hạng. Textrank thường tương thích với pipelines của Spacy. Dưới đây là một ví dụ các bạn có thể tham khảo.

Các bạn có thể tìm hiểu kỹ hơn về tư tưởng và thuật toán được triển khai trong thư viện này ở đây nhé: TextRank

4. KeyBert

KeyBERT là một kỹ thuật trích xuất từ khóa cơ bản và dễ sử dụng, tạo ra các từ khóa và cụm từ khóa tương tự nhất với một tài liệu nhất định bằng cách sử dụng BERT-embeddings. Nó sử dụng BERT-embeddings và tính cosine similarity để xác định vị trí các sub-documents trong một document giống nhất với chính tài liệu đó.

BERT được sử dụng để trích xuất document embeddings để tạo ra cái biểu diễn của documents . Sau đó, các word embeddings cho các từ / cụm từ sẽ được trích xuất. Sau đó KeyBert sử dụng tính tương tự cosine để tìm các từ / cụm từ giống nhất với tài liệu.

Các bạn có thể tìm hiểu kỹ hơn về tư tưởng và thuật toán được triển khai trong thư viện này ở đây nhé: KeyBert

5. Word cloud

Word cloud là một công cụ để trực quan hóa dữ liệu văn bản, thường được sử dụng để nhấn mạnh các điểm dữ liệu văn bản quan trọng.

Một thuật ngữ xuất hiện trong Word cloud càng nhiều, thì càng nhiều lần nó xuất hiện trong nguồn dữ liệu văn bản (như bài phát biểu, bài đăng trên blog hoặc cơ sở dữ liệu) (Còn được gọi là tag cloud hay text cloud). Thuật ngữ nào xuất hiện trong tài liệu càng thường xuyên và càng quan trọng thì thuật ngữ đó càng lớn và càng được in đậm. Đây là những cách để trích xuất các phần quan trọng nhất của dữ liệu dạng văn bản, chẳng hạn như các bài đăng trên blog hay cơ sở dữ liệu.

Các bạn có thể tìm hiểu kỹ hơn về tư tưởng và thuật toán được triển khai trong thư viện này ở đây nhé: Word cloud

6. Yet Another Keyword Extractor (Yake)

YAKE là một phương pháp trích xuất từ khóa tự động không giám sát, để xác định các từ khóa có liên quan nhất trong một văn bản bằng cách sử dụng dữ liệu thống kê văn bản từ các văn bản đơn lẻ. Kỹ thuật này không dựa vào từ điển, kho dữ liệu bên ngoài, kích thước văn bản, ngôn ngữ … và nó không yêu cầu đào tạo về một bộ tài liệu cụ thể nào cả. Các đặc điểm chính của thuật toán Yake như sau:

• Unsupervised approach
• Corpus-Independent
• Domain and Language Independent
• Single-Document

Các bạn có thể tìm hiểu kỹ hơn về tư tưởng và thuật toán được triển khai trong thư viện này ở đây nhé: Yake

7. Textrazor API

Ngoài cách sử dụng một số thư viện có sẵn trong python thì api cũng là một sự lựa chọn tốt cho tác vụ mà mình muốn triển khai. API Textrazor có thể được truy cập bằng nhiều ngôn ngữ máy tính khác nhau, bao gồm Python, Java, PHP và các ngôn ngữ khác. Chúng ta sẽ nhận được API key để trích xuất từ khóa từ văn bản khi đã tạo tài khoản với Textrazor.

Textrazor là một lựa chọn không tệ cho các nhà phát triển cần các công cụ trích xuất nhanh chóng với các tùy chọn tùy chỉnh toàn diện. Đây là một dịch vụ trích xuất từ khóa có thể được sử dụng cục bộ hoặc trên clound. API TextRazor có thể được sử dụng để trích xuất ý nghĩa từ văn bản và có thể dễ dàng kết nối với ngôn ngữ lập trình. Chúng ta có thể thiết kế trình trích xuất tùy chỉnh và trích xuất các từ đồng nghĩa và mối quan hệ giữa các thực thể, ngoài việc trích xuất các từ khóa và thực thể bằng 12 ngôn ngữ khác nhau

Các bạn có thể tìm hiểu kỹ hơn về API ở đây nhé: Textrazor API

Tổng kết

Với tốc độ phát triển của công nghệ hiện nay có rất nhiều giải pháp chọn lọc từ khóa được xây dựng và phát triển với tốc độ và độ chính xác cao, các bài toán được phát triển dựa theo đó cũng là các bài toán lớn và yêu cầu lượng dữ liệu không hề nhỏ. Bài viết lần này mình chỉ giới thiệu một số giải pháp đã được xây dựng dể dàng cài đặt và sử dụng. Hy vọng có thể giúp các bạn có thêm một số lựa chọn trong quá trình xây dựng và phát triển các dự án liên quan tới ngôn ngữ tự nhiên.

Tài liệu tham khảo

Spacy

RAKE_NLTK

TextRank

KeyBert

Word cloud

Yake

Textrazor API