Google phát hành thư viện TensorFlow Serving

Ngoc Huynh

Thư viện mã nguồn mở có thể làm việc với cả các mô hình máy học (machine learning) TensorFlow của Google và các mô hình thuộc bên thứ ba.

Google vừa mới chính thức phát hành TensorFlow Serving – một thư viện mã nguồn mở dành cho các mô hình máy học trong các môi trường sản phẩm (production environments). Phiên bản beta của công nghệ đã được phát hành vào tháng Hai.

Là một phần của dự án trí tuệ nhân tạo TensorFlow của Google, thư viện TensorFlow Serving 1.0 sẽ thêm vào triển khai các thuật toán và các thí nghiệm trong khi vẫn duy trì kiến trúc máy chủ tương tự và APIs. TensorFlow Serving cho phép bạn tạo ra nhiều phiên bản của các mô hình theo thời gian, cũng như hủy bỏ chúng.

Thư viện này tích hợp với các mô hình máy học TensorFlow, cũng như có thể được mở rộng để có thể sử dụng trong các kiểu mô hình khác.

Một pre-built binary hiện đã có thể sử dụng cho phần mềm. Docker container có thể được sử dụng để cài đặt server binary trên các hệ thống không phải Linux.

Có 3 khía cạnh quan trọng của TensorFlow Serving 1.0 là:

• Một tập hợp các thư viện C + + cung cấp các tiêu chuẩn hỗ trợ để phục vụ và nghiên cứu các mô hình TensorFlow, cũng như là một nền tảng cốt lõi chung không gắn với TensorFlow.
• Các nhị phân (binary) kết hợp với các phương pháp hay nhất và có các tài liệu tham khảo của Docker containers và các hướng dẫn.
• Dịch vụ được lưu trữ với nền tảng Google Cloud ML và một internal instance được sử dụng bởi nhiều sản phẩm của Google.

Các khái niệm chính trong TensorFlow Serving là:

• Servables, là các đối tượng cơ bản được sử dụng bởi khách hàng dành cho tính toán và central abstraction trong TensorFlow Serving.
• Loaders, để quản lý một chu trình của servable. Các API được chuẩn hóa để load và unload một servable.
• Sources, là các mô-đun plugin có nguồn gốc từ các servable.
• Managers, để xử lý chu trình của servable.

Bản phát hành TensorFlow Serving 1.0 không sử dụng định dạng của mô hình SessionBundle kế thừa. Nó được thay thế bằng định dạng SavedModel được giới thiệu với TensorFlow 1.0.

Google cho biết họ đã có hơn 800 dự án sử dụng TensorFlow Serving.

Chia sẻ bài viết ngay

Nguồn bài viết : http://www.infoworld.com