OPML: Sử dụng cơ chế lạc quan để thực hiện học máy hiệu quả và đáng tin cậy

Tóm tắt

Bài viết giới thiệu một phương pháp mới có tên là OPML( học máy lạc quan ), nó có khả năng thực hiện suy diễn và huấn luyện mô hình AI một cách hiệu quả trên hệ thống blockchain. So với học máy không biết ( ZKML), OPML có thể cung cấp dịch vụ học máy với chi phí thấp hơn và hiệu quả cao hơn. Yêu cầu phần cứng của OPML rất thấp, máy tính cá nhân thông thường có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA.

OPML sử dụng cơ chế trò chơi xác thực để đảm bảo dịch vụ học máy được phi tập trung và có thể xác minh được sự đồng thuận. Toàn bộ quá trình bao gồm: người yêu cầu khởi xướng nhiệm vụ, máy chủ hoàn thành nhiệm vụ và nộp kết quả, người xác thực kiểm tra kết quả, nếu có tranh chấp thì thông qua giao thức phân chia để xác định chính xác bước lỗi, cuối cùng là trọng tài bởi hợp đồng thông minh.

Trò chơi xác thực một giai đoạn

Core của OPML một giai đoạn là xây dựng một máy ảo thực thi ngoài chuỗi và trọng tài trên chuỗi (VM). Để nâng cao hiệu suất suy diễn mô hình AI, đã thực hiện một thư viện mạng nơ-ron sâu nhẹ chuyên dụng. Sử dụng công nghệ biên dịch chéo để biên dịch mã suy diễn mô hình AI thành lệnh VM, hình ảnh VM được quản lý thông qua cây Merkle.

Trong thử nghiệm thực tế, một mô hình phân loại AI cơ bản mất 2 giây để suy diễn trên VM, toàn bộ quá trình thách thức có thể hoàn thành trong môi trường thử nghiệm Ethereum cục bộ trong vòng 2 phút.

Trò chơi xác minh nhiều giai đoạn

Để khắc phục những hạn chế của giao thức một giai đoạn, đã đề xuất trò chơi xác thực đa giai đoạn. Phương pháp này chỉ cần tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể được thực hiện linh hoạt trong môi trường cục bộ, tận dụng tối đa khả năng tăng tốc phần cứng như CPU, GPU.

Lấy OPML hai giai đoạn làm ví dụ, giai đoạn thứ hai tương ứng với "lệnh lớn", giai đoạn đầu tiên giống như trò chơi một giai đoạn. Thông qua cây Merkle đảm bảo tính toàn vẹn và an ninh giữa các giai đoạn khác nhau.

Trong mô hình LLaMA, quá trình tính toán của mạng nơ-ron sâu có thể được biểu diễn dưới dạng đồ thị tính toán. Giai đoạn thứ hai tiến hành xác minh trò chơi trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng để tăng tốc. Giai đoạn đầu tiên chuyển đổi tính toán của một nút đơn thành lệnh VM.

Phân tích hiệu suất

So với OPML một giai đoạn, OPML hai giai đoạn đã đạt được tốc độ tính toán nhanh hơn α lần, trong đó α đại diện cho tỷ lệ tăng tốc do GPU hoặc tính toán song song mang lại. Về kích thước cây Merkle, OPML hai giai đoạn có kích thước O(m+n), trong khi một giai đoạn có kích thước O(mn), m và n lần lượt là số lệnh VM và số nút đồ thị tính toán.

Bảo đảm tính nhất quán

Để đảm bảo tính nhất quán giữa các nền tảng, OPML đã áp dụng hai phương pháp chính:

1. Sử dụng thuật toán định điểm ( công nghệ định lượng ) để giảm thiểu ảnh hưởng của sai số làm tròn dấu phẩy.
2. Sử dụng thư viện số thực dựa trên phần mềm để đảm bảo tính nhất quán giữa các nền tảng

Các phương pháp này đã đặt nền tảng cho việc đạt được kết quả học máy đáng tin cậy trong khuôn khổ OPML.

OPML vs ZKML

OPML có những ưu điểm như độ phức tạp tính toán thấp hơn, hiệu quả cao hơn và ngưỡng tham gia thấp hơn so với ZKML. Hiện tại, OPML chủ yếu tập trung vào suy diễn mô hình, nhưng khung cũng hỗ trợ quá trình đào tạo, có thể được sử dụng cho nhiều nhiệm vụ học máy khác nhau.

Dự án OPML vẫn đang được phát triển tích cực, chào mừng các nhà phát triển quan tâm tham gia đóng góp.