OPML: Một phương pháp học máy phi tập trung hiệu quả

OPML(Học máy lạc quan) là một phương pháp mới, cho phép thực hiện suy luận và đào tạo/tinh chỉnh mô hình AI trên hệ thống blockchain. So với ZKML, OPML có lợi thế về chi phí thấp và hiệu quả cao. Rào cản tham gia của OPML rất thấp, máy tính thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn, như 26GB 7B-LLaMA.

OPML áp dụng cơ chế trò chơi xác thực để đảm bảo sự Phi tập trung và khả năng xác thực của dịch vụ ML. Quy trình cụ thể như sau:

1. Người yêu cầu khởi động nhiệm vụ dịch vụ ML
2. Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi.
3. Kết quả xác thực của người xác thực, nếu có tranh chấp thì khởi động trò chơi xác thực.
4. Xác định bước lỗi cụ thể thông qua giao thức phân đoạn
5. Thực hiện trọng tài từng bước trên hợp đồng thông minh

Trò chơi xác thực một giai đoạn

Trái tim của trò chơi xác thực một giai đoạn là xây dựng một máy ảo (VM), dùng để thực thi ngoài chuỗi và trọng tài trên chuỗi. Để nâng cao hiệu suất suy diễn mô hình AI, OPML đã triển khai một thư viện DNN nhẹ và cung cấp kịch bản để chuyển đổi các mô hình Tensorflow và PyTorch sang định dạng thư viện đó. Thông qua việc biên dịch chéo, mã suy diễn mô hình AI được biên dịch thành các lệnh VM.

Hình ảnh VM được quản lý thông qua cây Merkle, chỉ có hash gốc được tải lên chuỗi. Giao thức phân chia giúp xác định các bước tranh chấp và gửi chúng đến hợp đồng trọng tài trên chuỗi. Các thử nghiệm cho thấy, mô hình AI cơ bản chỉ cần 2 giây để suy diễn trong VM, toàn bộ quá trình thách thức có thể hoàn thành trong 2 phút.

Trò chơi xác thực nhiều giai đoạn

Để khắc phục những hạn chế của kế hoạch một giai đoạn, OPML đã đề xuất trò chơi xác thực đa giai đoạn:

• Chỉ tính toán trong VM ở giai đoạn cuối cùng
• Các giai đoạn khác có thể thực hiện trong môi trường địa phương, sử dụng CPU/GPU/TPU để tăng tốc.
• Nâng cao hiệu suất đáng kể bằng cách giảm sự phụ thuộc vào VM

Giải pháp đa giai đoạn đảm bảo tính toàn vẹn và an toàn trong quá trình chuyển đổi giữa các giai đoạn thông qua cây Merkle.

Lấy mô hình LLaMA làm ví dụ, OPML áp dụng phương pháp hai giai đoạn:

1. Giai đoạn thứ hai thực hiện trò chơi xác minh trên đồ thị tính toán, có thể sử dụng GPU để tăng tốc.
2. Giai đoạn đầu tiên sẽ chuyển đổi tính toán của từng nút thành việc thực thi lệnh VM

Nhiều giai đoạn OPML so với một giai đoạn có thể đạt được tốc độ gia tăng α lần từ ( hàng chục đến hàng trăm lần ), đồng thời làm giảm đáng kể kích thước cây Merkle.

Đảm bảo tính nhất quán

Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng hai phương pháp then chốt:

1. Sử dụng thuật toán định điểm ( công nghệ lượng hóa ), giảm sai số làm tròn dấu phẩy.
2. Sử dụng thư viện số thực dựa trên phần mềm, đảm bảo tính nhất quán đa nền tảng

Các công nghệ này đã vượt qua hiệu quả những thách thức do biến số dấu phẩy động và sự khác biệt của nền tảng mang lại, tăng cường độ tin cậy của OPML.

OPML tuy vẫn đang trong giai đoạn phát triển, nhưng đã thể hiện tiềm năng to lớn. Nó cung cấp một giải pháp hiệu quả, chi phí thấp và Phi tập trung cho việc học máy trên blockchain, xứng đáng được ngành công nghiệp tiếp tục quan tâm và khám phá.