OPML: Metode pembelajaran mesin desentralisasi yang efisien

OPML(Optimistic machine learning) adalah metode baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di sistem blockchain. Dibandingkan dengan ZKML, OPML memiliki keunggulan biaya rendah dan efisiensi tinggi. Ambang partisipasi OPML sangat rendah, PC biasa tanpa GPU dapat menjalankan model bahasa besar, seperti 26GB 7B-LLaMA.

OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan verifikasi layanan ML. Proses spesifiknya adalah sebagai berikut:

1. Pengaju memulai tugas layanan ML
2. Server menyelesaikan tugas dan mengirimkan hasil ke rantai
3. Hasil verifikasi validator, jika ada keberatan maka akan memulai permainan verifikasi
4. Menentukan langkah kesalahan spesifik melalui protokol biner
5. Melakukan arbitrase langkah demi langkah pada kontrak pintar

Permainan Verifikasi Tahap Tunggal

Inti dari permainan verifikasi satu tahap adalah membangun sebuah mesin virtual (VM), yang digunakan untuk eksekusi off-chain dan arbitrase on-chain. Untuk meningkatkan efisiensi inferensi model AI, OPML telah mengimplementasikan sebuah pustaka DNN ringan, dan menyediakan skrip untuk mengonversi model Tensorflow dan PyTorch ke format pustaka tersebut. Melalui cross-compilation, kode inferensi model AI dikompilasi menjadi instruksi VM.

Gambar VM dikelola melalui pohon Merkle, hanya hash akar yang diunggah ke rantai. Protokol biner membantu menentukan langkah yang disengketakan dan mengirimkannya ke kontrak arbitrase di rantai. Uji coba menunjukkan bahwa model AI dasar hanya membutuhkan 2 detik untuk inferensi di VM, dan seluruh proses tantangan dapat diselesaikan dalam waktu 2 menit.

Permainan Verifikasi Multi-Tahap

Untuk mengatasi keterbatasan skema satu tahap, OPML mengusulkan permainan verifikasi multi-tahap:

• Hanya menghitung di VM pada tahap terakhir
• Tahap lainnya dapat dijalankan di lingkungan lokal, memanfaatkan akselerasi CPU/GPU/TPU
• Meningkatkan performa secara signifikan dengan mengurangi ketergantungan VM

Rencana multi-tahap memastikan integritas dan keamanan transisi antar tahap melalui pohon Merkle.

Sebagai contoh model LLaMA, OPML menggunakan metode dua tahap:

1. Tahap kedua melakukan verifikasi permainan di atas grafik komputasi, dapat memanfaatkan akselerasi GPU
2. Tahap pertama akan mengubah perhitungan node tunggal menjadi eksekusi instruksi VM

OPML multi-tahap dapat mencapai percepatan α kali ( puluhan hingga ratusan kali ) dibandingkan dengan tahap tunggal, sambil secara signifikan mengurangi ukuran pohon Merkle.

Jaminan Konsistensi

Untuk memastikan konsistensi hasil ML, OPML menggunakan dua metode kunci:

1. Menggunakan algoritma fixed-point ( teknologi kuantisasi ), mengurangi kesalahan pembulatan floating-point
2. Menggunakan pustaka floating point berbasis perangkat lunak untuk memastikan konsistensi lintas platform

Teknologi ini secara efektif mengatasi tantangan yang disebabkan oleh variabel floating point dan perbedaan platform, meningkatkan keandalan OPML.

OPML meskipun masih dalam pengembangan, telah menunjukkan potensi besar. Ini menyediakan solusi yang efisien, berbiaya rendah, dan Desentralisasi untuk pembelajaran mesin di blockchain, yang layak untuk terus diperhatikan dan dieksplorasi oleh industri.