Pendahuluan AGI: Terobosan Model Manus dan Tantangan Baru dalam Kemanan AI

Dalam bidang kecerdasan buatan, model Manus baru-baru ini mencapai terobosan besar, mencapai tingkat mutakhir dalam pengujian standar GAIA, dengan kinerja yang bahkan melampaui model bahasa besar sekelas. Ini berarti Manus mampu menyelesaikan tugas kompleks seperti negosiasi bisnis lintas negara secara mandiri, mencakup analisis kontrak, prediksi strategis, dan penyusunan rencana, bahkan mampu mengoordinasikan tim hukum dan keuangan.

Keunggulan Manus terutama terletak pada tiga aspek: kemampuan dekomposisi tujuan dinamis, kemampuan penalaran lintas mode, dan kemampuan pembelajaran yang diperkuat memori. Ini dapat membagi tugas besar menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Kemajuan Manus sekali lagi memicu diskusi di industri tentang jalur pengembangan AI: Akankah di masa depan muncul kecerdasan buatan umum (AGI) yang bersatu, atau akan didominasi oleh sistem multi-agen (MAS)? Pertanyaan ini menyentuh inti dari filosofi desain Manus, mengisyaratkan dua arah perkembangan yang mungkin:

1. Jalur AGI: Dengan terus meningkatkan kemampuan sistem cerdas tunggal, sehingga secara bertahap mendekati tingkat pengambilan keputusan manusia.

2. Jalur MAS: Menjadikan Manus sebagai koordinator super, mengarahkan ratusan agen cerdas dari berbagai bidang untuk bekerja sama.

Secara superficial, ini adalah perdebatan tentang jalur teknologi, tetapi pada dasarnya mencerminkan kontradiksi mendasar dalam pengembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan? Seiring dengan sistem kecerdasan tunggal yang semakin mendekati AGI, risiko ketidaktransparanan proses pengambilan keputusannya juga meningkat. Sementara kolaborasi multi-agen dapat mendistribusikan risiko, tetapi bisa kehilangan momen pengambilan keputusan yang penting karena keterlambatan komunikasi.

Perkembangan Manus secara tidak langsung memperbesar risiko yang melekat pada AI. Misalnya, dalam skenario medis, ia memerlukan akses waktu nyata ke data genom pasien; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang belum dipublikasikan. Selain itu, ada juga masalah bias algoritma, seperti dalam negosiasi perekrutan yang mungkin memberikan saran gaji yang tidak adil kepada kelompok tertentu, atau tingkat kesalahan yang tinggi dalam penilaian klausul industri baru saat meninjau kontrak hukum. Yang lebih parah, Manus mungkin memiliki celah untuk serangan adversarial, di mana peretas dapat menipu penilaian negosiasinya dengan menyisipkan frekuensi audio tertentu.

Hal ini menyoroti realitas serius dari sistem AI: semakin tinggi tingkat kecerdasan, semakin luas potensi permukaan serangan.

Dalam bidang Web3, keamanan selalu menjadi isu inti. Berdasarkan teori "segitiga yang tidak mungkin" yang diajukan oleh Vitalik Buterin (jaringan blockchain tidak dapat mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan), berbagai teknologi kriptografi telah berkembang:

• Model keamanan zero trust: menekankan prinsip "tidak pernah percaya, selalu memverifikasi" dengan melakukan verifikasi dan otorisasi identitas yang ketat pada setiap permintaan akses.
• Identitas terdesentralisasi (DID): sebuah standar identitas digital terdesentralisasi baru yang memungkinkan verifikasi identitas tanpa registrasi terpusat.
• Enkripsi homomorfik penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, tanpa perlu mendekripsi untuk mengoperasikan data.

Di antara itu, enkripsi homomorfik yang sepenuhnya dianggap sebagai teknologi enkripsi terbaru, dianggap sebagai kunci untuk menyelesaikan masalah keamanan di era AI.

Untuk tantangan keamanan sistem AI seperti Manus, FHE menyediakan solusi multi-lapisan:

1. Tingkat data: Semua informasi yang dimasukkan oleh pengguna (termasuk fitur biometrik, suara, dll.) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.

2. Tingkat algoritma: Mewujudkan "pelatihan model terenkripsi" melalui FHE, sehingga bahkan pengembang pun tidak dapat secara langsung mengamati proses pengambilan keputusan AI.

3. Tingkat kolaborasi: Komunikasi antara beberapa agen cerdas menggunakan enkripsi ambang, sehingga bahkan jika satu node diretas, itu tidak akan menyebabkan kebocoran data global.

Meskipun teknologi keamanan Web3 mungkin tampak jauh dari pengguna biasa, mereka sangat terkait dengan kepentingan setiap orang. Dalam dunia digital yang penuh tantangan ini, tanpa mengambil langkah-langkah defensif secara aktif, akan sulit untuk terhindar dari risiko keamanan informasi.

Dalam bidang identitas terdesentralisasi, proyek uPort diluncurkan di mainnet Ethereum pada tahun 2017. Dalam hal model keamanan zero trust, proyek NKN meluncurkan mainnetnya pada tahun 2019. Sementara itu, Mind Network adalah proyek FHE pertama yang diluncurkan di mainnet dan telah menjalin kerjasama dengan lembaga-lembaga terkenal seperti ZAMA, Google, dan DeepSeek.

Meskipun proyek keamanan awal mungkin tidak menarik perhatian luas, tetapi dengan perkembangan cepat teknologi AI, pentingnya bidang keamanan semakin menonjol. Apakah Mind Network dapat memecahkan tren ini dan menjadi pemimpin di bidang keamanan, patut kita perhatikan terus-menerus.

Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, kita semakin membutuhkan sistem pertahanan yang canggih. Nilai FHE tidak hanya terletak pada penyelesaian masalah saat ini, tetapi juga sebagai dasar untuk era AI yang kuat di masa depan. Di jalan menuju AGI, FHE bukan lagi pilihan, melainkan syarat yang perlu untuk memastikan perkembangan keamanan AI.