Trợ lý AI Manus đạt được những tiến bộ đột phá, gây ra cuộc thảo luận sâu về an ninh và hiệu quả
Gần đây, trợ lý AI Manus đã đạt được thành tích đột phá trong bài kiểm tra chuẩn GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Manus thể hiện khả năng hoàn thành độc lập các nhiệm vụ phức tạp, như đàm phán kinh doanh xuyên quốc gia, liên quan đến việc phân tích điều khoản hợp đồng, dự đoán chiến lược và tạo ra các phương án. So với các hệ thống truyền thống, lợi thế của Manus nằm ở việc phân tách mục tiêu một cách linh hoạt, suy luận đa phương tiện và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu suất quyết định thông qua học tập tăng cường, giảm tỷ lệ lỗi.
Sự tiến bộ của Manus lại dấy lên cuộc thảo luận trong ngành về con đường phát triển AI: Tương lai sẽ theo mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay là mô hình hợp tác của các hệ thống đa tác nhân (MAS)? Câu hỏi này xuất phát từ triết lý thiết kế của Manus, nó gợi ý hai khả năng: một là thông qua việc nâng cao liên tục cấp độ trí tuệ đơn thể, tiến gần đến khả năng ra quyết định tổng hợp của con người theo con đường AGI; hai là như một điều phối viên siêu việt, chỉ huy hàng ngàn tác nhân trí tuệ trong các lĩnh vực chuyên môn làm việc cùng nhau theo con đường MAS.
Cuộc thảo luận này thực sự đã chạm vào mâu thuẫn cốt lõi trong sự phát triển của AI: Làm thế nào để đạt được sự cân bằng giữa hiệu quả và an toàn? Khi trí thông minh đơn thể ngày càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định cũng tăng lên. Mặt khác, việc hợp tác giữa nhiều tác nhân thông minh dù có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Sự phát triển của Manus cũng làm nổi bật những nguy cơ an ninh vốn có của AI. Ví dụ, trong bối cảnh y tế, nó cần truy cập vào dữ liệu di truyền nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể tiếp xúc với thông tin tài chính chưa công khai của doanh nghiệp. Hơn nữa, hệ thống AI có thể tồn tại sự thiên lệch trong thuật toán, chẳng hạn như đưa ra những gợi ý lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Về việc xem xét hợp đồng pháp lý, tỷ lệ sai sót trong việc đánh giá các điều khoản của ngành mới nổi cũng có thể cao. Càng đáng lo ngại hơn, tin tặc có thể can thiệp vào phán đoán của Manus trong các cuộc đàm phán bằng cách cấy ghép tần số âm thanh nhất định.
Những vấn đề này đã làm nổi bật một thực tế đáng lo ngại: Hệ thống AI càng thông minh, thì bề mặt tấn công tiềm năng càng rộng.
Trong lĩnh vực Web3, an toàn luôn là một chủ đề được quan tâm. Lý thuyết "tam giác không thể" do người sáng lập Ethereum Vitalik Buterin đưa ra (mạng blockchain không thể đạt được đồng thời tính bảo mật, phi tập trung và khả năng mở rộng) đã truyền cảm hứng cho sự phát triển của nhiều công nghệ mã hóa:
Mô hình an ninh không tin tưởng: nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): Cho phép các thực thể có được danh tính xác thực mà không cần đăng ký tập trung.
Mã hóa đồng nhất (FHE): Cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư đồng thời thực hiện xử lý dữ liệu.
Trong số các công nghệ này, mã hóa đồng nhất hoàn toàn được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy vai trò trong một số lĩnh vực sau:
Khía cạnh dữ liệu: Tất cả thông tin do người dùng nhập (bao gồm đặc điểm sinh học, giọng nói và ngữ điệu) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Khía cạnh thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, đảm bảo ngay cả các nhà phát triển cũng không thể nhìn thấy quá trình ra quyết định của AI.
Khía cạnh phối hợp: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Trong lĩnh vực an ninh Web3, đã có nhiều dự án cam kết giải quyết những vấn đề này. Ví dụ, uPort là một trong những dự án danh tính phi tập trung được phát hành sớm trên mạng chính của Ethereum; NKN đã thử nghiệm trong mô hình an ninh không tin cậy; Mind Network là dự án FHE đầu tiên ra mắt trên mạng chính và đã thiết lập quan hệ hợp tác với nhiều tổ chức nổi tiếng.
Khi công nghệ AI ngày càng gần gũi với trình độ trí tuệ con người, việc xây dựng một hệ thống phòng thủ mạnh mẽ trở nên quan trọng hơn bao giờ hết. Mã hóa đồng nhất toàn phần không chỉ có thể giải quyết các vấn đề an ninh hiện tại mà còn đặt nền tảng cho sự phát triển trong kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, FHE không còn là một lựa chọn mà là điều kiện cần thiết để đảm bảo hệ thống AI hoạt động an toàn.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI trợ lý Manus vượt qua khung cảnh Web3 an ninh suy nghĩ Mã hóa đồng cấu hoàn toàn trở thành công nghệ then chốt
Trợ lý AI Manus đạt được những tiến bộ đột phá, gây ra cuộc thảo luận sâu về an ninh và hiệu quả
Gần đây, trợ lý AI Manus đã đạt được thành tích đột phá trong bài kiểm tra chuẩn GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Manus thể hiện khả năng hoàn thành độc lập các nhiệm vụ phức tạp, như đàm phán kinh doanh xuyên quốc gia, liên quan đến việc phân tích điều khoản hợp đồng, dự đoán chiến lược và tạo ra các phương án. So với các hệ thống truyền thống, lợi thế của Manus nằm ở việc phân tách mục tiêu một cách linh hoạt, suy luận đa phương tiện và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu suất quyết định thông qua học tập tăng cường, giảm tỷ lệ lỗi.
Sự tiến bộ của Manus lại dấy lên cuộc thảo luận trong ngành về con đường phát triển AI: Tương lai sẽ theo mô hình thống nhất hướng tới trí tuệ nhân tạo tổng quát (AGI), hay là mô hình hợp tác của các hệ thống đa tác nhân (MAS)? Câu hỏi này xuất phát từ triết lý thiết kế của Manus, nó gợi ý hai khả năng: một là thông qua việc nâng cao liên tục cấp độ trí tuệ đơn thể, tiến gần đến khả năng ra quyết định tổng hợp của con người theo con đường AGI; hai là như một điều phối viên siêu việt, chỉ huy hàng ngàn tác nhân trí tuệ trong các lĩnh vực chuyên môn làm việc cùng nhau theo con đường MAS.
Cuộc thảo luận này thực sự đã chạm vào mâu thuẫn cốt lõi trong sự phát triển của AI: Làm thế nào để đạt được sự cân bằng giữa hiệu quả và an toàn? Khi trí thông minh đơn thể ngày càng gần với AGI, rủi ro về tính không minh bạch trong quá trình ra quyết định cũng tăng lên. Mặt khác, việc hợp tác giữa nhiều tác nhân thông minh dù có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Sự phát triển của Manus cũng làm nổi bật những nguy cơ an ninh vốn có của AI. Ví dụ, trong bối cảnh y tế, nó cần truy cập vào dữ liệu di truyền nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể tiếp xúc với thông tin tài chính chưa công khai của doanh nghiệp. Hơn nữa, hệ thống AI có thể tồn tại sự thiên lệch trong thuật toán, chẳng hạn như đưa ra những gợi ý lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Về việc xem xét hợp đồng pháp lý, tỷ lệ sai sót trong việc đánh giá các điều khoản của ngành mới nổi cũng có thể cao. Càng đáng lo ngại hơn, tin tặc có thể can thiệp vào phán đoán của Manus trong các cuộc đàm phán bằng cách cấy ghép tần số âm thanh nhất định.
Những vấn đề này đã làm nổi bật một thực tế đáng lo ngại: Hệ thống AI càng thông minh, thì bề mặt tấn công tiềm năng càng rộng.
Trong lĩnh vực Web3, an toàn luôn là một chủ đề được quan tâm. Lý thuyết "tam giác không thể" do người sáng lập Ethereum Vitalik Buterin đưa ra (mạng blockchain không thể đạt được đồng thời tính bảo mật, phi tập trung và khả năng mở rộng) đã truyền cảm hứng cho sự phát triển của nhiều công nghệ mã hóa:
Trong số các công nghệ này, mã hóa đồng nhất hoàn toàn được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy vai trò trong một số lĩnh vực sau:
Trong lĩnh vực an ninh Web3, đã có nhiều dự án cam kết giải quyết những vấn đề này. Ví dụ, uPort là một trong những dự án danh tính phi tập trung được phát hành sớm trên mạng chính của Ethereum; NKN đã thử nghiệm trong mô hình an ninh không tin cậy; Mind Network là dự án FHE đầu tiên ra mắt trên mạng chính và đã thiết lập quan hệ hợp tác với nhiều tổ chức nổi tiếng.
Khi công nghệ AI ngày càng gần gũi với trình độ trí tuệ con người, việc xây dựng một hệ thống phòng thủ mạnh mẽ trở nên quan trọng hơn bao giờ hết. Mã hóa đồng nhất toàn phần không chỉ có thể giải quyết các vấn đề an ninh hiện tại mà còn đặt nền tảng cho sự phát triển trong kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, FHE không còn là một lựa chọn mà là điều kiện cần thiết để đảm bảo hệ thống AI hoạt động an toàn.