Mô hình ngôn ngữ lớn không giới hạn: Mối đe dọa mới cho an ninh ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các mô hình GPT cho đến Gemini và các mô hình tiên tiến khác đang thay đổi sâu sắc cách chúng ta làm việc và sinh hoạt. Tuy nhiên, tiến bộ công nghệ này cũng mang đến những rủi ro an ninh tiềm tàng, đặc biệt là sự xuất hiện của các mô hình ngôn ngữ lớn không bị hạn chế hoặc có mục đích xấu.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế, chỉnh sửa hoặc "bẻ khóa" một cách đặc biệt để vượt qua các cơ chế an ninh và giới hạn đạo đức tích hợp trong các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống đã đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức với động cơ không đúng đắn đã bắt đầu tìm kiếm hoặc phát triển các mô hình không bị hạn chế. Bài viết này sẽ khám phá các mối đe dọa tiềm tàng của các mô hình này trong ngành mã hóa, cũng như các thách thức an ninh và chiến lược ứng phó liên quan.

Cách lạm dụng LLM không giới hạn

Sự xuất hiện của các mô hình này đã làm giảm đáng kể rào cản để thực hiện các cuộc tấn công phức tạp. Ngay cả những người không có kỹ năng chuyên môn cũng có thể dễ dàng tạo ra mã độc, làm email lừa đảo hoặc lên kế hoạch lừa đảo. Kẻ tấn công chỉ cần lấy trọng số và mã của mô hình mã nguồn mở, sau đó tinh chỉnh với tập dữ liệu chứa nội dung độc hại, từ đó tạo ra công cụ tấn công tùy chỉnh.

Xu hướng này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể tùy chỉnh mô hình nhắm mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua kiểm duyệt nội dung thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã nguồn của trang web lừa đảo hoặc tùy chỉnh nội dung lừa đảo cho các nền tảng khác nhau.
3. Tính khả dụng của các mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm, cung cấp môi trường cho các hoạt động bất hợp pháp.

Dưới đây là một số LLM không giới hạn điển hình và những mối đe dọa tiềm ẩn của chúng:

WormGPT：phiên bản đen của GPT

WormGPT là một LLM độc hại được bán công khai trên các diễn đàn ngầm, tự xưng là không có bất kỳ ràng buộc đạo đức nào. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần 189 đô la để có quyền sử dụng trong một tháng.

Trong lĩnh vực mã hóa, WormGPT có thể bị lạm dụng để:

• Tạo email lừa đảo chân thực, dụ dỗ người dùng nhấp vào liên kết độc hại hoặc tiết lộ khóa riêng.
• Hỗ trợ viết mã độc như đánh cắp tệp ví, giám sát bảng tạm.
• Kích hoạt lừa đảo tự động, hướng dẫn nạn nhân tham gia các dự án giả mạo.

DarkBERT：Con dao hai lưỡi của nội dung mạng tối

DarkBERT là một mô hình ngôn ngữ được đào tạo chuyên biệt trên dữ liệu từ dark web, ban đầu được sử dụng để hỗ trợ các nhà nghiên cứu và cơ quan thực thi pháp luật hiểu về hệ sinh thái dark web. Tuy nhiên, nếu bị sử dụng sai mục đích, thông tin nhạy cảm mà nó nắm giữ có thể gây ra hậu quả nghiêm trọng.

Trong lĩnh vực mã hóa, các rủi ro tiềm ẩn của DarkBERT bao gồm:

• Thu thập thông tin người dùng và đội ngũ dự án, thực hiện lừa đảo chính xác.
• Sao chép các phương pháp trộm tiền và rửa tiền đã trưởng thành trên mạng tối.

FraudGPT：công cụ đa chức năng cho gian lận mạng

FraudGPT tự xưng là phiên bản nâng cấp của WormGPT, chủ yếu được bán trên mạng tối và các diễn đàn hacker. Cách lạm dụng của nó trong lĩnh vực mã hóa bao gồm:

• Tạo nội dung và tài liệu tiếp thị cho các dự án mã hóa giả mạo một cách chân thực.
• Sản xuất hàng loạt các trang lừa đảo giả mạo các sàn giao dịch nổi tiếng.
• Sản xuất hàng loạt các bình luận giả, quảng bá token lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Bắt chước cuộc trò chuyện của con người, dẫn dắt người dùng tiết lộ thông tin nhạy cảm.

GhostGPT：trợ lý AI không bị ràng buộc bởi đạo đức

GhostGPT là một chatbot AI không có giới hạn đạo đức rõ ràng. Trong lĩnh vực mã hóa, nó có thể được sử dụng để:

• Tạo ra email lừa đảo mô phỏng cao, giả mạo thông báo giả từ các sàn giao dịch chính.
• Tạo mã hợp đồng thông minh chứa cửa hậu ẩn một cách nhanh chóng.
• Tạo phần mềm độc hại có khả năng biến hình để đánh cắp thông tin ví.
• Kết hợp với các công cụ AI khác, tạo ra giọng nói giả mạo của bên dự án, thực hiện lừa đảo qua điện thoại.

Venice.ai：rủi ro tiềm ẩn về việc truy cập không qua kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM, bao gồm một số mô hình có hạn chế ít hơn. Mặc dù mục đích của nó là cung cấp trải nghiệm AI mở cho người dùng, nhưng cũng có thể bị lạm dụng để tạo ra nội dung độc hại. Các rủi ro tiềm ẩn bao gồm:

• Sử dụng mô hình có ít hạn chế để vượt qua kiểm duyệt, tạo ra mẫu lừa đảo hoặc ý tưởng tấn công.
• Giảm bớt rào cản cho việc cảnh báo ác ý.
• Tăng tốc độ lặp lại và tối ưu hóa kịch bản tấn công.

Chiến lược ứng phó

Đối mặt với mối đe dọa mới do LLM không giới hạn mang lại, ngành mã hóa cần thực hiện nhiều biện pháp đồng thời:

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển công cụ có khả năng nhận diện và chặn nội dung độc hại do AI tạo ra.
2. Thúc đẩy xây dựng khả năng chống jailbreak của mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc.
3. Xây dựng và hoàn thiện các quy tắc đạo đức và cơ chế quản lý, hạn chế từ nguồn phát triển và lạm dụng các mô hình độc hại.
4. Tăng cường giáo dục người dùng, nâng cao khả năng nhận biết nội dung được tạo ra bởi AI.
5. Thúc đẩy hợp tác trong ngành, chia sẻ thông tin về mối đe dọa và các thực tiễn tốt nhất.

Chỉ có sự nỗ lực cộng tác của tất cả các bên trong hệ sinh thái an toàn mới có thể ứng phó hiệu quả với thách thức an ninh mới nổi này, bảo vệ sự phát triển lành mạnh của ngành mã hóa.