Jin10 dữ liệu ngày 27 tháng 6, vào ngày 27 tháng 6, Tencent đã phát hành và mã nguồn mở mô hình Hỗn Nguyên-A13B. Theo giới thiệu, là mô hình lớn dựa trên kiến trúc hỗn hợp chuyên gia (MoE), tổng tham số 80 tỷ, tham số kích hoạt 13 tỷ, trong khi hiệu quả so với các mô hình mã nguồn mở hàng đầu, đã giảm đáng kể trễ suy diễn và chi phí tính toán; trong điều kiện cực đoan chỉ cần 1 thẻ GPU tầm trung hoặc thấp để triển khai.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Mã nguồn mở Tencent hỗn nguyên - Mô hình A13B
Jin10 dữ liệu ngày 27 tháng 6, vào ngày 27 tháng 6, Tencent đã phát hành và mã nguồn mở mô hình Hỗn Nguyên-A13B. Theo giới thiệu, là mô hình lớn dựa trên kiến trúc hỗn hợp chuyên gia (MoE), tổng tham số 80 tỷ, tham số kích hoạt 13 tỷ, trong khi hiệu quả so với các mô hình mã nguồn mở hàng đầu, đã giảm đáng kể trễ suy diễn và chi phí tính toán; trong điều kiện cực đoan chỉ cần 1 thẻ GPU tầm trung hoặc thấp để triển khai.