Le 2 août, le géant du private sale, DeepSeek, a annoncé sur son compte officiel l'utilisation de la technologie de cache de disque contextuel pour explorer l'AGI (intelligence artificielle générale). Il stocke en cache le contenu prévu à utiliser à plusieurs reprises dans un tableau de disques distribués. Dans les scénarios d'utilisation de l'API de modèles volumineux, si une entrée se répète, seule la partie répétée doit être lue dans le cache, sans calcul. La partie mise en cache est facturée 0,1 yuan pour chaque million de tokens par DeepSeek.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Le fournisseur de grands modèles DeepSeek de la filiale de quantification de carrés magiques utilise la technologie de mise en cache de disque dur
Le 2 août, le géant du private sale, DeepSeek, a annoncé sur son compte officiel l'utilisation de la technologie de cache de disque contextuel pour explorer l'AGI (intelligence artificielle générale). Il stocke en cache le contenu prévu à utiliser à plusieurs reprises dans un tableau de disques distribués. Dans les scénarios d'utilisation de l'API de modèles volumineux, si une entrée se répète, seule la partie répétée doit être lue dans le cache, sans calcul. La partie mise en cache est facturée 0,1 yuan pour chaque million de tokens par DeepSeek.