2024年08月02日快讯 幻方量化旗下大模型厂商DeepSeek启用硬盘缓存技术
•
2024-08-02 21:00:58
摘要
2024年08月02日转载:界面新闻网
8月2日,私募巨头幻方量化官微宣布,其探索AGI(通用人工智能)的新组织“深度求索(DeepSeek)”启用上...
2024年08月02日转载:界面新闻网
8月2日,私募巨头幻方量化官微宣布,其探索AGI(通用人工智能)的新组织“深度求索(DeepSeek)”启用上下文硬盘缓存技术,把预计未来会重复使用的内容,缓存在分布式的硬盘阵列中。在大模型API的使用场景中,如果输入存在重复,则重复的部分只需要从缓存读取,无需计算。缓存命中的部分,DeepSeek费用为0.1元每百万tokens。
文章转载自:界面新闻网 非本站原创 如有问题可与站长联系!!!
版权声明:本文由用户上传,如有侵权请联系删除!
标签: