frankyzf
V2EX  ›  Local LLM

有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗

  •  
  •   frankyzf · 7h 16m ago · 650 views

    显存是够的(多卡),但架构有限制( SM_89 )

    4 replies    2026-06-19 14:19:30 +08:00
    wwhc
        1
    wwhc  
       5h 58m ago
    等 llama.cpp 合并 Deepseek v4 的补丁到主线吧
    ETiV
        2
    ETiV  
       5h 51m ago via iPhone
    BaiLinfeng
        3
    BaiLinfeng  
       4h 59m ago
    还是那句话 Deepseek 被神话了,我感觉也就那样
    gpt5
        4
    gpt5  
       3h 48m ago
    公司有几张这卡,显存是可以,但架不住慢啊。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2502 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 45ms · UTC 10:07 · PVG 18:07 · LAX 03:07 · JFK 06:07
    ♥ Do have faith in what you're doing.