纯CPU运行QwQ-32b FP16、Q8简单测试
作者: 凌云志久
作者简介: AW射箭论坛 https://archery.wang/
描述: FP16：1.24token/s Q8：2.44token/s 配置：志强金牌6238T、ddr4 2666 16g*12、HR650X准系统、幻影HV3000 1T 测试问题：已知小红有2个姐姐和4个妹妹，她的妹妹中年龄第三小的妹妹小美有几个姐姐？正确答案：四个。(ds671b未量化版本仍回答错误，但QwQFP16和Q8版本均回答正确)
作者: 凌云志久
作者简介: AW射箭论坛 https://archery.wang/
描述: FP16：1.24token/s Q8：2.44token/s 配置：志强金牌6238T、ddr4 2666 16g*12、HR650X准系统、幻影HV3000 1T 测试问题：已知小红有2个姐姐和4个妹妹，她的妹妹中年龄第三小的妹妹小美有几个姐姐？正确答案：四个。(ds671b未量化版本仍回答错误，但QwQFP16和Q8版本均回答正确)
