5.6 佬都用什么模型?
说是有一个坑的点,上下文有效窗口默认从 258 提升至 353k 但是费用相应输入增加 2 倍,输出增加 1.5 倍。
他人分享这两个参数填到 config.toml 里
model_context_window = 272000
model_auto_compact_token_limit = 256000
我还没测试哦,这个有点坑钱,默认就 long context,感觉这么点提升不值得启用,所以还是考虑换回原来的自动压缩吧
评论
?
参与讨论
说是有一个坑的点,上下文有效窗口默认从 258 提升至 353k 但是费用相应输入增加 2 倍,输出增加 1.5 倍。
他人分享这两个参数填到 config.toml 里
model_context_window = 272000
model_auto_compact_token_limit = 256000
我还没测试哦,这个有点坑钱,默认就 long context,感觉这么点提升不值得启用,所以还是考虑换回原来的自动压缩吧