HyperAI超神经

选择 GPU 配置和能力，以寻找最适合的开源模型，并将其部署为 API。

最佳长上下文模型于 1× NVIDIA RTX 5090

超长输入理解、检索与生成

#	模型	参数量	精度	最大上下文	评分 (0–10)
1	Qwen3.8-27B已验证 2026.08	27.8B	NVFP4	103K	8.70
2	Qwen3.6-35B-A3B 2026.04	35B	NVFP4	256K	8.70
3	Qwen3.6-27B 2026.04	27.8B	NVFP4	103K	8.30
4	Fara1.5-27B 2026.07	27.4B	NVFP4	105K	8.20
5	Ministral-3-8B-Reasoning-2512 2026.07	8.9B	FP16	163K	8.10
6	GLM-4.7-Flash 2026.01	31B	NVFP4	198K	7.80
7	UI-Mate-democua-27B 2026.08	27.4B	NVFP4	105K	7.60
8	gpt-oss-20b 2025.08	20.9B	NVFP4	128K	7.40
9	Fara1.5-4B 2026.07	4.5B	FP16	256K	7.30
10	Fara1.5-9B 2026.07	9.4B	FP16	147K	7.30
11	gpt-oss-safeguard-20b 2026.01	21.5B	NVFP4	128K	7.30
12	UI-Mate-27B 2026.08	27.4B	NVFP4	105K	7.20
13	Kimi-VL-A3B-Thinking 2026.01	16.4B	FP8	94K	7.20
14	GLM-4.1V-9B-Thinking 2026.07	10.3B	FP8	64K	7.10
15	Qwen3.5-35B-A3B 2026.02	35B	NVFP4	256K	7.08
16	Qwen3.5-27B 2026.02	27B	NVFP4	107K	7.08
17	Cosmos3-Edge 2026.08	3.9B	FP16	128K	6.80
18	Fara-7B 2026.08	8.3B	FP16	125K	6.80
19	Mage-VL 2026.08	4.7B	FP16	256K	6.70
20	UI-Mate-9B 2026.08	9.4B	FP16	147K	6.30

已在 HyperAI 上验证部署得分汇总了所选能力的公开基准测试数据。列出的模型在可用显存 (VRAM) 中均能容纳权重和 KV 缓存，并支持至少 64K 的上下文，且处于最适用的最佳精度。