HyperAI超神经

选择 GPU 配置和能力，以寻找最适合的开源模型，并将其部署为 API。

最佳长上下文模型于 4× NVIDIA RTX 5090

超长输入理解、检索与生成

#	模型	参数量	精度	最大上下文	评分 (0–10)
1	Qwen3-Coder-Next 2026.03	80B	FP8	256K	8.90
2	Qwen3.8-27B 2026.08	27.8B	FP16	256K	8.70
3	Qwen3.6-35B-A3B 2026.04	35B	FP16	256K	8.70
4	Mistral-Medium-3.5-128B 2026.07	127.7B	NVFP4	186K	8.60
5	Qwen3.6-27B 2026.04	27.8B	FP16	256K	8.30
6	Fara1.5-27B 2026.07	27.4B	FP16	256K	8.20
7	Mistral-Small-4-119B-2603 2026.07	119.4B	NVFP4	205K	8.20
8	Qwen-AgentWorld-35B-A3B 2026.06	34.7B	FP16	190K	8.20
9	TaskMem 2026.06	31.1B	FP16	219K	8.20
10	Leanstral 1.0 2026.03	119B	NVFP4	256K	8.10
11	Nemotron 3 Super 2026.03	120B	NVFP4	976K	8.00
12	GLM-4.7-Flash 2026.01	31B	FP16	198K	7.80
13	gpt-oss-safeguard-120b 2025.10	120.4B	NVFP4	128K	7.80
14	gpt-oss-120b 2025.08	116.8B	NVFP4	128K	7.80
15	UI-Mate-democua-27B 2026.08	27.4B	FP16	256K	7.60
16	Baichuan-M2-32B 2025.12	32.8B	FP16	128K	7.60
17	gpt-oss-safeguard-20b 2026.01	21.5B	FP16	128K	7.30
18	UI-Mate-27B 2026.08	27.4B	FP16	256K	7.20
19	Hy-MT2-30B-A3B 2026.07	30.1B	FP16	227K	7.20
20	Qwen3.5-122B-A10B 2026.02	122B	NVFP4	256K	7.08

已在 HyperAI 上验证部署得分汇总了所选能力的公开基准测试数据。列出的模型在可用显存 (VRAM) 中均能容纳权重和 KV 缓存，并支持至少 64K 的上下文，且处于最适用的最佳精度。