我们提出SPARTA，一种新颖的神经检索方法，在开放域问答任务中展现出卓越的性能、泛化能力与可解释性。与众多采用密集向量近邻搜索的神经排序方法不同，SPARTA学习一种稀疏表示，可高效地以倒排索引（Inverted Index）形式实现。该表示结构支持可扩展的神经检索，无需依赖昂贵的近似向量搜索，同时在性能上优于其密集向量 counterparts。我们在4个开放域问答（OpenQA）任务和11个检索型问答（ReQA）任务上验证了该方法的有效性。SPARTA在中英文多种开放域问答数据集上均取得了新的最先进（state-of-the-art）结果，涵盖 open SQuAD、Natural Question、CMRC 等多个基准。分析进一步表明，所提出的方法能够生成人类可理解的表示，并灵活调控性能与效率之间的权衡。