利用次模最佳化突破 DeepResearch:文字選取、段落重排與上下文工程的深度解析

Jina AI 深入探討次模最佳化(Submodular Optimization)在文字選擇、段落重排與上下文工程中的應用

次模最佳化(Submodular Optimization) 具備「邊際效益遞減」特性,能有效解決 DeepResearch 系統中的最佳子集選取難題。 • 在處理長文時,文字選取(Text Selection) 透過最小化重複資訊與最大化語意覆蓋,實現上下文壓縮與 Token 最佳化。 • 傳統的段落重排(Passage Reranking) 多採點對點評分,容易忽略段落間的語意冗餘。 • 結合 jina-embeddings-v4 的多向量嵌入與 LoRA 適配器,能精準計算 Token 與段落級別的語意相似度。 • 透過惰性貪婪演算法(Lazy Greedy Algorithm),系統能在大幅降低運算負載的同時,提供具備數學理論保證的近似解。 • 在段落重排中透過設施位址公式飽和覆蓋公式,完美平衡了使用者查詢的相關性與候選段落的多樣性

「許多研究人員僅使用 LLM 提示詞來解決這些問題,缺乏數學理論基礎與效能保證,我們其實可以做得更好。」


來源:Jina AI

閱讀原文 ↗

標籤:#context-engineering

← 回首頁