Dense Retrieval और Re-ranking समझाए गए

Sparse और dense retrieval में फ़र्क़, hybrid retrieval, cross-encoders से re-ranking, और हर चरण किस तरह की लिखाई को इनाम देता है.

भाषा: English · हिंदी · मराठी

Dense retrieval किसी सवाल के अर्थ की तुलना रखे हुए text के अर्थ से करके हिस्से ढूँढता है, embeddings उपयोग करके। Re-ranking उसके बाद सबसे अच्छे उम्मीदवार लेता है और उन्हें एक धीमे, ज़्यादा सटीक model से फिर अंक देता है। ज़्यादातर AI search systems दोनों उपयोग करते हैं, इसी क्रम में, और किसी पेज को अपना कोई text जवाब तक पहुँचाने से पहले दोनों क़दमों में टिकना पड़ता है।

Sparse और dense retrieval

पारंपरिक search sparse retrieval उपयोग करता है। सबसे जाना पहचाना तरीक़ा, BM25, दस्तावेज़ों को इस आधार पर अंक देता है कि query के शब्द उनमें कितनी बार आते हैं, दस्तावेज़ की लंबाई और हर शब्द के पूरे संग्रह में कितने दुर्लभ होने के हिसाब से समायोजित। वह तेज़ है और ठीक शब्दों में बहुत अच्छा: उत्पाद codes, नाम, error संदेश।

Dense retrieval सवाल और हर हिस्से दोनों को embedding के रूप में दर्शाता है और वे हिस्से ढूँढता है जिनके embeddings सबसे पास हैं। वह अर्थ से मेल खाता है, इसलिए “cloud spend घटाना” उस हिस्से को ढूँढ सकता है जो “AWS bills कम करने” पर है। यह तरीक़ा Dense Passage Retrieval (DPR) से लोकप्रिय हुआ, जिसका वर्णन Facebook AI में Karpukhin तथा उनके साथियों ने 2020 में किया, और जिसने उनकी question-answering जाँचों में top-20 retrieval की सटीकता में BM25 को 9 से 19 प्रतिशत अंकों से हराया।

Sparse (उदाहरण BM25) Dense (उदाहरण DPR)
किससे मेल ठीक शब्द अर्थ
किसमें मज़बूत नाम, codes, संख्याएं, दुर्लभ शब्द दूसरे शब्दों में कही बात, पर्यायवाची, स्वाभाविक सवाल
किसमें कमज़ोर एक ही विचार के लिए अलग शब्द ठीक पहचान, बहुत नए शब्द
रफ़्तार बहुत तेज़ Approximate nearest neighbour indexes के साथ तेज़

Hybrid retrieval

क्योंकि हर तरीक़ा वह छोड़ देता है जो दूसरा पकड़ता है, चलते हुए systems आम तौर पर दोनों चलाते हैं और नतीजों की सूचियां मिला देते हैं। मिलाने का एक आम तरीक़ा है reciprocal rank fusion, जिसका वर्णन Cormack तथा उनके साथियों ने 2009 में किया, और जो rankings को कच्चे अंकों की जगह जगह के हिसाब से जोड़ता है।

Re-ranking

पहले चरण का retrieval किसी सवाल की तुलना पहले से बनाए हिस्सों के embeddings से करता है, इसलिए वह सवाल और हिस्सा साथ कभी नहीं पढ़ता। Re-ranker पढ़ता है। कोई cross-encoder सवाल और एक हिस्सा एक ही input के रूप में लेता है और एक relevance अंक निकालता है। Nogueira और Cho ने 2019 में दिखाया कि BERT पर बना cross-encoder Microsoft के MS MARCO benchmark पर passage ranking को बहुत सुधार देता है, और तब से यह तरीक़ा मानक रहा है।

Cross-encoders पूरे index पर चलाने के लिए बहुत धीमे हैं, इसलिए वे पहले चरण के सिर्फ़ ऊपर के उम्मीदवार देखते हैं, अक्सर कुछ दर्जन से कुछ सौ तक। कुछ systems एक बीच का विकल्प उपयोग करते हैं, late-interaction models जैसे ColBERT (Khattab और Zaharia, 2020), जो सवाल और हिस्से की तुलना शब्द दर शब्द कम लागत पर करते हैं।

हर चरण किसे इनाम देता है

  • Sparse retrieval वे ठीक शब्द उपयोग करने को इनाम देता है जो लोग खोजते हैं, ख़ास तौर पर नाम और तकनीकी शब्द।
  • Dense retrieval उन हिस्सों को इनाम देता है जो सवाल के पीछे की संकल्पना को साफ़ ढकते हैं।
  • Re-ranking उन हिस्सों को इनाम देता है जो उस ख़ास सवाल का सीधा, जल्दी और पूरा जवाब देते हैं।

वह हिस्सा जो विषय पर है पर अपनी बात तक धीरे पहुँचता है, पहला चरण पार कर सकता है और re-ranking में किसी दूसरी साइट के छोटे, ज़्यादा सीधे हिस्से से हार सकता है।

व्यावहारिक क़दम

  1. उत्पादों, मानकों और tools के ठीक वही नाम उपयोग करें जैसे लोग लिखते हैं।
  2. संकल्पनाएं सीधी भाषा में समझाएं, उनके लिए लोग जो दूसरे शब्द उपयोग करते हैं उन्हें भी शामिल करके।
  3. सवाल का जवाब प्रासंगिक हिस्से के पहले वाक्य में दें।
  4. हर हिस्सा एक सवाल तक रखें, जिससे वह उस सवाल के लिए ऊँचा अंक पाए, कई सवालों के लिए मध्यम नहीं।

अक्सर पूछे जाने वाले सवाल

क्या Google dense retrieval उपयोग करता है?

Google ने Search में neural models के उपयोग का वर्णन किया है, जिसमें 2019 से BERT और संकल्पनाएं समझने के लिए neural matching शामिल हैं। वह अपनी retrieval pipeline का ब्यौरा नहीं छापता।

क्या मुझे हर चरण के लिए अलग लिखना होगा?

नहीं। वह हिस्सा जो सही शब्द उपयोग करता है, संकल्पना समझाता है और अपनी शुरुआत में सवाल का जवाब देता है, तीनों में अच्छा करता है।

जुड़े हुए पेज