AI hallucination हे एखाद्या language model ने तयार केलेले असे विधान आहे जे खात्रीशीर वाटते पण चुकीचे किंवा आधार नसलेले असते. Grounding ही अशी पद्धत आहे ज्यात model च्या उत्तराला काढलेल्या स्रोतांशी बांधले जाते, जेणेकरून ते तपासता येईल. Grounding hallucinations कमी करते पण ती काढून टाकत नाही, याचा अर्थ असा की AI assistants एखाद्या कंपनीचे वर्णन चुकीचे करू शकतात, त्याच कंपनीची स्वतःची वेबसाइट cite करत असतानाही.
Models hallucinate का करतात
एखादे language model पुढच्या संभाव्य शब्दांचा अंदाज बांधून text तयार करते. त्याच्या आत ही जाणीव नसते की एखादे विधान खरे आहे की नाही. जेव्हा त्याच्या training data मध्ये किंवा काढलेल्या स्रोतांमध्ये उत्तर नसते, तेव्हाही ते एक ओघवते उत्तर तयार करू शकते जे प्रश्नाच्या आकृतिबंधावर बसेल. सामान्य कारणे आहेत:
- प्रश्न अशा गोष्टीवर आहे ज्यावर model कडे कमी किंवा काहीच माहिती नाही, जसे एखादी छोटी किंवा नवी कंपनी
- दोन सारख्या entities एकत्र केल्या जातात, उदाहरणार्थ सारखी नावे असलेल्या दोन कंपन्या
- एखादा जुना स्रोत काढला जातो, जसे एखादी जुनी directory listing
- Model एखादी रिकामी जागा एका शक्य वाटणाऱ्या तपशिलाने भरते, जसे स्थापनेचे वर्ष किंवा अशी सेवा जी कंपनी देत नाही
Grounding किती चालते?
Grounding शिवायपेक्षा चांगले, पण खात्रीशीर नाही. Stanford च्या 2023 च्या एका अभ्यासाने, “Evaluating Verifiability in Generative Search Engines”, जो Nelson F. Liu, Tianyi Zhang आणि Percy Liang यांनी केला, चार generative search engines ची तपासणी केली. सरासरी तयार केलेल्या वाक्यांपैकी केवळ 51.5% त्यांच्या citations नी पूर्णपणे समर्थित होती, आणि 74.5% citations त्या वाक्याला आधार देत होती ज्याला ती जोडलेली होती. तेव्हापासून ही systems सुधारली आहेत, पण हा निष्कर्ष त्या आकृतिबंधाचे स्पष्टीकरण देतो जो व्यवसाय अजूनही पाहतात: एखाद्या चुकीच्या वाक्याशेजारी एक बरोबर दुवा.
एखाद्या व्यवसायासाठी hallucinations कशी दिसतात
| प्रकार | उदाहरण | संभाव्य स्रोत |
|---|---|---|
| चुकीची सेवा | “कंपनी paid advertising management सुद्धा देते” | एखादे जुने पान, एखादी directory श्रेणी, किंवा सारखे नाव असलेली कंपनी |
| चुकीचे ठिकाण | एखाद्या कार्यालयाचे शहर जे कंपनी वर्षांपूर्वी सोडून गेली | जुनी listings किंवा press releases |
| चुकीची माणसे | एखाद्या जुन्या कर्मचाऱ्याला संस्थापक म्हणणे | जुना LinkedIn data किंवा जुने About पान |
| बनावट तथ्ये | स्थापनेचे वर्ष किंवा ग्राहकाचे नाव जे कुठेच सापडत नाही | जिथे स्रोत नाही, तिथे रिकामी जागा भरणे |
| स्पर्धकाशी घोळ | तुमच्या उत्पादनाचे वर्णन एखाद्या स्पर्धकाच्या सुविधांनी | ती तुलना पाने जी दोन्ही स्पष्ट वेगळे न करता नोंदवतात |
ही कशी शोधावी आणि दुरुस्त करावी
- आपल्या कंपनीबद्दल प्रश्नांचा एक संच लिहा: ती काय करते, कुठे आहे, कोण चालवतो, किंमत काय, कोणासाठी योग्य आहे.
- प्रत्येक मोठ्या assistant ला अनेक वेळा विचारा, कारण उत्तरे प्रत्येक वेळी बदलतात.
- प्रत्येक चुकीचे विधान आणि त्याच्या शेजारी cite केलेले स्रोत नोंदवा.
- प्रत्येक चुकीचा मागोवा घ्या. एखादा स्रोत cite झाला असेल, तर तो तपासा. कोणताही नसेल, तर त्या चुकीच्या तथ्याचा search करून पाहा की ते web वर कुठे येते.
- जे तुमच्या हातात आहे ते दुरुस्त करा: तुमची स्वतःची पाने, profiles आणि listings. जे तुमच्या हातात नाही, त्या तिसऱ्या पक्षाच्या साइटना अद्ययावत करण्यास सांगा.
- बरोबर तथ्ये शोधणे सोपे करा: एक स्पष्ट About पान, एकसारखी profiles, Organization आणि Person schema.
- ChatGPT, Gemini आणि Google च्या AI Overviews मधल्या feedback buttons नी विशिष्ट चुकीच्या उत्तरांची नोंद करा.
- संबंधित crawlers ना दुरुस्त केलेली पाने पुन्हा पाहण्याचा वेळ मिळाल्यानंतर पुन्हा तपासा.
ज्या चुका एखाद्या model च्या training data मधून येतात, live retrieval मधून नाही, त्या तेव्हाच बदलतात जेव्हा model पुन्हा train होते. Web वरचे बरोबर स्रोत हाच त्यावर परिणाम करण्याचा एकमेव मार्ग आहे.
तुम्ही स्वतःचा AI assistant चालवत असाल तर
जे व्यवसाय आपल्याच साइटवर chatbot ठेवतात, त्याच्या उत्तरांचा धोका त्यांचा असतो. 2024 च्या एका प्रकरणात, एका कॅनेडियन tribunal ने Air Canada ला त्या चुकीच्या refund माहितीसाठी जबाबदार ठरवले जी तिच्या वेबसाइटच्या chatbot ने एका ग्राहकाला दिली. तुमच्या स्वतःच्या साइटच्या chatbot ने केवळ तुमच्या मंजूर कागदपत्रांतून उत्तर द्यावे, प्रत्येक उत्तराचा स्रोत दाखवावा, आणि माहीत नसेल तेव्हा तसे सांगावे.
वारंवार विचारले जाणारे प्रश्न
AI assistants ना माझ्या कंपनीबद्दल चुकीचे सांगण्यापासून मी थांबवू शकतो का?
पूर्णपणे नाही. ज्या स्रोतांवर ते विसंबतात ते दुरुस्त करून आणि तथ्ये एकसारखी ठेवून तुम्ही चुका कमी करू शकता, आणि चुकीच्या उत्तरांची नोंद करू शकता. AI कंपन्यांच्या बाहेर कोणीही त्या output वर नियंत्रण ठेवत नाही.
Cite होण्याचा अर्थ असा आहे का की उत्तर बरोबर आहे?
नाही. Citation दाखवते की system ने कोणता स्रोत वापरला. ते वाक्य त्या स्रोताशी जुळते का, हे cite केलेले पान वाचून तपासावे लागते.