17 अगस्त 2026। नई स्टडी में खुलासा: बिना किसी निर्देश या इनाम के भी AI मॉडल बहुमत की पसंद अपनाने लगते हैं, जिससे सहयोग के साथ सुरक्षा जोखिम भी बढ़ सकते हैं
‘साइंस एडवांसेज’ में प्रकाशित एक नई स्टडी में सामने आया है कि AI एजेंट भी इंसानों जैसी ‘हर्ड मेंटैलिटी’ यानी भीड़ की राय का अनुसरण करने जैसा व्यवहार दिखा सकते हैं। रिसर्चर्स ने पाया कि बड़ी संख्या में AI एजेंट बिना किसी स्पष्ट निर्देश, इनाम या पिछली बातचीत की याददाश्त के भी धीरे-धीरे बहुमत की पसंद के साथ तालमेल बिठा सकते हैं।
इस रिसर्च में 1,000 तक AI एजेंटों वाले समूहों का परीक्षण किया गया। अध्ययन में OpenAI, Anthropic और Meta के GPT, Claude और Llama परिवारों के मॉडल शामिल थे।
कैसे किया गया प्रयोग?
हर AI एजेंट को दो ऐसे विकल्पों में से एक विकल्प रैंडम तरीके से दिया गया, जिनमें से कोई भी वस्तुनिष्ठ रूप से सही या गलत नहीं था। इसके बाद एक एजेंट को चुना गया और उसे बताया गया कि उसके समूह के बाकी एजेंटों ने कौन सा विकल्प चुना है।
फिर उसे अपनी पसंद दोबारा तय करने का मौका दिया गया।
खास बात यह थी कि एजेंट को बहुमत का अनुसरण करने के लिए नहीं कहा गया था। आम सहमति बनाने के लिए कोई इनाम भी नहीं दिया गया और एजेंटों के पास पिछली बातचीत की कोई याददाश्त नहीं थी। यह प्रक्रिया तब तक जारी रही, जब तक हर एजेंट को अपनी पसंद बदलने के 10 अवसर नहीं मिल गए।
बड़े AI मॉडल बहुमत की ओर झुके
रिसर्चर्स ने पाया कि अधिक सक्षम LLM अक्सर उस विकल्प को चुनने लगे जो उस समय समूह में ज्यादा लोकप्रिय था। यानी दूसरे एजेंटों की पसंद देखने के बाद वे अपनी राय बदलने की प्रवृत्ति दिखाते हैं।
अलग-अलग आकार के समूहों पर किए गए प्रयोगों में यह भी देखा गया कि AI एजेंट एक निश्चित सीमा तक बड़े समूहों के साथ तालमेल बनाए रख सकते हैं। इस सीमा को रिसर्चर्स ने ‘क्रिटिकल ग्रुप साइज़’ कहा।
कुछ मॉडलों ने काफी बड़े समूहों में भी यह व्यवहार दिखाया। Claude 3.5 Sonnet और GPT-4 Turbo करीब 1,000 एजेंटों तक के समूह में तालमेल बनाए रखने में सक्षम रहे, जबकि GPT-4 में यह क्षमता करीब 600 एजेंटों तक देखी गई।
जर्मनी की यूनिवर्सिटी ऑफ कॉन्स्टैन्ज के कम्प्यूटेशनल सोशल साइंटिस्ट जिओर्डानो डी मार्ज़ो के अनुसार, अलग-अलग AI मॉडल परिवारों में भी यह व्यवहार एक समान गणितीय पैटर्न का पालन करता दिखाई दिया, हालांकि उनकी प्रभावी सीमा अलग-अलग थी।
AI एजेंट ऐसा क्यों करते हैं?
रिसर्चर्स अभी यह निश्चित रूप से नहीं बता सके हैं कि AI मॉडल बहुमत की राय की ओर क्यों झुकते हैं। इसके पीछे ट्रेनिंग डेटा से सीखे गए सामाजिक पैटर्न, सिस्टम प्रॉम्प्ट, रीइन्फोर्समेंट लर्निंग या मॉडल में उभरने वाले दूसरे कंप्यूटेशनल गुण हो सकते हैं।
हालांकि, रिसर्चर्स का कहना है कि इसे सीधे इंसानों जैसी सामाजिक बुद्धिमत्ता नहीं माना जाना चाहिए। प्रयोग काफी सरल था और इसमें सिर्फ दो विकल्प दिए गए थे। वास्तविक दुनिया में इंसानों का सामाजिक व्यवहार इससे कहीं ज्यादा जटिल होता है।
AI की ‘आम सहमति’ फायदेमंद भी, खतरनाक भी
रिसर्चर्स के मुताबिक, AI एजेंटों का यह तालमेल भविष्य के मल्टी-एजेंट AI सिस्टम्स के लिए उपयोगी साबित हो सकता है। बड़ी संख्या में AI एजेंट मिलकर ऐसे कामों को व्यवस्थित कर सकते हैं जिन्हें एक अकेला AI सिस्टम करना मुश्किल समझे।
लेकिन यही क्षमता सुरक्षा के लिए समस्या भी बन सकती है।
अगर AI एजेंट किसी गलत फैसले पर सामूहिक रूप से सहमत हो जाएं, तो गलत जानकारी या खराब रणनीति भी तेजी से पूरे सिस्टम में फैल सकती है। इसी तरह, स्वतंत्र रूप से सोचने वाले एजेंटों की तुलना में किसी सामूहिक AI सिस्टम को गलत दिशा से वापस लाना अधिक मुश्किल हो सकता है।
रिसर्चर्स का मानना है कि भविष्य के सहयोगी AI सिस्टम तैयार करते समय यह समझना जरूरी होगा कि कब AI एजेंटों का आपसी तालमेल उपयोगी है और कब वही तालमेल सामूहिक गलती या सुरक्षा जोखिम में बदल सकता है।
