- शुरुआत
- 12 जून 201790% कॉन्फ़िडेंससोर्स से
गूगल ने "Attention Is All You Need" पेपर प्रकाशित किया
मूल भाषा से अपने आप अनुवादित
मूल शीर्षक: Google Publishes Attention Is All You Need
- "Attention Is All You Need" को 12 जून 2017 को गूगल के आठ वैज्ञानिकों और इंजीनियरों - Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser और Polosukhin - ने arXiv पर पोस्ट किया[1][2]
- इसका सार (एब्स्ट्रैक्ट) यहां से शुरू होता है: "प्रमुख सीक्वेंस ट्रांसडक्शन मॉडल एन्कोडर-डिकोडर कॉन्फ़िगरेशन में जटिल रिकरेंट या कन्वोल्यूशनल न्यूरल नेटवर्क पर आधारित होते हैं।" पेपर का जवाब था सिर्फ़ अटेंशन[1]
- मूल एन्कोडर-डिकोडर ट्रांसफ़ॉर्मर में 100 मिलियन पैरामीटर थे; उस समय का फ़ोकस Seq2seq तकनीकों को बेहतर बनाने पर था, जो 2014 में Bahdanau और अन्य द्वारा प्रस्तावित अटेंशन मैकेनिज़्म पर आधारित थी[2]
- यह आर्किटेक्चर "कई तरह के आर्टिफ़िशियल इंटेलिजेंस सिस्टम की मुख्य संरचना बन चुका है, जिसमें बड़े लैंग्वेज मॉडल भी शामिल हैं"[2]
- प्रकाशन के बाद, आठों लेखकों में से हर एक ने गूगल छोड़कर दूसरी कंपनियों को जॉइन किया या अपना स्टार्टअप शुरू किया[2]
संदर्भ 388% कॉन्फ़िडेंसकुल भरोसा: 88%पिन का स्रोत और संदर्भ उसकी तारीखों की कितनी पुष्टि करते हैं।सोर्स सहित 3 संदर्भ पिन के शुरू और खत्म होने के समय का कितनी मज़बूती से समर्थन करते हैं, इसका भारित औसत; सबसे नए संदर्भ से हर 180 दिन पुराना होने पर किसी संदर्भ की गिनती आधी हो जाती है75% या उससे बेहतर कॉन्फ़िडेंस वाले सभी पिन दिखाएं
पहली एंट्री हमेशा पिन का सोर्स होती है। कुल कॉन्फ़िडेंस एक भारित औसत है कि हर संदर्भ ऊपर इस्तेमाल किए गए शुरू और खत्म होने के समय का कितनी मज़बूती से समर्थन करता है; सबसे नए संदर्भ से हर 180 दिन पुराना होने पर किसी संदर्भ की गिनती आधी हो जाती है।
- [1]90%arxiv.org/abs/1706.03762arxiv.org· 22 सित॰ 2026 को पोस्ट किया गया· शुरुआत 12 जून 2017 ✓· स्कोर का 33%
1706.03762 के लिए arXiv के अपने मेटाडेटा में citation_date 2017/06/12 दी गई है, और इस पेपर पर विकिपीडिया के लेख में भी यही कहा गया है: "2017-06-12 को मूल (100 मिलियन-पैरामीटर) एन्कोडर-डिकोडर ट्रांसफ़ॉर्मर मॉडल 'Attention is all you need' पेपर में प्रकाशित हुआ था।"
- [2]90%Attention Is All You Needen.wikipedia.org· 22 सित॰ 2026 को जोड़ा गया· स्कोर का 33%
Dates the paper to 12 June 2017 and describes what it did: "a 2017 research paper on machine learning authored by eight scientists and engineers working at Google" introducing the transformer, "based on the attention mechanism proposed in 2014 by Bahdanau et al.", which "has become the main architecture of a wide variety of artificial intelligence systems, including large language models". It also records that all eight authors later left Google.[1]
- [3]85%Transformer (deep learning architecture)en.wikipedia.org· 22 सित॰ 2026 को जोड़ा गया· स्कोर का 33%
The architecture itself, for how self-attention replaced recurrence and what was built on it afterwards.[1]
सुधार सुझाएं
कुछ छूट गया या गलत है? अपने शब्दों में बताएं: कोई लिंक जो इस पिन का समर्थन करता हो, कोई अलग शुरुआत या खत्म होने की तारीख और उसकी वजह, या कोई तथ्य जो छूट गया हो या गलत हो। AI इसे इस पिन के सोर्स से मिलाकर जांचता है, बेहतर सोर्स खोजता है, और जो भी पेज आपकी बात का समर्थन करता है उसे जोड़ देता है। पिन के अपने सोर्स की अहमियत फिर भी सबसे ज़्यादा रहती है। AI तस्वीरें भी देखता है: जो तस्वीर कुछ और दिखाती हो या ठीक से न दिखाती हो, उसे नीचे कर दिया जाता है या बदल दिया जाता है।
