गूगल ने "Attention Is All You Need" पेपर प्रकाशित किया
Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
पुष्टतारीख़ की निश्चितता: पुष्टपक्के तौर पर बताया गयास्रोत तारीख़ को कितनी पक्की तरह बताता है: पुष्ट, निर्धारित, अनुमानित, स्थगित या अपुष्ट।सभी पुष्ट पिन दिखाएं88% कॉन्फ़िडेंसकुल भरोसा: 88%पिन का स्रोत और संदर्भ उसकी तारीखों की कितनी पुष्टि करते हैं।सोर्स सहित 3 संदर्भ पिन के शुरू और खत्म होने के समय का कितनी मज़बूती से समर्थन करते हैं, इसका भारित औसत; सबसे नए संदर्भ से हर 180 दिन पुराना होने पर किसी संदर्भ की गिनती आधी हो जाती है75% या उससे बेहतर कॉन्फ़िडेंस वाले सभी पिन दिखाएं1706.03762 के लिए arXiv[1] के अपने मेटाडेटा में citation_date 2017/06/12 दी गई है, और इस पेपर पर विकिपीडिया के लेख में भी यही कहा गया है: "2017-06-12 को मूल (100 मिलियन-पैरामीटर) एन्कोडर-डिकोडर ट्रांसफ़ॉर्मर मॉडल 'Attention is all you need' पेपर में प्रकाशित हुआ था।"
गूगल के आठ शोधकर्ता एक ऐसा पेपर पोस्ट करते हैं जो रिकरेंस और कन्वोल्यूशन की जगह सिर्फ़ सेल्फ़-अटेंशन का इस्तेमाल करता है। इसमें पेश किया गया ट्रांसफ़ॉर्मर आर्किटेक्चर बाद में आने वाले लगभग हर बड़े लैंग्वेज मॉडल का आधार बन जाता है।
1.00