Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
1706.03762 के लिए arXiv[1] के अपने मेटाडेटा में citation_date 2017/06/12 दी गई है, और इस पेपर पर विकिपीडिया के लेख में भी यही कहा गया है: "2017-06-12 को मूल (100 मिलियन-पैरामीटर) एन्कोडर-डिकोडर ट्रांसफ़ॉर्मर मॉडल 'Attention is all you need' पेपर में प्रकाशित हुआ था।"
गूगल के आठ शोधकर्ता एक ऐसा पेपर पोस्ट करते हैं जो रिकरेंस और कन्वोल्यूशन की जगह सिर्फ़ सेल्फ़-अटेंशन का इस्तेमाल करता है। इसमें पेश किया गया ट्रांसफ़ॉर्मर आर्किटेक्चर बाद में आने वाले लगभग हर बड़े लैंग्वेज मॉडल का आधार बन जाता है।