Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
Metadata arXiv[1] sendiri untuk 1706.03762 memberikan citation_date 2017/06/12, dan artikel Wikipedia[2][3] mengenai kertas itu menyatakan perkara yang sama: "Pada 2017-06-12, model transformer pengekod-penyahkod asal (100M parameter) diterbitkan dalam kertas 'Attention is all you need'."
Lapan penyelidik di Google menyiarkan kertas yang menggantikan rekurensi dan konvolusi dengan perhatian-kendiri sahaja. Seni bina transformer yang diperkenalkannya menjadi asas hampir setiap model bahasa besar yang menyusul.