Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
DISAHKANKeyakinan tarikh: DISAHKANDinyatakan sebagai tetapSejauh mana sumber menyatakan tarikh itu: disahkan, dijadualkan, dianggarkan, ditangguhkan atau belum disahkan.Tunjuk semua pin DISAHKAN88% KEYAKINANKeyakinan keseluruhan: 88%Sejauh mana sumber dan rujukan pin menyokong tarikhnya.Purata berpemberat bagi sejauh mana 3 rujukan, termasuk sumber, menyokong masa mula dan tamat pin; sesebuah rujukan diambil kira separuh kurang bagi setiap 180 hari lebih lama daripada yang terbaharuTunjuk semua pin pada keyakinan 75% atau lebih baikMetadata arXiv[1] sendiri untuk 1706.03762 memberikan citation_date 2017/06/12, dan artikel Wikipedia[2][3] mengenai kertas itu menyatakan perkara yang sama: "Pada 2017-06-12, model transformer pengekod-penyahkod asal (100M parameter) diterbitkan dalam kertas 'Attention is all you need'."
Lapan penyelidik di Google menyiarkan kertas yang menggantikan rekurensi dan konvolusi dengan perhatian-kendiri sahaja. Seni bina transformer yang diperkenalkannya menjadi asas hampir setiap model bahasa besar yang menyusul.
1.00