Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
CONFIRMADOConfiança da data: CONFIRMADOInformado como definitivoQuão firme a fonte é sobre a data: confirmada, agendada, estimada, adiada ou não verificada.Mostrar todos os pins CONFIRMADO88% DE CONFIANÇAConfiança geral: 88%Quanto a fonte e as referências do pin sustentam suas datas.Média ponderada de quanto 3 referências, incluindo a fonte, sustentam os horários de início e fim do pin; uma referência conta metade a cada 180 dias a mais em relação à mais recenteMostrar todos os pins com confiança de 75% ou maisOs metadados do próprio arXiv[1] para 1706.03762 dão citation_date 2017/06/12, e o artigo da Wikipédia sobre o trabalho diz o mesmo: “Em 12/06/2017, o modelo transformer codificador-decodificador original (de 100M de parâmetros) foi publicado no artigo ‘Attention is all you need’.”
Oito pesquisadores do Google postam um artigo que substitui a recorrência e a convolução apenas pela autoatenção. A arquitetura transformer que ele introduz se torna a base de quase todo grande modelo de linguagem que vem depois.
1.00