غوغل تنشر «الانتباه هو كل ما تحتاجه»
Googleplex, 1600, Amphitheatre Parkway, Mountain View, Santa Clara County, California, 94043, United States
Google
مؤكدالثقة بالتاريخ: مؤكدمذكور على أنه قطعيمدى حزم المصدر في صياغة التاريخ: مؤكد أو مجدول أو تقديري أو متأخر أو غير موثّق.عرض كل الدبابيس: مؤكدثقة 88%الثقة الإجمالية: 88%مدى دعم مصدر الدبوس ومراجعه لتواريخه.متوسط مرجّح لمدى قوة دعم 3 مراجع، بما فيها المصدر، لوقتَي بدء الدبوس وانتهائه؛ ويقل وزن المرجع إلى النصف عن كل 180 يومًا يسبق بها أحدث مرجععرض كل الدبابيس بثقة 75% أو أعلىتعطي بيانات arXiv[1] الوصفية للورقة 1706.03762 قيمة citation_date بتاريخ 2017/06/12، وتقول مقالة ويكيبيديا عن الورقة الشيء نفسه: «في 2017-06-12، نُشر نموذج المحوّل الأصلي ذو المشفّر والمفكّك (100M معامل) في ورقة 'Attention is all you need'.»
ينشر ثمانية باحثين في غوغل ورقة تستبدل التكرار والالتفاف بالانتباه الذاتي وحده. وتصبح بنية المحوّل (Transformer) التي تقدمها أساس كل النماذج اللغوية الكبيرة تقريبًا التي تلتها.
1.00