Attention Is All You Need, image 1 of 11 / 1
Item

Attention Is All You Need

in מאמרים שפתחו לי עיניים by נועם ברק

Like this itemFollow נועם ברקOpen in app

Attention Is All You Need on “מאמרים שפתחו לי עיניים”, a list by נועם ברק on TheLysts.

Details

Photo
—
Name
—
Authors
Vaswani et al.
Year
2017
Field
למידת מכונה
One-line idea
ארכיטקטורת Transformer שמבוססת כולה על מנגנון Attention ללא קונבולוציות או RNN.
למה זה תפס אותי
זה המאמר הראשון שקראתי שעשה לי תחושה של "רגע, שינו את כללי המשחק". קצת כמו לראות קבוצה עוברת ממגן חמש לקישור יהלום ופתאום הכול זורם.

Related items

The International Study of Infarct Survival (ISIS-2) Collaborative Group. Randomized trial of intravenous streptokinase, oral aspirin, both, or neither among 17 187 cases of suspected acute myocardial infarctionDiretriz da AHA sobre Ressuscitação Cardiopulmonar (RCP)Rastreamento que vale a penaDiretriz da Sociedade Brasileira de Diabetes