Attention Is All You Need on “Papers que releio de madrugada”, a list by Ricardo Menezes on TheLysts.
Details
Photo
—
Name
—
Título
Attention Is All You Need
Autores
Vaswani et al.
Ano
2017
Área
Machine Learning / NLP
Onde ler
arXiv
Nível de dificuldade
Alto
Comentário
Base de todo transformer que hoje faz seu chatbot parecer inteligente. Li três vezes e só na terceira entendi o negócio de attention head, tipo zagueiro decidindo quem marca no ataque adversário.
TheLysts