Em processamento de linguagem natural, o modelo Skip-Gram é uma técnica popular para treinar word embeddings.
O treinamento do modelo Skip-Gram destaca-se de outras técnicas, como o Continuous Bag of Words (CBOW), por ter a seguinte característica:
A
utilizar contextos adjacentes para prever uma palavra-alvo.
B
focar em prever palavras de contexto a partir de uma palavra-alvo.
C
treinar cada palavra em uma janela de contexto separadamente.
D
gerar embeddings, baseados em dependências sintáticas.
E
empregar uma abordagem de bag-of-words para a geração de embeddings.