Long Short-Term Memory (LSTM) merupakan model varian dari Recurrent Neural Network (RNN). LSTM muncul karena dapat mengingat informasi jangka panjang (long term dependency) LSTM menggantikan simpul hidden layer di RNN dengan sel LSTM yang yang berfungsi untuk menyimpan informasi sebelumnya.
Sebelumnya sudah saya bahas mengenai pembuatan model word embedding menggunakan Word2Vec dan GloVec. Kali ini saya akan melakukan training menggunakan data yang sama seperti pada data yang dipakai sebelumnya yaitu korpus Wikipedia Bahasa Indonesia.
FastText merupakan open source library, ringan dan gratis untuk mempelajari representasi kata dan pengklasifikasi kata. FastText dapat berjalan pada perangkat keras pada umumnya.
Salah satu teknik pembuatan pre-trained word embedding adalah dengan menggunakan GloVe. Sebelumnya juga sudah saya jelaskan bagaimana prinsip kerja GloVe. Ekperimen pembuatan GloVe kali ini juga dengan memanfaatkan data korpus Wikipedia Bahasa Indonesia.
GloVe termasuk metode unsupervised learning saat melakukan proses pembelajaran representasi kata dari kemunculan kata dalam corpus yang diberikan. Unsupervised learning merupakan metode yang tidak menggunakan data latih sehingga data berasal dari data yang ada dengan mengklasifikasikan menjadi beberapa bagian.
Model deep learning tidak dapat langsung melakukan pemrosesan data dalam bentuk teks. Oleh karena itu data perlu diolah ke dalam bentuk integer (berupa matriks ataupun vektor), proses ini bisa disebut word embedding.
