UI Kembangkan Aplikasi Penerjemah Gerakan Isyarat ke Teks Indonesia

“Sistem penerjemah yang kami kembangkan mampu mengakomodasi gerakan isyarat dalam SIBI yang mengikuti struktur tata Bahasa Indonesia, seperti penyusunan kata-kata bahasa Indonesia yang memiliki infiks, prefiks, dan sufiks. Masalah pengenalan kata berimbuhan sebagai suatu unit akan memerlukan komputasional yang tinggi, dan membutuhkan basis data yang besar. Hal ini disebabkan karena ada banyak sekali kemungkinan kombinasi imbuhan dan kata dasar, dan adanya kata-kata baru yang terus ditambahkan ke Bahasa Indonesia,” lanjutnya.

Salah satu keunikan dari SIBI adalah adanya isyarat kata berimbuhan yang dibentuk dengan menggabungkan gerakan isyarat imbuhan (awalan, akhiran, partikel) dengan gerakan isyarat kata dasar.

Sistem penerjemah ini juga memiliki kemampuan untuk mengenali komponen-komponen yang membangun suatu isyarat kata berimbuhan. Dengan adanya kemampuan tersebut, sistem yang dibangun oleh Dr. Erdefi ini juga akan mudah beradaptasi terhadap penambahan kata-kata baru di Bahasa Indonesia.

Untuk membangun sistem penerjemah ini, Dr.Erdefi dan tim menggunakan MobileNet untuk mengekstraksi fitur video; model Threshold Conditional Random Fields (T-CRF) untuk mengidentifikasi frame video mana yang mengandung gesture dan frame video mana yang berisi non-gesture (gerakan transisi); dan model LSTM Bidirectional 2-layer untuk melakukan klasifikasi proses perekaman gerakan isyarat.