ABSTRAK
ABSTRAK
Nama : Adnan Ardhian Program Studi : Magister Ilmu Komputer Judul : Eksponensial Linear Unit pada Differentiable Neural Computer untuk Operasi Aritmetika pada Sekuens Citra Angka
Neural Network dapat melakukan berbagai macam tugas dengan baik setelah proses belajar, namun masih memiliki keterbatasan dalam hal mengingat, hal ini disebabkan karena memori yang sangat sedikit. Differentiable Neural Computer atau DNC telah terbukti dapat menyelesaikan masalah tersebut, dengan menghubungkan Neural Network dengan memori eksternal yang berfungsi seperti tape pada Turing Machine yang dapat diakses. DNC telah dapat menyelesaikan berbagai permasalahan sederhana yang membutuhkan ingatan, seperti copy, graf, dan tanya jawab. DNC akan mempelajari algoritma untuk menyelesaikan tugas tersebut berdasarkan input dan output. Pada penelitian ini akan dikembangkan DNC dengan MLP atau Multi-Layer Perceptron sebagai controller dan Exponential Linear Unit atau ELU sebagai fungsi aktivasi untuk memori addressing.Tugas yang diuji adalah copy dan klasifikasi sekuens dari MNIST handwritten digit. Hasil dari penelitian ini, ELU tidak memberikan pengaruh yang signifikan, sedangkan MLP yang ditambahkan memori eksternal jauh lebih baik dibandingkan tanpa memori eksternal untuk memproses data sekuens, sementara DNC sebagai system yang fully Differentiable dapat mempelajari algoritma yang memerlukan pengetahuan tersirat dan tersurat sekaligus.
Kata Kunci: Neural Network, Differentiable Neural Computer, Exponential Linear Unit, Sekuens, Klasifikasi.
|