Library Automation and Digital Archive
LONTAR
Fakultas Ilmu Komputer
Universitas Indonesia

Pencarian Sederhana

Find Similar Add to Favorite

Call Number T-1422 (softcopy T-1131) MAK PI-222 TR-CSUI- 94
Collection Type Tesis
Title Intermediate-Task Transfer Learning untuk Tugas Natural Language Processing Bahasa Indonesia
Author Adrianus Saga Ekakristi;
Publisher Depok: Fasilkom UI, 2025
Subject Natural language processing
Location FASILKOM-UI;
Lokasi : Perpustakaan Fakultas Ilmu Komputer
Nomor Panggil ID Koleksi Status
T-1422 (softcopy T-1131) MAK PI-222 TR-CSUI- 94 TERSEDIA
Tidak ada review pada koleksi ini: 56003
ABSTRAK

Nama : Adrianus Saga Ekakristi Program Studi : Ilmu Komputer Judul : Intermediate-Task Transfer Learning untuk Tugas Natural Language Processing Bahasa Indonesia Pembimbing : Alfan Farizki Wicaksono, S.T., M.Sc., Ph.D. Rahmad Mahendra, S.Kom., M.Sc. Transfer learning dengan unsupervised pre-training yang kemudian diikuti dengan supervised fine-tuning merupakan metode training yang umum diterapkan pada penelitian bidang natural nanguage processing (NLP) dan mampu mencapai performa state-ofthe- art. Dalam penelitian terkini, dengan memperkenalkan tahap intermediate training sebelum fine-tuning mampu meningkatkan performa model lebih jauh lagi. Metode ini disebut dengan intermediate-task transfer learning (ITTL). Pemilihan intermediate task yang tepat untuk memaksimalkan performa ITTL masih menjadi tantangan. Di sisi lain, meskipun penelitian ekstensif telah dilakukan untuk ITTL dalam bahasa Inggris, evaluasi serupa untuk bahasa Indonesia masih terbilang minim. Penelitian ini mengkaji ITTL untuk bahasa Indonesia beserta analisis terhadap berbagai faktor yang dapat memaksimalkan performa. Selain itu, dilakukan juga investigasi lebih lanjut apakah melakukan intermediate training lebih dari satu kali dengan beberapa intermediate task berbeda mampu meningkatkan efektifitas model untuk target task. Metode ini disebut sebagai sequential intermediate-tasks transfer learning (SITTL). Evaluasi dilakukan melalui eksperimen dengan kombinasi 9 dataset berbahasa Indonesia dalam berbagai tipe task. Hasil eksperimen menunjukkan bahwa ITTL dapat meningkatkan performa metrik F1-score dalam sebagian besar target task. Faktor penting dalam menentukan intermediate task yang efektif adalah kesamaan tipe task, kompleksitas task, vocabulary, serta ukuran data. SITTL dengan intermediate tasks berjumlah kecil lebih efektif dalam sebagian besar hasil dan konsistensi performa dapat menjadi nilai lebih SITTL, meskipun memiliki performa lebih rendah dari ITTL. Penelitian ini menunjukkan bahwa paradigma ITTL potensial untuk dikembangkan dalam bidang NLP bahasa Indonesia