// <![CDATA[FINE-TUNING MODEL TRANSFORMER UNTUK PERBAIKAN EJAAN BERBAHASA INDONESIA DENGAN T5]]> 0415068801 - Yusup Miftahuddin, S.Kom., MT Dosen Pembimbing 1 ADRIAN DWI CAHAYO / 152019078 Penulis
Dalam komunikasi tertulis, kesalahan ejaan adalah masalah umum yang sering terjadi baik dalam bahasa Indonesia maupun bahasa lainnya. Kondisi ini sering terjadi baik di lingkungan formal maupun informal. Pada era di mana komunikasi digital semakin dominan, seperti dalam media sosial, email, dan platform kolaborasi, kesalahan ejaan menjadi lebih signifikan. untuk mengatasi masalah ini telah dikembangkan berbagai metode, salah satu pendekatan yang menjanjikan adalah menggunakan metode fine tuning model transformer. T5 ini menjadi inovasi signifikan dalam bidang pemrosesan bahasa alami (Natural Language Processing, NLP) mampu untuk memproses data dan menghasilkan perbaikan ejaan yang lebih baik. Penelitian ini melakukan pengujian terhadap metode tersebut dan menemukan bahwa kualitas perbaikan ejaan dari nilai loss train dan loss eval. Namun hasil ini dipengaruhi oleh faktor-faktor seperti jumlah epoch dan batch size. Meskipun peningkatan nilai ini diharapkan, perlu di ingatkan bahwa nilai yang terlalu tinggi dapat menyebabkan overfitting pada data pelatihan. Dengan demikian fine-tuning model T5 menjanjikan untuk perbaikan ejaan yang lebih effisien. Kata kunci : Fine-Tuning, Transformer, Perbaikan ejaan, T5