Materi Backpropagation Multilayer Perceptron

Aug 19, 2024

Catatan Kuliah: Backpropagation untuk Multilayer Perceptron

Pembukaan

  • Assalamualaikum warahmatullahi wabarakatuh
  • Perkenalan oleh Redwan Ilyas
  • Video ke-... dalam playlist Machine Learning 101

Rekap Video Sebelumnya

  • Penjelasan tentang algoritma feedforward untuk multilayer perceptron
  • Menambahkan bias dalam proses feedforward
  • Diharapkan untuk mengecek video sebelumnya jika baru bergabung

Pendahuluan Backpropagation

  • Fokus pada pengoreksian bobot di setiap layer
  • Error ditemukan di output layer; perlu mendapatkan error di hidden layer
  • Beberapa video akan menjelaskan matematika lebih lanjut

Struktur Multilayer Perceptron

  • 3 input, 2 hidden state, 2 output
  • Proses feedforward:
    • Input dikalikan dengan bobot
    • Ditambahkan bias
    • Masukkan ke fungsi aktivasi
    • Dapatkan output untuk hidden dan output layer

Error dan Pembaruan Bobot

  • Hasil tebakan menghasilkan error:
    • Error = Target - Hasil Tebakan
  • Rumus untuk pembaruan bobot:
    • Bobot baru = Bobot lama + Delta bobot
    • Delta bobot = Learning rate * Error * Input
    • X = input untuk perceptron

Proses Pembaruan Bobot

  • Pembaruan bobot antara hidden dan output:
    • Delta W O = Learning rate * Error * dot product dengan Output yang ditranspose
    • Penjelasan intuitif tentang rumus tersebut

Proses Pembaruan Bobot secara Detail

  • Penjelasan untuk setiap bobot:
    • WO11, WO12, WO21, WO22
    • Menggunakan error untuk mempengaruhi bobot

Penyusunan Matriks

  • Penyusunan hasil bobot dalam bentuk matriks
  • Hasil akhir rumus untuk pembaruan bobot
    • W new = W lama + Matriks delta W

Penjelasan Tambahan

  • Penurunan rumus dari error ke bobot
  • Proses perkalian antara error dan output yang ditranspose

Kesimpulan

  • Menekankan pentingnya pemahaman untuk membangun multilayer perceptron dari awal tanpa menggunakan library
  • Rencana pembelajaran selanjutnya: memperbarui bobot antara input dan hidden layer

Penutupan

  • Menyudahi video dan mengajak diskusi di komentar
  • Pengharapan untuk memahami dari mana rumus itu didapat
  • Terima kasih, sampai jumpa di video selanjutnya.