Hai e-nya seperti ini Pak memang dia bekerjanya di CL ya atau di terminal seperti halnya cat btc Cuman ini dia bekerja di CL ini Anda pakai enggak ada internetnya jalan guna ini dia tampilannya mirip seperti chat GPT apa ya teman-teman bisa lihat ramnya jalan hampir 2gb uh tipunya teman-teman bisa lihat full Pak Iya rata kanan kita itu agak-agak dolim ini tuh stb itu STB fungsinya nonton TV Kita fungsikan sebagai AI Assalamualaikum warahmatullahi wabarakatuh Jumpa lagi bersama saya Nanang Amerika Di video kali ini kita akan menginstal AI Yang sedang booming sekali dibicarakan dimana-mana Namanya adalah Deepseek ya teman-teman Saya terinspirasi dari bapak ini AI-nya offline bisa kita running Tanpa harus kita membutuhkan internet Dan ini katanya Powerful nanti kita coba Bedanya di video ini Mas Dea, ini dia membuild di dalam VPSnya dia yang powerful. Nah, karena kita orang networking yang suka oprek, kali ini saya akan sangat kebangetan, yaitu kita akan deploy AI-nya di dalam S. STB Aduh mencerah Dalam STB kita STB HG680P Supaya teman-teman yang hobi networking yang lain juga bisa mencoba si AI ini Dan nanti juga bisa running AI dan lain macam sebagainya lah Nah apa sih yang mau kita build? Yang mau kita build ini Ini saya sudah sertakan mukodimahnya ya teman-teman Jadi kita mau membuild atau menginstal sebuah artificial intelligence secara offline Ini untuk memperkaya proyek internet offline kita pak rencananya akan seperti itu jadi ada jenis AI atau sub AI yang namanya LLM atau Large Language Model dia adalah AI yang dilatih untuk bisa berinteraksi dengan bahasa manusia kalau teman-teman tau chat GPT lah itu adalah pengembangan expert dari LLM ini untuk menjalankan proyek ini ada 2 komponen penting yang perlu kita install, yang pertama adalah olama, olama ini teman-teman bisa klik, nah ini nanti akan di direct disini, nanti bahannya saya akan kasih di deskripsi di bawah ya, di notion saya free gratis, kemudian setelah itu nanti kita juga butuh model yang bisa kita pilih deep seek ini adalah modelingnya ya pak ya, kalau misalkan kita buka olama ini model, nah ini ada deep seek ada banyak, yang biasanya digunakan ada lama 3.2, lama 3.3 dan lain macam sebagainya, nanti kita bahas nah ini tidak hanya bisa berjalan di STB saja, kalau misalkan teman-teman pakai raspberry pi, kemudian prox smog dan macam sebagainya pokoknya PC server Ubuntu Linux itu bisa ya karena STB hg680p ini bisa kita gunakan sebagai Linux jadi saya akan coba di Linux tapi catatannya ini ya jika menggunakan STB Anda pastikan dulu ini bisa menjalankan program Linux atau OpenWrt sudah di root jangan sampai salah beli klik aja di sini nanti anda akan di direct ke link pembeliannya kalau salah beli pusing Pak nanti leren ngeroot dan lain macam sebagainya alat dan bahannya sudah saya siapkan semuanya dan macam sebagainya Nah ini kita akan burning dulu Jadi untuk pertama-tama prosesnya kita akan burning dulu untuk Linuxnya Jadi kita akan instalasi Linuxnya dulu Ini ada langkah-langkah instalasi Saya akan mengambil Linux dari repositorynya OpenHub ya teman-teman Ini di OpenHub dia punya banyak sekali Linux yang bisa kita download Ini Linux untuk si STB HG680P dan B860H ya teman-teman ini Linuxnya kalau misalkan jenengan bingung saya download yang mana begitu kan silahkan langsung saja download dari ini jadi STBHG680P itu masuk dalam kategori arsitektur S905X ya ini silahkan diklik nanti dia akan otomatis langsung mendownload disini saya gunakan armbian 2411 amlogic ya ini untuk B860H dan juga HG680P ini sudah saya download file-nya karena cukup besar 2 atau 3 GB lah kalau tidak salah Nah sekarang kita burning di SD card-nya ini jadi kita harus menyiapkan memori dulu pak micro SD micro SD ini kapasitas yang saya pakai adalah 64GB link pembeliannya nanti juga ada di notion kita, kita masukkan ke card reader dan juga kita masukkan ke PC setelah itu kita tinggal buka balena encher ya untuk memburning firmware nya nanti link balena encher nya juga ada di notion nya kita place from file kita pilih file yang sudah kita download tadi ini ya armbian ini kita open Kemudian ini pilih, saya menggunakan 64GB ya, saya select, kemudian flash, ini kita tunggu sampai prosesnya selesai. Nah ini dia sedang melakukan burning.
Kecepatan burning ini dipengaruhi oleh microSD yang teman-teman pakai, semakin tinggi kelasnya akan semakin cepat ya. Ini yang saya pakai kelas 10, harusnya dia better lah. Oke, ini sudah selesai kita burning ya pak ya, pakai balena etcher.
Nah ini teman-teman sudah flash complete. Sekarang kita tinggal cabut aja SD card-nya Dan ini dia SD card-nya Saya akan tancapkan ke STB Kalau kita tancapkan ke STB Seperti ini, HG680V Ketika kita nyalakan dan tersambung ke LAN Itu nanti dia akan menjadi sistem operasi Linux ya Jadi bukan Android TV lagi Itu dicatat, karena ini STB-nya sudah kita root Nanti beli saja di link deskripsi di bawah untuk topologi pemasangannya seperti ini ya Pak ya jadi saya punya router di rumah seperti ini nanti STB ini saya akan masukkan ke LAN router di rumah saya kemudian ini HP dan juga laptop dan juga komputer ini terkonek ke WiFi nya si router ini jadi dia local area Network atau satu jaringan ya Pak ya kalau saja kita akan tancapkan dan nyalakan Oke ini saya tancapkan LAN nya ke router dan kemudian ini saya nyalakan ya Pak ya Oke setelah tertancap ke router Jadi kita tinggal buka aja teman-teman Disini IP address dari routernya 192.168.1.1 Ini tergantung router di rumah teman-teman ya Ini saya pakai Indihome Kita bisa masuk ke konfigurasi routernya Seperti ini, sudah masuk ya Kita buka di LAN status, kemudian di HCP client list Nanti akan ada yang namanya Ambient ini Ambient, nah ini adalah STB kita yang sudah menjadi Linux Ambient, artinya dia booting dengan Sistem operasi Linux Ambient Nah ini IPnya 1.6 Kita tinggal akses aja IPnya Di putih, ini putihnya juga Link downloadnya sudah saya sediakan di Notion Tinggal di klik aja nanti download kita enter kita pastikan disini kita accept username nya teman teman bisa lihat disini sudah saya catatkan username nya adalah root kemudian password nya 1234 seperti ini, oke, anda akan di bawah dan anda disuruh membuat password root baru ya, ini saya tulis nanang mrk nanang mrk just default system, pilih base first name nanang mrk enter passwordnya nanangmrk, sama juga nanangmrk, enter, enter, tunggu dulu, besarkan pak, set user language pilih y, defaultnya y, add your location saya pilih 1, enter, seperti ini, skip juga boleh, ko, kr, utf, 8 juga boleh, bebas ya pak ya, nah sudah kita akan dibawa seperti ini, ada sistem config ambience, sistem monitor, dan lain macam sebagainya, monitor ini semacam task manager di windows gitu lah, kalau kayaknya, kalau kita ketik htop seperti ini lah nanti kita akan kelihatan task managernya CPU nya jalannya berapa memorinya memakan resource berapa itu kelihatan semua disini untuk keluarnya tekan quit F10 F10 nah dia akan kembali ke sini nah ini lakukan update untuk memastikan internet masuk dengan baiklah disini kita tinggal copy aja kita paste kita update dulu repository nya ini kalau misalkan di Windows itu kayak semacam refresh lah oke ini sudah melakukan update ya Hai tetap kalau kita update itu kita menginstal olamanya. Ini ya, olama.com.
Kita download Linux. Terus ini kita tinggal copy aja. Copy. Seperti ini.
Kalau nggak, di Notion sudah saya siapkan sintaknya. Nah ini. Copy aja. Paste. Enter.
Dia akan menginstal olamanya ke dalam sistem operasi Linux kita yang kita tanam di STP. Ini tergantung dengan kecepatan internet di rumah teman-teman ya. Di sini saya pakai kecepatan internet. Kayaknya 20 MB deh. Kita tunggu.
Dia sedang mendownload Resource Oke ini sudah terinstall ya teman-teman Dan next step adalah Kita akan install modelnya ya teman-teman Teman-teman bisa klik disini Nah ini kan yang mau kita pakai adalah deepseek ya Teman-teman bisa ke model sini Nah ini kan ada banyak model yang bisa kita install Nah yang lagi dibicarakan banyak orang Ini adalah deepseek ini Deepseek R1 ini ini dia powerful pak resource nya 404GB 671B ngeri ngeri ngeri ini ada punya nya meta juga yang dibikin meta lama 32, kalau yang mau lebih powerful Itu lama 3.3. Ini ya teman-teman. Ini 70B, 43GB. Karena kita mau install Deepseek. Jadi kita pakai yang Deepseek R1 ini.
Nah ini teman-teman tinggal sesuaikan aja. Sesuai dengan board yang kita pakai. Karena kita pakai STB.
Jadi saya nggak mau menginstall besar-besar ya pak ya. Saya takut kita install yang paling kecil saja. Ini semakin besar resourcenya semakin kreatif dia lah. Semakin banyak. Semakin banyak yang dia pelajari.
Yo, SD, SMP, SMA, Universitas. Nah, kalau yang 671B ini berarti dia sudah semester 14, Pak. Tapi belum lulus.
Nah, kita coba yang 1.5 aja. 1.5B ya. Wah, ini terputus. Saya harus buka putih lagi ya, teman-teman. Oke, ini saya sudah...
buka lagi kita tinggal install deep seek nya ya yang ini kita klik kalau nggak teman-teman di notion juga sudah ada sintaknya ini ya kita paste dengan mengklik kanan mouse nanti dia akan otomatis terpaste kita tinggal enter seperti ini dia akan melakukan pooling manifest atau mendownload resource dari repository-nya si deepseek-nya ini dia mendownload file 1GB lebih ya ini tergantung kecepatan internet di rumah teman-teman oke ini teman-teman bisa lihat ada tulisannya success dan ini dia sedang loading gitu Kayak putar-putar begitu Kita tinggal tunggu aja Sampai dia bener-bener terinstall dengan sempurna Nah ini sudah terinstall pak Ya ini AI-nya berjalan di CLI pak Di terminal seperti ini Send message Oke ini saya clear dulu Setelah install tadi ya pak ya Pak kita agak bingung soalnya tadi OBS-nya tiba-tiba berhenti pak Untuk menjalankannya Itu kita bisa Masukkan perintah olamaran deepseek ini tadi Kalau dia sudah terinstall Dia akan langsung masuk Ke pengaturan deepseeknya Seperti ini Send a message AI-nya seperti ini pak Memang dia bekerja bekerjanya di CLI atau di terminal kita bisa tanya misalkan apa itu itu docker entar tingwa dia berpikir ya Apa itu docker adalah sebutan nah ini dia memproses jadi kita bisa tanya nanti dia akan menjawab seperti halnya cat bpt cuman ini dia bekerja di CL berlama-lama kemudian kalau misalkan kita mau menghentikan responnya tinggal dikontrol terus ketikkan huruf C nanti akan berhenti Seperti ini ya. Ini ada beberapa sintak yang saya masukkan untuk membantu teman-teman. Kalau misalkan running seperti ini.
Terus kemudian kalau mau bantuan tinggal slash lalu tanda tanya. Slash tanda tanya. Enter.
Nah ini ada helpnya. Kalau misalkan mau keluar berarti ini. Slash by exit ini.
Keluar. Slash exit. Dia akan keluar ke desktop linux kita.
Kalau mau masuk lagi gimana caranya? Nah kalau mau masuk lagi ya teman-teman tinggal olama run dipstik. enter nanti dia akan masuk kembali nah gimana caranya supaya dia bisa di web UI supaya seperti chat dpt itu kita harus perlu bantuan yang namanya open web UI ini dia open web UI ini teman-teman bisa klik nanti kita akan dibawa ke halaman open web UI ini disini sudah saya siapkan sintaknya semuanya open web UI ini dia berjalan di atas docker ya dan ini komennya terlebih lebih dahulu untuk bisa mengeksekusi command ini ingat kita harus menginstal docker terlebih dahulu, nah ini disini sudah saya siapkan sintaknya semuanya kita tinggal copy, ini saya bayi dulu, enter kita paste enter, oke dan dia akan mengupdate repository dan juga memaksukan repository untuk kita bisa menginstal dockernya kita tinggal tunggu aja setelah sudah root ambient lagi seperti ini kita tinggal masukkan sintak yang dibawahnya ini, untuk menginstal docker ...
dan beberapa paket untuk menjalankan docker nya kita tinggal paste enter ini tergantung dengan kesempatan internet di tempat teman-teman nah sudah setelah sudah terinstall kita tinggal download atau melakukan pull ke open web UI nya ya pak ya sintaknya yang ini if ulama is on your computer karena ini berada di dalam komputer kita di std kita jadi kita menjalankan sintak yang ini kita copy kalau enggak sama kayak yang disini tinggal copy aja nah Kita paste enter. Dia akan melakukan pull atau mendownload dari repository-nya si OpenWebUI ini. Nah ini dia melakukan downloading, downloading, downloading. Ini tergantung kecepatan internet di tempat jaringan semuanya. Oke teman-teman jadi ini pull-nya sudah komplit ya.
Sudah terinstall dengan sempurna. Kalau misalkan teman-teman mau cek apakah dokernya berjalan, disini sudah saya siapkan sintaknya di doker ps ini. Kita copy ps, copy, paste, enter. Nah, ini ada terminal doker yang berjalan.
Namanya ada, saya clear dulu supaya nggak bingung ya. Clear, enter. doker ps, enter.
Nah, ini ada doker yang sudah berjalan namanya open web UI. Seperti yang sudah kita install tadi, sintak yang ini. Untuk membuka...
buka Open web UI nya gimana caranya caranya adalah kita bisa buka IP Linux nya portnya 3000 kita tinggal buka di sini ya di tab baru 19 IP nya berapa tulis IP A seperti ini enter IP nya lupa aku nah ini 1.6 ya kita selection saja seperti ini paste kemudian kasih port atau titik 23000 Seperti ini. Enter. Nah, Anda akan otomatis dibawa ke page namanya Open Web UI. Ini dia pagenya.
Tinggal get started. Seperti ini. Kemudian kita bikin account. Misalkan nanangmrk. Email-nya nanangmrk at email.com.
Karena ini offline ya. Ini Anda pakai nggak ada internetnya jalan. Jadi kita email asal-asalan nggak masalah.
Password-nya nanangmrk. Enter. You're now login.
Nah ini sudah login. Oke let's go. Nah ini dia tampilannya.
Mirip seperti. chat gpt ya pak ya nah disini kalau misalkan kita tanya misal apa itu docker dia tidak akan merespon ya model not select karena kita tidak memilih modelnya sedangkan kalau kita klik di sini tidak ada model yang terinstall padahal kita sudah install deep seek ya Pak ya caranya gimana supaya modelnya terbaca di sini itu sudah saya sertakan di notion mana tadi ya ini saya dapat dari dokumentasinya di troubleshooting nya kita harus konfigur untuk supaya dia membaca hostnya di 00.00 jadi dia terbaca semua begitu caranya ini sintaknya sudah saya siapkan temen-temen bisa ke sudo nano etc systemd ini copy aja paste di sini enter nah ini nanti di tab ini hanya bisa digerakkan dengan kursor ya atau arrow yang ada di keyboard kita tinggal copy environmentnya ya pak ya ini copy saja copy di bagian sini kita paste kemudian enter seperti ini lalu save dengan cara kontrol X save modified buffer ini ye enter seperti Seperti ini. Setelah itu kita tinggal reload programnya. Ini sintaknya sudah saya siapkan.
Sistem CTL. Diamond reload. Kemudian kita reload olamanya.
Kita reload. Bentar. Nah ini olamanya akan merestart.
Kita coba lihat. Kita refresh dulu pagenya. Set.
Nah. Dipsik R1-15B. Ini juga ada arena model dan yang macam sebagainya. Nanti kalau misalkan kita install lama.
Juga disini nanti akan otomatis terbaca. Kita coba tanya. Apa itu docker? Kami.
misalkan jokot enter apakah dia merespon iya ini sembari kita coba buka htop nya ya atau task manager nya htop seperti ini masih berjalan normal untuk stb nya kita lihat lama ya dia berlama lama kemudian hmm Teman-teman bisa lihat RAM-nya jalan hampir 2GB ya. Uh! CPU-nya teman-teman bisa lihat full pak. Iya rata kanan. CPU-nya STB-nya rata kanan.
Di Jawa Bahasa Cina. Di Jawa Bahasa Cina. Gimana ini? TPU-nya rata kanan, Rai. Coba, Ctrl-C.
What? Ctrl-C. Kita stop aja dulu ya.
Di sini. Stop. What is a docker?
Gini nggak sih? Enter. Kita tunggu dia merespon.
Responnya dia akan merespon pertanyaan di atas, pasti. Uh, langsung rata kanan semuanya. Aku belum coba di Raspi sih. Apakah di Raspi berjalan cukup bagus?
ini kalau di STB cukup lumayan berat ya responnya lama teman-teman bisa lihat ini full kanan Pak quadcore 1234 ini semuanya berjalan 90% lebih RAM nya full dan swap RAM juga habis dan dia thinking thinking nya lama sekali Hai Sudah bekerja, sudah bekerja, ayo bekerja Bekerja juga Ya gimana lagi pak, memang kita itu agak-agak dolim Ini tuh STB tuh STB fungsinya nonton TV, kita fungsikan sebagai AI TV Oh sorry ternyata kita pakai arena model kita pakai deep seek dong apa itu docker enter dong kita coba lihat responnya full rata kanan coy nggak kuat ini sepertinya lama sekali dia merespon pak Thinking terus Oh ini dia sudah berjalan Dia menjawab pertanyaan saya dengan bahasa Inggris ya Untuk STB nya cukup panas Dan ini dia responnya Nanti kita bisa coba-coba lah ya Kita coba install yang jauh lebih besar tapi bukan di STB lah mungkin di 14B atau di 32B kalau di 1.5B ini dia masih agak ngelindur sih atau mungkin teman-teman bisa install lamanya juga Untuk membuat variasi. Mencari jawaban yang lebih tepat. Lebih oke. Ini juga sudah saya sertakan.
Untuk menginstal lama 3.2 nya ya pak ya. Tinggal di install aja. Saya kira itu teman-teman. Kalau misalkan ada yang mau ditanyakan. Silahkan tanya di kolom komentar di bawah.
Nanti kita coba eksperimen apa lagi. Dengan STB. Ini saya hanya sharing pengalaman saja.
Untuk coba-coba. Kalau misalkan teman-teman mau mencoba. Per AI-AIan.
Nah teman-teman adanya STB. Kita bisa manfaatkan Tetapi performanya ya seperti yang anda lihat ini Ya teman-teman Bisa merespon, bisa berjalan Tapi lumayan ngelindur Dan resourcenya cukup berat Saya kira itu, kalau ada tutur kata yang salah Saya mohon maaf, jangan lupa like, subscribe Kalau misalkan jendelan mau membantu saya Untuk eksperimen-eksperimen yang lain Silahkan berikan super thanks Yang ada di Saya Nanang MRK Wassalamualaikum Wr Wb