Login / Daftar
Mau Jalankan Hermes Agent dengan Model AI Lokal? Laptop RTX 3050 Pun Belum Cukup 1:27
0:00
1:27

Mau Jalankan Hermes Agent dengan Model AI Lokal? Laptop RTX 3050 Pun Belum Cukup

Kristian Ekachandra AI Solutions Builder 15 Batch 6 Kelas AI, Automation, N8N
Hermes Agent butuh AI yang disambungkan sebagai otaknya. Di menu Providers, pilihannya tiga: akun langganan, API key, atau model AI lokal yang berjalan di komputer sendiri. Model lokal terdengar paling hemat, tapi berat di perangkat. Di layar, laptop expert terbaca memakai NVIDIA GeForce RTX 3050 dengan memori GPU 4 GB dan RAM 15,4 GB. Model terkecil di daftar butuh unduhan 16,2 GB dan ditandai terlalu besar untuk mesin itu. Model kelas frontier unduhannya di atas 100 GB. Kalau model lokal tidak memungkinkan, sisanya langganan atau API key. API key dibayar sesuai pemakaian: makin sering dipakai, makin besar tagihannya. Expert sendiri memilih menyambungkan langganan ChatGPT. Expert: Kristian Ekachandra Materi ini bagian dari kelas "Membangun AI Assistant untuk Otomasi Pekerjaan dengan Hermes Agent" di Taalenta. Cek jadwal batch berikutnya, akses rekaman lengkapnya, atau ajukan kelas privat untuk tim/perusahaan: https://taalenta.id/ahm/ #HermesAgent #ModelLokal #AIAgent #ChatGPT #Taalenta

Transkrip otomatis, mungkin ada salah kata.

Jadi di bagian settings provider ini itu ada dua bagian ya. Entah kita mau pakai yang akun yang akun ya atau yang langganan atau kita pakai APIs. Yang lain juga bisa ya. Misalnya kita mau pakai custom juga bisa atau kita pakai local EA models. Jadi ada banyak pilihan EA-nya. Kalau mau 100% di lokal, kita perlu jalanin EOCAL E models ya. Nah, di sini saya enggak bisa ya karena ini kurang semuanya. Torage-nya butuh 100 gig nih. Ini butuh 16 gig dan ini butuh GPU yang win kuat ya, grafik card yang paling kuat. Jadi saya enggak bisa jalan ini semua ya. Nah, saya pakai RTX 3050. Nah, ini kurang ya. Nah, lalu kalau kita enggak bisa pakai local models ya, alternatifnya kita pakai yang langganan atau yang pakai IP kiss. Jadi bedanya yang IPIS itu kita bayar berdasarkan penggunaan. Kalau penggunaan kita banyak ya berarti uang yang perlu kita keluarkan juga banyak. Nah, atau kita pakai langanan CCPT gitu. [musik] Yeah.