Kaggle Bukan Cuma Buat Lomba: Menjalankan Server Ollama dan 9Router Gratis dari Notebook
Kaggle dikenal sebagai tempat lomba data science, tapi notebook gratisnya juga bisa menjalankan layanan AI: server Ollama untuk model lokal dan 9Router sebagai gerbang API. Ini cara memanfaatkannya dan batasannya.
Kaggle itu apa, singkatnya
Kaggle adalah komunitas machine learning milik Google: kompetisi, dataset publik, dan notebook yang bisa dijalankan langsung dari browser. Akunnya gratis, tanpa kartu kredit. Notebook bisa memakai CPU, GPU (P100 atau 2x T4), atau TPU, dengan kuota mingguan gratis. Angka yang umum dikutip adalah sekitar 30 jam GPU per minggu, tapi angka pastinya tampil di pengaturan akunmu dan tergantung kebijakan yang berlaku. GPU, TPU, dan internet perlu verifikasi telepon, dan internet adalah pengaturan per notebook.
Kebanyakan orang berhenti di pemakaian itu: ikut lomba, latihan model, atau mengolah dataset. Padahal ada pemanfaatan lain yang jarang dibahas: notebook sebagai server.
Ide yang jarang dibahas: notebook sebagai server
Notebook Kaggle biasanya dipakai untuk eksperimen yang selesai lalu berhenti. Tapi notebook juga bisa menjalankan proses yang terus melayani request selama sesi berjalan, dan bisa dijadwalkan jalan ulang otomatis (Save & Run All). Dua pemanfaatan nyata dari pengalaman penulis:
1. Ollama: server model AI lokal
Ollama adalah aplikasi untuk menjalankan model AI langsung di mesin, bukan lewat API provider. Di notebook Kaggle, polanya begini: aktifkan internet, pilih akselerator GPU, instal Ollama, unduh model (misalnya keluarga Qwen), jalankan ollama serve, lalu buka aksesnya lewat tunnel agar bisa dipanggil dari laptop atau aplikasi lain. Hasilnya: endpoint chat dan completion rasa API, tapi modelnya jalan di mesin Kaggle.
Pengukuran penulis: di GPU, respons model kecil sekitar 15 detik saat dingin dan di bawah 4 detik saat hangat, jauh lebih cepat daripada jalur CPU yang bisa 52 detik untuk permintaan yang sama. Catatan praktis: atur save output ke Always untuk notebook Ollama, supaya log dan status bisa diperiksa. Dan karena sesi pasti berakhir, jadwalkan notebook jalan ulang.
2. 9Router: satu gerbang untuk banyak provider AI
9Router adalah router atau proxy API AI: satu endpoint yang meneruskan request ke berbagai provider model. Di Kaggle, pola yang sama berlaku: notebook menjalankan router, lalu tunnel membuka aksesnya. Keuntungannya: ganti model cukup ganti parameter, tanpa mengubah kode aplikasi, dan kunci API provider tidak tersebar di banyak tempat.
Ada catatan praktis yang spesifik untuk router: atur save output ke Never. Database beku yang tersimpan akan dipulihkan pada run berikutnya, dan backup dataset yang lebih baru justru diabaikan selamanya. Rahasia seperti token ditempel di notebook itu sendiri, karena lampiran dari notebook lain tidak ikut terbawa. Dan ingat: URL tunnel berganti tiap sesi, jadi client harus memakai alamat terbaru.
3. Bonus: job terjadwal dan bot kecil
Pola yang sama juga jalan untuk pekerjaan terjadwal: notebook yang jalan otomatis untuk menguji API, mengumpulkan riset, atau menjalankan bot kecil. Kuncinya: letakkan sel timer keep-alive setelah sel notifikasi, karena run terjadwal bisa mati di sel terakhir. Dan jadwal Kaggle menempel pada waktu simpan (tidak ada field jam), jadi atur ekspektasi waktunya.
Batasan yang harus jujur
- Bukan VPS 24 jam: sesi notebook berakhir (umumnya sampai sekitar 12 jam), dan kuota GPU mingguan terbatas. Kalau kuota habis, run tidak mulai dan tidak ada notifikasi yang datang. Pilihan GPU ganda menghabiskan kuota dua kali lipat.
- URL berubah tiap sesi (tunnel), jadi bukan alamat permanen.
- Internet default MATI untuk notebook impor: kalau lupa mengaktifkannya, unduhan dan koneksi tunnel gagal diam-diam.
- Kaggle adalah lab, bukan URL produksi: untuk layanan yang harus selalu hidup dan stabil, sewa mesin sendiri tetap jawabannya.
- Jaga rahasia: token dan kunci API taruh di pengaturan secret notebook, jangan pernah ditulis di sel kode.
Penutup
Kalau kamu cuma kenal Kaggle dari tutorial setup Ollama, itu wajar: memang dari situlah banyak orang mulai. Tapi dengan GPU gratis, internet, dan jadwal otomatis, Kaggle juga bisa jadi tempat menjalankan server Ollama, gerbang 9Router, dan job terjadwal, semuanya tanpa kartu kredit dan tanpa sewa VPS. Mulai dari smoke run singkat dulu sebelum run panjang, supaya jebakan internet, secret, dan save output ketahuan selagi kuota masih murah.
Komentar (0)
Belum ada komentar. Tulis tanggapan pertama di bawah.