Colab atau Kaggle: memilih GPU gratis saat kuota berubah

Untuk eksperimen GPU yang perlu diulang sepanjang minggu, Kaggle Notebooks lebih mudah direncanakan; untuk tugas yang bertumpu pada berkas di Google Drive dan berbagi notebook, Google Colab lebih praktis. FAQ Google Colab menyatakan bahwa sumber daya gratis tidak dijamin, batas penggunaan dapat berubah, notebook tersimpan di Google Drive, dan runtime gratis dapat berjalan paling lama 12 jam bergantung pada ketersediaan serta pola penggunaan.

Panduan GPU Kaggle mencantumkan kuota yang diatur ulang setiap minggu sebesar 30 jam, atau kadang lebih tinggi menurut permintaan dan sumber daya. Angka yang dinyatakan itu membantu membagi waktu untuk beberapa percobaan. Namun, kuota adalah batas pemakaian, bukan janji bahwa sebuah sesi akan tersedia tepat pada jam yang diinginkan.

Kuota menentukan cara membagi eksperimen

Perbedaan yang paling terasa muncul sebelum pelatihan dimulai. Di Kaggle, pengguna dapat melihat pemakaian GPU dari pengaturan editor notebook, halaman notebook, profil, atau pengelola sesi. Dengan sisa kuota yang terlihat, rangkaian percobaan dapat disusun berdasarkan perkiraan durasi tiap model, sambil menyisakan ruang untuk menjalankan ulang kode yang gagal.

Colab tidak menerbitkan jatah GPU gratis dengan angka tetap. Batas keseluruhan, waktu tunggu saat tidak aktif, usia maksimum mesin virtual, dan jenis GPU yang tersedia dapat berubah. Karena itu, keberhasilan menjalankan pelatihan pada suatu minggu tidak memberikan dasar yang pasti untuk menjadwalkan pelatihan serupa pada minggu berikutnya. Colab tetap masuk akal untuk eksplorasi singkat yang boleh tertunda atau dilanjutkan dalam sesi baru.

Jenis pekerjaan juga menentukan apakah waktu GPU perlu dipakai sama sekali. Kaggle menjelaskan bahwa pustaka seperti pandas dan kebanyakan alur scikit-learn tidak otomatis mendapat manfaat dari GPU, sedangkan pelatihan dengan pustaka yang memakai akselerator dapat memanfaatkannya. Untuk kedua layanan, menyiapkan data dan menemukan kesalahan kode pada CPU lebih dulu menjaga jatah GPU bagi bagian yang benar-benar memerlukan akselerasi. Runtime GPU yang aktif tanpa pekerjaan GPU tetap merupakan penggunaan sumber daya yang perlu diperhitungkan.

Batas sesi dan tempat hasil kerja bertahan

Dokumentasi Kaggle Notebooks menetapkan batas eksekusi 12 jam untuk sesi CPU dan GPU. Dokumentasi itu juga membedakan Quick Save, yang menyimpan keadaan notebook tanpa menjalankannya lagi, dari Save & Run All, yang mengeksekusi seluruh kode dalam sesi baru yang bersih sebelum membuat versi. Versi tersebut dapat memuat kode, sumber data, log, dan berkas keluaran; hasil di direktori /kaggle/working dapat disimpan untuk dipakai sebagai masukan notebook lain.

Batas sesi berbeda dari kuota mingguan. Sebuah pekerjaan tunggal yang memerlukan waktu lebih lama daripada satu sesi tidak selesai hanya karena jatah mingguan masih tersisa. Sebaliknya, beberapa pekerjaan yang masing-masing muat dalam satu sesi tetap dapat menghabiskan kuota bila dijalankan berulang kali. Save & Run All membantu menunjukkan apakah kode dapat berjalan kembali dari awal, tetapi eksekusi ulangnya juga memakai waktu komputasi.

Di Colab, berkas notebook dapat disimpan dan dibagikan melalui Google Drive, tetapi mesin virtual yang menjalankan kode memiliki umur terbatas. Saat mesin itu dihapus, berkas sementara dan pustaka yang dipasang di dalamnya tidak ikut bertahan sebagai bagian dari notebook. Isi notebook yang dibagikan dapat mencakup kode dan keluaran sel, sedangkan keadaan mesin virtualnya tidak ikut dibagikan. Untuk melanjutkan pekerjaan, data serta hasil penting harus disimpan di tempat yang bertahan di luar runtime, dan langkah memasang dependensi perlu tercatat dalam kode.

Kode yang tersimpan belum tentu cukup untuk melanjutkan pelatihan dari titik terakhir. Bila sesi berhenti di tengah proses, bobot model dan keadaan optimizer hanya dapat dipakai kembali jika pekerjaan memang menyimpannya sebagai checkpoint ke penyimpanan yang bertahan. Ini menjadi pertimbangan utama untuk model yang mahal dijalankan ulang: pilih unit percobaan yang muat dalam satu sesi atau siapkan checkpoint sebelum pelatihan panjang dimulai.

Pilihan menurut jenis pekerjaan

Tugas kelas: Colab sesuai ketika pengajar membagikan notebook melalui Google Drive dan latihan terutama memakai CPU. Siswa dapat membuka serta membagikan berkas notebook dengan alur yang sudah dikenal. Jika bahan kelas berupa dataset Kaggle, Kaggle Notebooks memudahkan data itu ditambahkan langsung ke pekerjaan.
Kompetisi Kaggle: Kaggle Notebooks memusatkan dataset kompetisi, kode, versi, dan keluaran dalam lingkungan yang sama. Ini mengurangi pekerjaan memindahkan data antarlayanan. Aturan setiap kompetisi tetap menentukan sumber data tambahan dan cara pengiriman hasil yang diperbolehkan.
Eksperimen sesekali: Colab cocok ketika seseorang ingin membuka notebook dari Drive, mengubah beberapa sel, dan menyimpan hasil latihan. Ketidakpastian akses GPU lebih mudah ditoleransi jika percobaan singkat dapat ditunda atau sebagian pekerjaan dapat dijalankan pada CPU.
Pelatihan dengan banyak variasi: Kaggle memberi dasar yang lebih jelas untuk membagi waktu GPU antara model dasar, perubahan parameter, dan pengulangan. Versi notebook beserta keluarannya membantu membedakan hasil tiap percobaan. Jika satu pelatihan harus berlangsung tanpa putus melewati batas sesi atau selesai pada tenggat yang kaku, kedua layanan gratis tersebut sulit dijadikan satu-satunya sandaran.

Simulasi penggunaan selama satu minggu

Bayangkan contoh perencanaan berikut, bukan hasil pengujian layanan. Seorang mahasiswa menyiapkan data dan memeriksa kode pada CPU, lalu menjadwalkan tiga percobaan GPU masing-masing empat jam: satu model dasar dan dua variasi parameter. Kebutuhan awalnya menjadi 12 jam. Ia kemudian ingin mengulang dua variasi yang menjanjikan, masing-masing enam jam, sehingga seluruh rencana memerlukan 24 jam GPU.

Dalam contoh itu, kuota mingguan Kaggle yang sudah disebutkan menyisakan enam jam untuk kegagalan atau perubahan kode. Tiap percobaan yang direncanakan juga berada di bawah batas satu sesi. Ruang tersisa tersebut cepat mengecil apabila sebuah notebook dijalankan ulang dari awal untuk menyimpan versi, atau sesi GPU tetap aktif setelah pekerjaan selesai. Karena itu, angka kuota paling berguna sebagai anggaran percobaan, bukan perkiraan waktu selesai yang pasti.

Urutan kerja yang sama tidak dapat dipasangkan dengan jatah mingguan Colab yang tetap. Pilihan Colab lebih nyaman bila berkas dan kolaborasi melalui Drive menjadi kebutuhan utama, sementara setiap percobaan dapat menghasilkan keluaran tersendiri sebelum sesi berikutnya dimulai. Bila percobaan harus diulang berkali-kali dalam minggu yang sama, kuota Kaggle yang terlihat membuat keputusan tentang variasi mana yang dijalankan lebih mudah direncanakan. Dalam kedua kasus, hasil yang perlu dipertahankan harus keluar dari keadaan sementara runtime sebelum sesi berakhir.