Modul ini menutup jalur PyTorch dengan tahap setelah pelatihan, yaitu membawa model yang sudah selesai dilatih menuju penggunaan nyata. Tiga topik di dalam modul membahas akselerasi inferensi dengan torch.compile, ekspor model ke format ONNX agar dapat dijalankan di luar ekosistem Python, dan penyajian model sebagai layanan HTTP dengan FastAPI. Seluruh contoh tetap berjalan pada build CPU, dan pola yang sama berlaku ketika model yang lebih besar dipindahkan ke lingkungan production.
Deployment dan Pengerjaan Proyek
Modul penutup: torch.compile, ekspor ONNX, dan layanan inferensi sederhana dengan FastAPI.
0/0 selesai
- torch.compile
Akselerasi melalui torch.compile dan kompatibilitas yang perlu dipahami.
- Pengenalan ekspor ONNX
Memindahkan model keluar dari Python melalui ekspor ONNX.
- Layanan inferensi
Server model sederhana dengan FastAPI untuk melayani inferensi.