Course Outline
1. Introduction: Deploy AI as Backend
Tujuan sesi
Memberikan pemahaman dasar tentang AI Backend Service dan gambaran sistem yang akan dibangun.
Materi utama
- Model selesai training vs model siap digunakan user
- Definisi AI Backend Service dan API inference
- Konsep endpoint, API contract, dan non-functional requirement
- Arsitektur high-level AI backend service
- Target akhir kelas dan deliverable sistem
2. Why We Need to Deploy Our AI Models as Backend Service
Tujuan sesi
Memahami alasan teknis dan bisnis mengapa model AI perlu disajikan sebagai backend service.
Materi utama
- Alasan bisnis dan engineering AI backend
- Centralized inference dan konsistensi versi model
- Audit, logging, dan integrasi multi-aplikasi
- Tantangan produksi: cold start, concurrency, resource, dan security
- Prinsip desain AI service yang production-minded
3. Batch Prediction vs Realtime Prediction
Tujuan sesi
Memahami perbedaan pola inference dan cara memilih pendekatan yang tepat.
Materi utama
- Karakteristik dan use case realtime prediction
- Karakteristik dan use case batch prediction
- Arsitektur umum batch processing
- Matriks keputusan berdasarkan latency, volume, dan biaya
4. Develop AI Model Serving Using FastAPI, Gunicorn, and Docker
Tujuan sesi
Membangun AI model serving yang siap produksi dan terukur.
Materi utama
- Struktur project AI backend yang rapi
- Desain endpoint inference dan health check
- Input validation, error handling, dan observability
- Model loading dan strategi performa
- Deployment pattern dengan Gunicorn
- Docker packaging dan environment configuration
5. Setup CI/CD Using GitHub Actions (Auto Deploy to Server)
Tujuan sesi
Mengotomatisasi proses build, test, dan deploy AI backend service.
Materi utama
- Workflow CI/CD untuk development dan production
- Build dan tagging Docker image
- Auto deploy ke server via GitHub Actions
- Secrets management dan basic security
- Smoke test, health check, dan rollback otomatis