Anatomi Aplikasi AI Modern

Aplikasi AI itu susunannya begini

Sebagian besar aplikasi LLM — dari chatbot sampai copilot — punya bentuk dasar yang sama:

┌─────────────┐   ┌──────────────┐   ┌─────────────┐
│   UI/User   │──▶│  Backend/    │──▶│  LLM API    │
│   Interface │◀──│  Orkestrasi  │◀──│  (external) │
└─────────────┘   └──────┬───────┘   └─────────────┘
                         │
                  ┌──────▼───────┐
                  │  Data/RAG/   │
                  │  Tools       │
                  └──────────────┘

Tanggung jawab tiap lapis

1. UI — menangkap input, menampilkan streaming respons, menangani error dengan anggun.
2. Orkestrasi — menyusun prompt, memanggil model, memformat ulang hasil. Otak sesungguhnya aplikasimu ada di sini, bukan di model.
3. Model — komoditas yang bisa ditukar. Jangan bikin arsitektur yang terikat satu vendor.
4. Data — konteks tambahan (RAG), memori percakapan, atau tools.
5. Observability — logging, tracing, dan metrik. Tanpa ini kamu mengembuta dalam gelap.

Kesalahan pemula nomor satu

Menganggap "tinggal panggil API". Aplikasi yang bagus itu 20% pemanggilan model dan 80% segala hal di sekitarnya: validasi, error state, rate limit, caching, dan UX saat model lambat.