Model API: OpenAI, Anthropic, Gemini

Fondasi jalur Engineer: memanggil model lewat API

Chat interface itu ujung gunung es. Yang membedakan engineer AI adalah kemampuan memanggil model lewat API — programatis, terukur, bisa disusun jadi produk.

Anatomi permintaan

Tiga penyedia besar (OpenAI, Anthropic, Google) punya pola sama:

1. Messages — daftar pesan dengan peran (system/user/assistant). System prompt = kepribadian & aturan.
2. Sampling — parameter yang mengatur keacakan: temperature rendah untuk konsistensi, tinggi untuk kreativitas.
3. Token — satuan potongan teks. Input + output dihitung token; biaya = token × harga per token.

Biaya: cara berpikir yang benar

• Harga berbeda antar model — dan antara input/output.
• Strategi penghematan paling ampuh bukan mencari diskon, tapi mengecilkan konteks: kirim hanya teks yang relevan (di sinilah RAG dari course sebelumnya berarti).
• Pasang batas atas (max tokens) di tiap panggilan — menghindari tagihan kejutan.

Lapisan SDK: jangan menikah dengan satu vendor

Menulis kode yang terikat format satu penyedia membuatmu rapuh. Praktik modern: pakai lapisan abstraksi — seperti Vercel AI SDK — yang menyatukan pemanggilan lintas provider di satu antarmuka. Ganti model = ganti satu baris konfigurasi.

Hello-world 5 menit

const res = await ai.generateText({
  model: provider("claude-sonnet"),  // ganti di sini, sisanya sama
  prompt: "Ringkas prinsip RAG dalam 2 kalimat.",
  maxOutputTokens: 200,
});

API mengubah model dari "produk yang kupakai" menjadi "material yang kukerjakan".