Streaming SSE di Hostlinku: Respons Terasa Instan dan Cara Mendeteksi Error di Tengah Stream
Dengan stream: true, kata pertama tampil dalam 1–2 detik. Pelajari format event SSE, penanda [DONE], dan cara membedakan stream yang selesai normal dari yang terputus.
Untuk aplikasi chat, streaming adalah perbaikan UX termurah: total waktu jawabannya sama, tetapi kata pertama tampil begitu model mulai menjawab — biasanya di bawah 1–2 detik.
Coba dengan curl
curl -N https://api.hostlinku.com/v1/chat/completions \
-H "Authorization: Bearer sk-isi-api-key-kamu" \
-H "Content-Type: application/json" \
-d '{"model": "claude-sonnet-4-6", "stream": true,
"messages": [{"role": "user", "content": "Halo!"}]}'Flag -N mematikan buffer agar potongan teks langsung terlihat. Setiap potongan dikirim sebagai baris data: {…}, dan stream yang selesai normal diakhiri data: [DONE].
Error di tengah stream
Kalau kegagalan terjadi setelah stream dimulai, HTTP status sudah terlanjur 200. Karena itu error dikirim sebagai event data di stream yang sama, memakai envelope error yang biasa.
Pantau TTFT
Menu Log Permintaan di console mencatat latensi termasuk time to first token untuk request streaming, sehingga kamu bisa membandingkan responsivitas antar model. Referensi lengkap ada di Chat Completions dan Error.
