Gambaran umum
Hubungkan LLM lewat Vercel AI SDK dan AI Gateway dengan @repo/ai.
TurboJet adalah titik awal yang kuat untuk membangun SaaS berbasis AI. Kit ini mengintegrasikan Vercel AI SDK dan merutekan pemanggilan model lewat Vercel AI Gateway, sehingga Anda bisa memakai OpenAI, Anthropic, dan provider lain dengan satu API key.
Helper bersama ada di @repo/ai. App marketing menyajikan endpoint chat streaming terautentikasi di POST /api/ai/chat.
Mengatur model
Model chat default didefinisikan di packages/ai/src/models.ts:
import { gateway } from "ai";
/** Default chat model via Vercel AI Gateway. */
export const DEFAULT_CHAT_MODEL = "openai/gpt-4o-mini";
export function getChatModel(modelId: string = DEFAULT_CHAT_MODEL) {
return gateway(modelId);
}Untuk mengubah model default, perbarui DEFAULT_CHAT_MODEL ke ID model gateway lain. Contoh Anthropic:
export const DEFAULT_CHAT_MODEL = "anthropic/claude-sonnet-4";Atau kirim model ID saat memanggil helper:
import { getChatModel } from "@repo/ai";
import { streamText } from "ai";
const response = streamText({
model: getChatModel("anthropic/claude-sonnet-4"),
messages: [{ role: "user", content: "What is the capital of France?" }],
});Untuk stream pesan UI (kompatibel dengan useChat), gunakan createChatUIMessageResponse dari @repo/ai:
import { createChatUIMessageResponse } from "@repo/ai";
return createChatUIMessageResponse({
messages,
modelId: "openai/gpt-4o-mini", // opsional; default ke DEFAULT_CHAT_MODEL
});Environment
Setel AI_GATEWAY_API_KEY di .env root. Tanpa key ini, POST /api/ai/chat mengembalikan 503. Lihat Environment.
OPENAI_API_KEY dicadangkan untuk penggunaan OpenAI langsung jika Anda menambahkannya nanti; stack saat ini hanya memakai gateway.