Amazon Bedrock

Dịch vụ Serverless để xây dựng ứng dụng Generative AI (GenAI).

1. Foundation Models (FMs)

Bedrock cung cấp quyền truy cập API vào các mô hình ngôn ngữ lớn (LLM) hàng đầu:

• Amazon Titan: Đa dụng, text generation, embedding.
• Anthropic Claude: Thông minh, context window lớn, an toàn.
• Meta Llama 2/3: Open source models.
• Cohere: Chuyên về Enterprise search và command.
• Stability AI: Tạo ảnh (Stable Diffusion).

2. Key Features

• Serverless: Không cần quản lý server GPU. Chỉ trả tiền theo token (input/output).
• Privacy: Dữ liệu của bạn KHÔNG được dùng để train lại model public. Dữ liệu nằm trong VPC của bạn.
• Knowledge Bases: Kết nối LLM với dữ liệu riêng của bạn (RAG - Retrieval Augmented Generation) để trả lời câu hỏi chính xác theo ngữ cảnh doanh nghiệp.
• Agents: Cho phép LLM thực hiện hành động (gọi API, query DB) để hoàn thành tác vụ.