Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Kuota untuk endpoint batuan dasar runtime
<a name="quotas-runtime"></a>

Titik `bedrock-runtime.{{region}}.amazonaws.com` akhir adalah titik akhir inferensi utama untuk Amazon Bedrock. Lalu lintas inferensi ke titik akhir ini diatur oleh kuota berbasis token per model. Anda dapat melihat kuota ini di konsol [Service Quotas](https://docs.aws.amazon.com/servicequotas/latest/userguide/gs-request-quota.html) dengan memilih **Amazon** Bedrock sebagai layanan, atau di tabel kuota [layanan Amazon Bedrock](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock) di. Referensi Umum AWS

## Jenis kuota
<a name="quotas-runtime-types"></a>

Inferensi pada `bedrock-runtime` titik akhir diatur oleh kuota per model berikut:


**kuota batuan dasar runtime per model**  

| Kuota | Lingkup | Deskripsi | 
| --- | --- | --- | 
| Cross-Region InvokeModel token per menit untuk {{${model}}} | Per model, per Wilayah | Jumlah maksimum token per menit (input \+ output, gabungan) yang dapat digunakan akun Anda untuk model saat dipanggil melalui profil inferensi lintas wilayah. | 
| On-demand InvokeModel token per menit untuk {{${model}}} | Per model, per Wilayah | Jumlah maksimum token per menit (input \+ output, gabungan) yang dapat digunakan akun Anda untuk model saat dipanggil sesuai permintaan di satu Wilayah. | 
| Token maks pemanggilan model per hari untuk {{${model}}} | Per model, per Wilayah | Jumlah maksimum token per hari (input \+ output, gabungan) yang dapat digunakan akun Anda untuk model. Secara default, nilai ini adalah kuota per menit dikalikan dengan 24 × 60. Baru Akun AWS mungkin menerima kuota yang dikurangi. | 
| InvokeModel Permintaan per menit untuk {{${model}}} | Per model, per Wilayah | Jumlah maksimum permintaan inferensi per menit yang dapat dikirimkan akun Anda untuk model tersebut. RPM diberlakukan untuk beberapa model pada bedrock-runtime titik akhir dan bukan yang lain; lihat konsol Service Quotas untuk kuota persis yang berlaku untuk model Anda. | 

Kuota TPM `bedrock-runtime` titik akhir menghitung token input dan output bersama-sama terhadap satu kuota per model. `bedrock-mantle`Titik akhir menerapkan kuota input-tokens-per-menit dan output-tokens-per-menit terpisah; untuk detailnya, lihat. [Kuota untuk titik akhir mantel dasar](quotas-mantle.md)

**catatan**  
Kuota RPM pada `bedrock-runtime` titik akhir adalah model-spesifik. Beberapa model — misalnya, Anthropic Claude Opus 4.7 dan Claude Opus 4.8 — tidak memiliki kuota RPM dan hanya diatur oleh kuota berbasis token yang dijelaskan dalam bagian ini. Untuk model yang memiliki kuota RPM, lihat nilai persisnya di konsol [Service Quotas](https://docs.aws.amazon.com/servicequotas/latest/userguide/gs-request-quota.html).

Token keluaran dikonversi menjadi penggunaan kuota melalui tingkat burndown khusus model. Untuk detail tentang bagaimana kuota berbasis token dihitung dan bagaimana parameter `max_tokens` permintaan memengaruhi deduksi, lihat. [Bagaimana token dihitung di Amazon Bedrock](quotas-token-burndown.md)

## Kuota runtime terkait
<a name="quotas-runtime-other"></a>

Kemampuan Amazon Bedrock berikut dilayani melalui `bedrock-runtime` titik akhir dan memiliki kuota tersendiri:
+ **Profil inferensi khusus — profil** Application-defined inferensi yang membungkus model yang mendasarinya. Lihat [Siapkan sumber daya pemanggilan model menggunakan profil inferensi](inference-profiles.md).
+ **Inferensi Batch — Pekerjaan inferensi** volume besar yang asinkron. Lihat [Memproses beberapa prompt dengan inferensi batch](batch-inference.md).
+ **Provisioned Throughput — Kapasitas model-unit** cadangan. Lihat [Tingkatkan kapasitas pemanggilan model dengan Provisioned Throughput di Amazon Bedrock](prov-throughput.md).

Kuota ini hanya berlaku untuk `bedrock-runtime` titik akhir dan tidak diekspos pada titik akhir. `bedrock-mantle`

## Meminta peningkatan kuota
<a name="quotas-runtime-increase"></a>

Langkah-langkah untuk meminta kenaikan kuota untuk akun Anda bergantung pada nilai di kolom **Adjustable** dalam tabel kuota di kuota layanan [Amazon Bedrock](https://docs.aws.amazon.com/general/latest/gr/bedrock.html#limits_bedrock).

**penting**  
Sebelum meminta peningkatan kuota, verifikasi bahwa model tidak dalam status siklus hidup *Legacy* atau *Deprecated*. Kenaikan kuota tidak diberikan untuk model yang dijadwalkan untuk pensiun. Periksa status siklus hidup model di [Siklus hidup model](model-lifecycle.md) halaman dan pertimbangkan untuk bermigrasi ke model penerus.
+ Jika kuota ditandai sebagai **Ya**, Anda dapat menyesuaikannya dengan mengikuti langkah-langkah di [Meminta Peningkatan Kuota pada Panduan Pengguna Service Quotas](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html).
+ Untuk model apa pun, Anda dapat meminta peningkatan untuk kuota berikut bersama-sama:
  + Cross-Region InvokeModel token per menit untuk {{${model}}}
  + On-demand InvokeModel token per menit untuk {{${model}}}
  + Token maks pemanggilan model per hari untuk {{${model}}}

  Untuk meminta peningkatan kombinasi kuota ini, mintalah peningkatan **Cross-Region InvokeModel token per menit untuk {{${model}}}** kuota dengan mengikuti langkah-langkah di [Meminta Peningkatan Kuota dalam Panduan Pengguna Service Quotas](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html). Setelah Anda melakukannya, tim dukungan akan menjangkau dan menawarkan Anda opsi untuk juga meningkatkan dua kuota lainnya.
**catatan**  
Karena permintaan yang luar biasa, prioritas akan diberikan kepada pelanggan yang menghasilkan lalu lintas yang mengkonsumsi alokasi kuota yang ada. Permintaan Anda mungkin ditolak jika Anda tidak memenuhi persyaratan ini.

Untuk peningkatan `bedrock-mantle` kuota, lihat[Meminta peningkatan kuota](quotas-mantle.md#quotas-mantle-increase).