Recursos para IA

O interceptor Rate Limit AI Tokens pode ser usado nos fluxos de APIs que consomem Grandes Modelos de Linguagem (Large Language Models - LLMs) para controlar o consumo de tokens pelas aplicações de IA.

Saiba mais consultando a documentação correspondente.

Ideal para sistemas que precisem integrar chatbots ou outras interações de linguagem baseadas em IA, a API OpenAI Chat Completions possibilita interações de chat com LLMs da OpenAI com alto nível de customização e controle sobre o comportamento do modelo. Como forma de auxiliar na estruturação e no monitoramento das requisições e respostas, ela traz em seu fluxo alguns interceptores já configurados.

Veja como utilizá-la.