Explorando o Claude 3 no Amazon Bedrock
Atualizado
Atualizado
Os playgrounds do Amazon Bedrock permitem testar a execução de em diversos modelos e configurações antes de integrá-los a uma aplicação. Para acessar, selecione "Playgrounds" no painel de navegação à esquerda do console. Há playgrounds disponíveis para modelos de chat, texto e imagem.
Para saber mais, consulte a documentação da AWS: https://docs.aws.amazon.com/pt_br/bedrock/latest/userguide/playgrounds.html
Para selecionar um modelo Claude no Playground do Amazon Bedrock, clique em "Select model
" e filtre pelo provedor "Anthropic
". Feito isso, selecione o modelo que deseja e clique em "Apply
".
Ao escolher um modelo, você pode observar as Configurações de Inferência dele no canto direito. Essas configurações incluem os parâmetros e ajustes que ajudam a limitar ou influenciar a resposta do modelo durante a fase de .
Vamos entender melhor sobre eles em Fundamentos de Engenharia de Prompts com Claude 3.
Para saber mais, consulte também a documentação da AWS: https://docs.aws.amazon.com/bedrock/latest/userguide/inference-parameters.html https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-claude.html
Para executar um prompt no Playground, basta digitar sua pergunta ou comando na caixa de entrada e clicar em "Run
". Você também pode anexar um arquivo clicando em "Choose files
".
Abaixo da caixa de entrada do prompt, podemos observas as métricas do modelo. Essas métricas ajudam a avaliar o desempenho e custos associados ao uso do modelo.
Overall summary (Resumo geral)
Latency (Latência)
A quantidade de tempo que o modelo de base (FM) usa para gerar cada token em uma sequência, com base no modelo de consumo on-demand.
Input token count (Contagem de tokens de entrada)
O número de tokens de entrada usados pelo FM durante a inferência.
Output token count (Contagem de tokens de saída)
O número de tokens gerados em uma resposta pelo FM.
Cost (Custo)
Custo estimado para processamento de entrada e saída de custo, com base no modelo de consumo sob demanda.
Para explorar os exemplos disponíveis acesse Amazon Bedrock > Examples
e filtre por Provider > Anthropic
.
Para comparar simultaneamente o mesmo prompt em diferentes modelos, basta ativar o toggle switch "Compare mode
" no canto superior direito.
O resumo da métrica combinada dentro do intervalo de valores desejado.