Hoje, tenho o prazer de compartilhar que agora você pode personalizar modelos básicos (FMs) de forma privada e segura com seus próprios dados no Amazon Bedrock para criar aplicativos específicos para seu domínio, organização e caso de uso. Com modelos personalizados, você pode criar experiências de usuário exclusivas que refletem o estilo, a voz e os serviços da sua empresa.
Com o ajuste fino , você pode aumentar a precisão do modelo fornecendo seu próprio conjunto de dados de treinamento rotulado específico para tarefas e especializando ainda mais seus FMs. Com o pré-treinamento contínuo , você pode treinar modelos usando seus próprios dados não rotulados em um ambiente seguro e gerenciado com chaves gerenciadas pelo cliente. O pré-treinamento contínuo ajuda os modelos a se tornarem mais específicos do domínio, acumulando conhecimento mais robusto e adaptabilidade – além do treinamento original.
Deixe-me fazer um tour rápido pelas duas opções de personalização do modelo. Você pode criar trabalhos de pré-treinamento contínuo e de ajuste fino usando o console ou APIs do Amazon Bedrock . No console, navegue até Amazon Bedrock e selecione Modelos personalizados.
Ajuste fino do Meta Llama 2, Cohere Command Light e Amazon Titan FMs
Amazon Bedrock agora oferece suporte ao ajuste fino para Meta Llama 2 , Cohere Command Light , bem como modelos Amazon Titan . Para criar um trabalho de ajuste fino no console, escolha Personalizar modelo e, em seguida, escolha Criar trabalho de ajuste fino .
Pré-treinamento contínuo para Amazon Titan Text (pré-visualização)
O pré-treinamento contínuo no Amazon Bedrock está disponível hoje em visualização pública para modelos Amazon Titan Text, incluindo Titan Text Express e Titan Text Lite. Para criar um trabalho de pré-treinamento contínuo no console, escolha Personalizar modelo e, em seguida, escolha Criar trabalho de pré-treinamento contínuo .
Coisas para saber
Aqui estão algumas coisas importantes para saber:
Privacidade de dados e segurança de rede – Com o Amazon Bedrock, você controla seus dados e todas as suas entradas e personalizações permanecem privadas para sua conta AWS. Seus dados, como prompts, conclusões, modelos personalizados e dados usados para ajuste fino ou pré-treinamento contínuo, não são usados para melhoria de serviço e nunca são compartilhados com fornecedores de modelos terceirizados. Seus dados permanecem na região da AWS onde a chamada de API é processada. Todos os dados são criptografados em trânsito e em repouso. Você pode usar o AWS PrivateLink para criar uma conexão privada entre sua VPC e o Amazon Bedrock.
Faturamento – o Amazon Bedrock cobra pela personalização, armazenamento e inferência do modelo. A personalização do modelo é cobrada por tokens processados. Este é o número de tokens no conjunto de dados de treinamento multiplicado pelo número de épocas de treinamento. Uma época é uma passagem completa pelos dados de treinamento durante a personalização. O armazenamento do modelo é cobrado por mês, por modelo. A inferência é cobrada por hora por unidade de modelo usando a taxa de transferência provisionada.
Modelos personalizados e taxa de transferência provisionada – o Amazon Bedrock permite executar inferências em modelos personalizados comprando taxa de transferência provisionada. Isso garante um nível consistente de rendimento em troca de um compromisso de prazo. Você especifica o número de unidades de modelo necessárias para atender às necessidades de desempenho do seu aplicativo. Para avaliar modelos personalizados inicialmente, você pode adquirir a taxa de transferência provisionada por hora, sem compromisso de longo prazo. Sem compromisso, uma cota de uma unidade modelo está disponível por taxa de transferência provisionada. Você pode criar até duas taxas de transferência provisionadas por conta.
Artigo originalmente publicado em Blog AWS
DNX Brasil – Soluções cloud-native
