Gere respostas fundamentadas com a RAG

Como parte da sua experiência de geração aumentada de recuperação (RAG) no Vertex AI Search, pode gerar respostas fundamentadas a comandos com base nas seguintes fontes de fundamentação:

• Pesquisa Google: use a fundamentação com a Pesquisa Google se quiser associar o modelo a conhecimentos mundiais, a uma grande variedade de tópicos ou a informações atualizadas na Internet. A fundamentação com a Pesquisa Google suporta a obtenção dinâmica, o que lhe dá a opção de gerar resultados fundamentados com a Pesquisa Google apenas quando necessário. Por conseguinte, a configuração de obtenção dinâmica avalia se um comando requer conhecimentos sobre eventos recentes e ativa a fundamentação com a Pesquisa Google. Para mais informações, consulte o artigo Obtenção dinâmica.
• Texto inline: use o fundamento com texto inline para fundamentar a resposta em partes de texto denominadas texto de factos que são fornecidas no pedido. Um texto de factos é uma declaração fornecida pelo utilizador que é considerada factual para um determinado pedido. O modelo não verifica a autenticidade do texto de factos.
• Bases de dados do Vertex AI Search: use o fundamento com o Vertex AI Search se quiser associar o modelo aos seus documentos empresariais das bases de dados do Vertex AI Search.

Esta página descreve como gerar respostas fundamentadas com base nestas fontes de fundamentação através das seguintes abordagens:

• Geração de respostas de interação única

  • Texto inline e arquivo de dados do Vertex AI Search
  • Pesquisa Google

• Geração de respostas com várias interações

Além disso, pode optar por transmitir as respostas do modelo. A geração de uma resposta fundamentada através do streaming é uma funcionalidade experimental.

Pode usar outros métodos para gerar respostas fundamentadas, de acordo com a sua aplicação. Para mais informações, consulte o artigo APIs Vertex AI para criar experiências de pesquisa e RAG.

Terminologia

Antes de usar o método de geração de respostas fundamentadas, é útil compreender as entradas e as saídas, como estruturar o seu pedido e a terminologia relacionada com a RAG.

Termos RAG

A RAG é uma metodologia que permite que os grandes modelos de linguagem (GMLs) gerem respostas baseadas na origem de dados à sua escolha. Existem duas fases na RAG:

1. Obtenção: obter rapidamente os factos mais relevantes pode ser um problema de pesquisa comum. Com a RAG, pode obter rapidamente os factos importantes para gerar uma resposta.
2. Geração: os factos obtidos são usados pelo LLM para gerar uma resposta fundamentada.

Por conseguinte, o método de geração de respostas fundamentadas obtém os factos da fonte de fundamentação e gera uma resposta fundamentada.

Dados de entrada

O método de geração de respostas fundamentadas requer as seguintes entradas no pedido:

• Função: o remetente de um determinado texto que é um utilizador (user) ou um modelo (model).

• Texto: quando a função é user, o texto é um comando e, quando a função é model, o texto é uma resposta fundamentada. A forma como especifica a função e o texto num pedido é determinada da seguinte forma:

  • Para uma geração de respostas de uma única interação, o utilizador envia o texto do comando no pedido e o modelo envia o texto da resposta na resposta.