AI-901: compreender e aplicar LLMs com Microsoft Foundry

Esta lição foca-se na competência de compreender e aplicar Large Language Models (LLMs) usando Microsoft Foundry, uma habilidade central para o AI-901. Saber o que são LLMs, quando são a escolha certa e como integrá‑los de forma segura é útil no exame e em cenários reais de desenvolvimento de soluções de IA.

O que precisas de saber

Large Language Models (LLMs) são modelos treinados em vastas quantidades de texto para prever e gerar linguagem natural. São utilizados para tarefas como geração de texto, sumarização, tradução, classificação de texto e conversação. No contexto do Microsoft Foundry (que integra capacidades de IA e modelos pré-treinados), a competência requer que entendas:

• O que distingue LLMs de outros modelos de IA (por exemplo modelos de visão): foco em texto, capacidades de raciocínio estatístico e geração contínua de tokens).
• Casos de utilização apropriados: geração de respostas, assistentes conversacionais, criação de conteúdo, extração de informação e transformação de texto.
• Limitações: alucinações (respostas inventadas), sensibilidade ao prompt, consumo de recursos e necessidades de privacidade/segurança.

Exemplo prático: pedir a um LLM para resumir políticas internas. O LLM pode produzir um resumo coerente, mas pode também omitir pontos críticos ou fabricar detalhes. Logo, é necessário validar com regras, verificação de factos e controlo de confidencialidade.

Como funciona

Resumo técnico simples e prático sobre o funcionamento das integrações LLM em Foundry:

1. Entrada (prompt): texto do utilizador, possivelmente com contexto adicional (instrumentação com embeddings/bases de conhecimento).
2. Tokenização: o texto é convertido em tokens que o modelo processa.
3. Inferência pelo LLM: predição de tokens subsequentes para gerar a resposta.
4. Pós-processamento: filtragem, segurança (detecção de conteúdo sensível) e formatação antes de entregar ao utilizador.

Na prática, Foundry actua como camada de orquestração: permite escolher um modelo (por exemplo um modelo na oferta da Microsoft ou um modelo customizado), gerir chamadas, aplicar políticas de segurança e monitorizar custos e utilização.

// Exemplo conceptual (pseudocódigo) de requisição a um LLM via API em Foundry
request = {
  model: "nome_do_modelo",
  prompt: "Resume a política X em 3 pontos claros:",
  max_tokens: 200,
  temperature: 0.2
}
response = foundry.llm.generate(request)
summary = response.text
// Aplicar validações adicionais
if (containsSensitiveInfo(summary)) {
  redact(summary)
}
return summary

Na prática

Passo a passo para uma integração simples, orientada para um cenário de exame/prático:

1. Definir o caso de utilização: escolher tarefa (p. ex. sumarização de documentos internos).
2. Selecionar modelo: em Foundry, avaliar trade‑offs (custo vs. capacidade vs. latência). Para tarefas de precisão, utilizar modelos com temperatura baixa.
3. Construir prompts robustos: incluir instruções claras, exemplos (few‑shot) e restrições (comprimento, formato de saída).
4. Adicionar camadas de segurança: filtragem de entrada/saída, deteção de dados sensíveis e registo restrito.
5. Implementar validação humana: fluxos de aprovação para outputs críticos.

Exemplo de prompt robusto (padrão):

"You are a helpful assistant. Summarise the following document in 3 bullet points, each with at most 20 words. If the document contains confidential details, respond: 'CONFIDENTIAL — human review required.' Document: "

Erros comuns

Aqui estão armadilhas frequentes ao trabalhar com LLMs em Foundry:

• Confiar cegamente nos outputs: não validar factos nem implementar revisão humana para outputs críticos.
• Prompts vagos ou demasiado abertos: produzem respostas inconsistentes ou irrelevantes; é preciso especificidade e exemplos.
• Ignorar governação de dados: enviar dados sensíveis para modelos sem aplicar encriptação, redacção ou residir em ambientes com conformidade aprovada.

Como praticar

Para consolidar esta competência, usa os recursos oficiais da Microsoft: realiza o Practice Assessment OFICIAL (gratuito) para AI-901 e segue a Study Guide oficial (gratuita) que cobre conceitos de LLMs e integrações. Pratica em labs com Foundry (ou ambientes de demonstração) implementando pequenos fluxos: sumarização, classificação e um assistente com validação humana. Não utilizes nem consultes exam dumps — utiliza apenas os recursos oficiais para prática.

Em resumo

• LLMs geram e transformam texto; são úteis para sumarização, conversação e geração de conteúdo.
• Foundry orquestra modelos, políticas de segurança e monitorização; escolher o modelo certo e ajustar prompts é crítico.
• Implementa validação humana, filtragem de saída e protecções para dados sensíveis para minimizar riscos de alucinação e exposição.
• Pratica com os recursos oficiais da Microsoft: Practice Assessment e Study Guide gratuitos.