Streaming do Clawdbot

Visão Geral do Streaming do Clawdbot

O Clawdbot suporta respostas em streaming para interações de IA em tempo real. O streaming permite indicadores de digitação, atualizações parciais de mensagens e entrega em chunks para respostas longas.

Modos de Streaming

Streaming Completo

O streaming completo entrega tokens conforme são gerados:

{
  "streaming": {
    "mode": "full",
    "chunkSize": 50
  }
}

Entrega em Chunks

A entrega em chunks divide respostas longas:

{
  "streaming": {
    "mode": "chunked",
    "maxLength": 4000,
    "delimiter": "\n\n"
  }
}

Suporte de Provedores

Indicadores de Digitação

Configuração

{
  "typing": {
    "enabled": true,
    "interval": 3000,
    "stopOnComplete": true
  }
}

Comportamento

• Indicadores enviados a cada interval ms
• Parados automaticamente ao completar a resposta
• Implementação específica por provedor

Chunking de Mensagens

Por Que Chunking?

• Limites de comprimento de mensagem da plataforma
• Melhor experiência do usuário
• Risco reduzido de timeout

Configurações de Chunk

Exemplo

Resposta longa dividida automaticamente:

[Chunk 1] First part of response...

[Chunk 2] Continuation...

[Chunk 3] Final part...

Eventos de Stream

Tipos de Eventos

Eventos WebSocket

ws.on('message', (data) => {
  const event = JSON.parse(data);

  switch(event.type) {
    case 'stream_start':
      // Show typing indicator
      break;
    case 'stream_chunk':
      // Append content
      break;
    case 'stream_end':
      // Hide typing indicator
      break;
  }
});

Gerenciamento de Buffer

Configuração

{
  "buffer": {
    "maxSize": 10000,
    "flushInterval": 100,
    "strategy": "adaptive"
  }
}

Estratégias

Tratamento de Erros

Retry em Erro de Stream

{
  "streaming": {
    "retry": {
      "enabled": true,
      "maxAttempts": 3,
      "backoff": "exponential"
    }
  }
}

Fallback para Não-Streaming

Se o streaming falhar, o Clawdbot automaticamente faz fallback para entrega não-streaming.

Dicas de Performance

1. Ajuste o tamanho do chunk com base nos limites do provedor
2. Habilite indicadores de digitação para melhor UX
3. Use buffering adaptativo para redes variáveis
4. Monitore a latência do stream para otimização

Próximos Passos

• Conceitos do Clawdbot - Conceitos principais
• Canais do Clawdbot - Configuração de canais
• Gateway do Clawdbot - Configuração do Gateway