Política de Governança de Algoritmos e IA
Diretrizes para uso responsável de algoritmos e sistemas de IA na Plataforma SalvaGuardas
Governança Algorítmica Responsável
A SalvaGuardas utiliza algoritmos e tecnologias de Inteligência Artificial para auxiliar na organização, análise e disponibilização de informações relacionadas ao ecossistema de segurança pública municipal no Brasil. Esta Política estabelece as diretrizes que asseguram o uso ético, transparente e responsável desses sistemas.
1. Introdução
1.1. A Plataforma SalvaGuardas, operada pela SalvaGuardas Inteligência Corporativa Ltda., inscrita no CNPJ sob o nº 62.297.860/0001-96, utiliza algoritmos e tecnologias de Inteligência Artificial para auxiliar na organização, análise e disponibilização de informações relacionadas ao ecossistema de segurança pública municipal no Brasil.
1.2. Esta Política de Governança de Algoritmos e Inteligência Artificial ("Política") estabelece as diretrizes de governança aplicáveis ao desenvolvimento, implantação e uso desses sistemas, assegurando que sua utilização ocorra de forma ética, transparente e responsável.
1.3. Esta Política complementa e integra os demais documentos jurídicos da Plataforma — incluindo os Termos de Uso, a Política de Privacidade, a Política de Uso de Inteligência Artificial, a Política de Uso Aceitável e o Contrato de Licença SaaS —, devendo ser interpretada em conjunto com esses instrumentos.
1.4. Ao utilizar a Plataforma, o Usuário declara ciência e concordância com as disposições desta Política.
2. Objetivos da Política
2.1. Esta Política tem como objetivos:
Estabelecer princípios claros de governança para o uso de algoritmos e IA na Plataforma.
Garantir transparência sobre o funcionamento dos sistemas automatizados perante os Usuários.
Identificar, avaliar e reduzir riscos associados ao uso de tecnologias algorítmicas.
Proteger os direitos fundamentais dos Usuários, em especial os previstos na LGPD (Lei nº 13.709/2018).
Assegurar conformidade com a legislação brasileira aplicável, incluindo o Marco Civil da Internet (Lei nº 12.965/2014), a LGPD e demais normas regulatórias pertinentes.
Promover a melhoria contínua dos sistemas de IA por meio de monitoramento, auditoria e prestação de contas.
3. Definições
3.1. Para fins desta Política, aplicam-se as seguintes definições:
Algoritmo
Conjunto de instruções computacionais utilizadas para processar dados e gerar resultados, classificações ou recomendações de forma determinística ou probabilística.
Inteligência Artificial (IA)
Sistema computacional capaz de analisar dados, identificar padrões, aprender com exemplos e gerar respostas, classificações ou recomendações automatizadas. Inclui, sem limitação, modelos de linguagem (LLMs), aprendizado de máquina (ML), processamento de linguagem natural (NLP) e modelos generativos.
Sistema Algorítmico
Qualquer funcionalidade da Plataforma que utilize algoritmos ou IA para processar dados e gerar resultados de forma automatizada, total ou parcialmente.
Decisão Automatizada
Resultado, recomendação, classificação ou ação gerada por sistema algorítmico sem intervenção humana direta no momento da execução.
Human-in-the-Loop
Princípio operacional pelo qual decisões geradas por sistemas automatizados são submetidas a revisão ou supervisão humana antes de produzirem efeitos definitivos.
Viés Algorítmico (Bias)
Distorção sistemática nos resultados de um sistema algorítmico que produz resultados injustos, discriminatórios ou desproporcionais para determinados grupos de Usuários.
Explicabilidade
Capacidade de um sistema algorítmico de fornecer justificativas compreensíveis sobre os critérios, dados e lógica utilizados para gerar um resultado específico.
4. Princípios de Governança de IA
4.1. A utilização de algoritmos e IA na Plataforma SalvaGuardas observa os seguintes princípios fundamentais:
Transparência
Os Usuários devem ser informados quando funcionalidades utilizarem sistemas automatizados, por meio de indicadores visuais claros (badges, ícones, disclaimers). A Plataforma disponibiliza documentação explicativa sobre o uso de IA.
Responsabilidade
A SalvaGuardas é responsável pela implementação, operação e monitoramento dos sistemas algorítmicos utilizados na Plataforma, mantendo estrutura de governança dedicada.
Supervisão Humana
Decisões relevantes geradas por IA permitem revisão humana sempre que necessário. A Plataforma adota o princípio de human-in-the-loop para operações críticas.
Segurança
Sistemas de IA são desenvolvidos e operados com padrões adequados de segurança e proteção de dados, incluindo criptografia, controle de acesso e monitoramento contínuo.
Proporcionalidade
O uso de IA é proporcional às finalidades da Plataforma e aos benefícios esperados. A IA é empregada apenas quando oferece valor concreto ao Usuário.
Confiabilidade
Algoritmos são continuamente avaliados para garantir consistência, qualidade e precisão dos resultados, por meio de métricas de desempenho e auditorias periódicas.
5. Finalidades de Uso da IA na Plataforma
5.1. A Inteligência Artificial é utilizada na Plataforma SalvaGuardas para as seguintes finalidades legítimas:
5.1.1. Classificação e Organização de Dados Públicos
- Classificação automática de editais, documentos normativos e legislação
- Extração estruturada de dados de editais de concursos (cargos, vagas, cronogramas, requisitos)
- Organização temática de legislação municipal e federal aplicável
- Categorização de itens de catálogo e oportunidades de compras públicas
5.1.2. Recomendação de Conteúdos e Informações
- Recomendação personalizada de concursos, materiais de estudo e trilhas de aprendizado
- Feed inteligente de notícias e atualizações baseado nos interesses do Usuário
- Simulados adaptativos com ajuste de dificuldade conforme desempenho
- Planos de estudo personalizados com base no perfil do candidato
5.1.3. Análise Automatizada de Documentos
- Geração de resumos, descrições técnicas e sínteses de documentos normativos
- Análise de conformidade de Guardas Municipais com a Lei 13.022/2014
- Comparação automatizada de versões de documentos e detecção de alterações
- Prospecção automatizada de concursos e expectativas
5.1.4. Apoio à Navegação e Busca
- Busca semântica aprimorada em documentos e bases de dados
- Sugestão de termos de pesquisa e autocomplete inteligente
- Navegação contextual com sugestões baseadas no perfil e histórico do Usuário
5.1.5. Assistência por Agentes Conversacionais
- Assistentes especializados para dúvidas sobre concursos, legislação e segurança pública
- Agente de suporte ao Usuário para resolução de questões sobre a Plataforma
- Assistente de criação de Termos de Referência (TR Builder)
5.1.6. Geração de Insights Analíticos
- Análise de tendências no setor de segurança pública municipal
- Score de confiança para dados extraídos automaticamente
- Detecção de duplicidades e inconsistências em bases de dados
- Inteligência de mercado para compras públicas (PNCP)
Importante
5.2. A IA é utilizada como ferramenta de apoio informacional, não substituindo análise humana especializada, consultoria jurídica profissional ou assessoria técnica qualificada. Resultados gerados por IA devem ser avaliados criticamente pelo Usuário.
6. Transparência Algorítmica
6.1. A SalvaGuardas compromete-se com a transparência sobre o funcionamento de seus sistemas algorítmicos, adotando as seguintes práticas:
Identificação visual
Funcionalidades que utilizam IA são sinalizadas por indicadores visuais claros na interface (badges, ícones e disclaimers), permitindo que o Usuário identifique quando está interagindo com resultados automatizados.
Indicação de resultados automatizados
Quando resultados forem gerados de forma automatizada, a Plataforma indica essa condição ao Usuário, incluindo, quando aplicável, o score de confiança da informação (0-100%).
Documentação acessível
A Plataforma disponibiliza documentação explicativa sobre o uso de IA, incluindo esta Política, a Política de Uso de IA e descrições funcionais nos módulos que utilizam sistemas algorítmicos.
Rastreabilidade
Cada execução de IA é registrada com identificador único, permitindo auditoria completa do prompt, modelo, versão, parâmetros e resultado gerado.
6.2. O Usuário pode, a qualquer momento, solicitar esclarecimentos sobre como a IA influenciou um resultado específico, através dos canais de suporte ou diretamente ao Encarregado de Proteção de Dados (DPO).
7. Supervisão Humana
7.1. A Plataforma adota o princípio de human-in-the-loop, pelo qual sistemas automatizados podem ser revisados ou supervisionados por intervenção humana quando necessário.
7.2. A supervisão humana é implementada nos seguintes níveis:
7.2.1. Publicação de Conteúdo
Dados extraídos automaticamente de editais e documentos passam por pipeline de validação humana (staged → ready_to_publish → published) antes da disponibilização definitiva aos Usuários.
7.2.2. Classificação e Curadoria
Documentos classificados por IA recebem status "classificado_por_ia" e requerem revisão humana antes de serem promovidos a "validado", assegurando a qualidade e precisão da classificação.
7.2.3. Controle por Feature Flags
Funcionalidades de IA que envolvam escrita automática de dados são controladas por flags de governança (auto_write_allowed, human_review_required, ai_suggest_only), permitindo ativação granular e reversível.
7.3. Usuários podem solicitar esclarecimentos ou revisão de resultados automatizados quando aplicável, por meio do sistema de suporte integrado ou diretamente ao DPO. O prazo de resposta é de até 15 (quinze) dias úteis.
8. Gestão de Riscos Algorítmicos
8.1. A SalvaGuardas realiza avaliação contínua de riscos associados ao uso de sistemas de IA, adotando abordagem proativa de identificação e mitigação:
Riscos de Erro ou Imprecisão
Modelos de IA podem gerar informações imprecisas, incompletas ou desatualizadas. A Plataforma implementa scores de confiança e alertas visuais para mitigar este risco.
Riscos de Interpretação Inadequada
Resultados automatizados podem ser interpretados fora do contexto adequado. Disclaimers e avisos informativos acompanham os resultados para orientar o Usuário.
Riscos de Uso Indevido
Funcionalidades de IA podem ser exploradas de forma abusiva (scraping, automação não autorizada, prompt injection). Mecanismos de rate limiting e monitoramento são aplicados.
Riscos de Segurança
Sistemas de IA podem ser alvo de ataques ou manipulação. Medidas de segurança incluem criptografia, sanitização de entradas e isolamento de dados multi-tenant.
8.2. Medidas de mitigação são implementadas sempre que riscos relevantes forem identificados, incluindo ajustes em modelos, reforço de supervisão humana, restrição de funcionalidades ou comunicação proativa aos Usuários afetados.
9. Prevenção de Viés e Discriminação
9.1. Os sistemas de IA da Plataforma são projetados, implementados e monitorados para evitar:
- Discriminação indevida baseada em origem, gênero, raça, idade, orientação sexual, religião, condição socioeconômica ou quaisquer outros critérios protegidos pela legislação brasileira
- Tratamento desigual ou desproporcional de Usuários em funcionalidades equivalentes
- Geração de conteúdo discriminatório, ofensivo ou que perpetue estereótipos
9.2. Para mitigação ativa de vieses, a SalvaGuardas adota:
- Revisão periódica de resultados para identificar padrões discriminatórios
- Diversificação de fontes de dados para treinamento e validação de modelos
- Monitoramento de métricas de equidade por região, porte municipal e perfil de Usuário
- Instruções explícitas nos prompts de IA para evitar viés e manter neutralidade institucional
- Canal de denúncia acessível para que Usuários reportem resultados enviesados ou discriminatórios
9.3. Caso o Usuário identifique resultado potencialmente enviesado ou discriminatório, deve reportar através do sistema de suporte ou ao DPO para análise e adoção de medidas corretivas.
10. Segurança dos Sistemas de IA
10.1. Os sistemas algorítmicos da Plataforma são operados em infraestrutura que adota medidas de segurança adequadas ao estado da arte:
Controle de Acesso
Acesso granular a funcionalidades de IA baseado em perfis de acesso, planos comerciais e feature flags de governança.
Criptografia de Dados
Todas as comunicações com provedores de IA utilizam criptografia TLS 1.3. Dados em repouso são criptografados conforme política de segurança.
Monitoramento de Uso
Consumo de IA é monitorado em tempo real por Usuário, conta e funcionalidade, com alertas automáticos para uso anômalo.
Registro de Logs
Todas as execuções de IA são registradas com auditoria completa (timestamp, modelo, tokens, resultado, Usuário).
Sanitização PII
Motor de sanitização automática remove informações pessoais identificáveis antes do envio a APIs de fornecedores de IA.
Isolamento Multi-Tenant
Dados de diferentes contas institucionais são rigorosamente isolados, impedindo vazamento cruzado de informações.
10.2. A SalvaGuardas implementa proteções contra ataques adversariais, incluindo rate limiting, detecção de prompt injection e validação de entradas.
10.3. Fornecedores de IA são contratualmente impedidos de utilizar dados dos Usuários para treinamento de seus modelos, conforme cláusulas específicas nos Data Processing Agreements (DPA).
11. Monitoramento e Auditoria
11.1. A Plataforma mantém registros técnicos abrangentes relacionados ao funcionamento dos sistemas de IA, incluindo:
Logs de Uso de IA
Registro detalhado de cada execução de IA com timestamp, modelo utilizado, versão, prompt, resultado e Usuário solicitante.
Consumo de Tokens
Monitoramento granular do consumo de tokens por Usuário, conta institucional e funcionalidade, com dashboards em tempo real.
Alertas de Uso Anômalo
Sistema de alertas automatizado para detecção de padrões de uso atípicos, possíveis abusos ou degradação de qualidade.
Registros de Auditoria
Trilhas de auditoria imutáveis para operações críticas de IA, incluindo alterações em modelos, regras de negócio e feature flags.
Métricas de Performance
Acompanhamento contínuo de latência, taxa de erro, qualidade dos resultados e satisfação do Usuário por funcionalidade.
11.2. Os registros são utilizados para monitorar o desempenho dos sistemas, detectar possíveis abusos, assegurar conformidade regulatória e subsidiar auditorias internas ou externas.
11.3. A política de retenção de logs de IA é definida internamente e observa os prazos mínimos exigidos pela legislação aplicável, com possibilidade de anonimização automática após o período de retenção.
12. Responsabilidade e Prestação de Contas
12.1. A SalvaGuardas mantém responsabilidade sobre o uso de sistemas algorítmicos em sua Plataforma, comprometendo-se com:
- Manutenção de estrutura de governança dedicada ao acompanhamento dos sistemas de IA
- Registro versionado de modelos, prompts e configurações (MLModelRegistry, IAVersion)
- Documentação de regras de negócio que controlam a autonomia dos sistemas (RegraNegocioIA)
- Resposta tempestiva a incidentes envolvendo falhas ou comportamento inadequado de sistemas de IA
- Comunicação transparente com Usuários sobre limitações e atualizações dos sistemas
Limitação de Responsabilidade
12.2. Resultados gerados por IA devem ser interpretados como informação de apoio, não constituindo parecer jurídico, técnico, contábil ou administrativo. A SalvaGuardas não se responsabiliza por decisões tomadas exclusivamente com base em resultados automatizados sem verificação humana adicional. Usuários são responsáveis por avaliar criticamente as informações geradas pela Plataforma antes de utilizá-las para qualquer finalidade.
13. Direitos dos Usuários
13.1. Nos termos da Lei Geral de Proteção de Dados (Lei nº 13.709/2018), em especial seu artigo 20, os Usuários possuem os seguintes direitos em relação aos sistemas algorítmicos da Plataforma:
Direito à Informação
Solicitar e receber informações claras e adequadas sobre o uso de sistemas automatizados na Plataforma, incluindo quais funcionalidades utilizam IA e como ela influencia os resultados.
Direito à Revisão Humana
Solicitar revisão humana de decisões automatizadas que afetem seus interesses, conforme art. 20 da LGPD, com resposta em até 15 dias úteis.
Direito à Explicação
Obter explicação sobre os critérios, dados e lógica utilizados pela IA para gerar uma recomendação, classificação ou resultado específico.
Direito à Contestação
Contestar resultados automatizados que considere incorretos, injustos ou discriminatórios, por meio dos canais de suporte ou diretamente ao DPO.
Direito à Não-Discriminação
Não ser discriminado por decisões automatizadas baseadas em critérios injustos, dados sensíveis ou vieses algorítmicos.
Demais Direitos LGPD
Exercer todos os demais direitos previstos na legislação de proteção de dados, incluindo acesso, correção, eliminação e portabilidade de dados pessoais processados por IA.
13.2. Para exercer qualquer desses direitos, o Usuário deve contatar o suporte integrado da Plataforma ou o DPO pelos canais indicados na seção 15 desta Política.
14. Atualizações desta Política
14.1. Esta Política poderá ser atualizada periodicamente para refletir:
- Evolução tecnológica e adoção de novos modelos ou técnicas de IA
- Mudanças na legislação brasileira ou regulamentações aplicáveis
- Aprimoramentos nos sistemas e funcionalidades da Plataforma
- Lições aprendidas a partir de auditorias, incidentes ou feedback de Usuários
14.2. Alterações substanciais serão comunicadas com antecedência mínima de 30 (trinta) dias através de:
- E-mail cadastrado do Usuário
- Notificação destacada na Plataforma
- Aviso de atualização na tela de login
14.3. O histórico de versões desta Política fica disponível mediante solicitação ao suporte ou ao DPO.
14.4. O uso continuado da Plataforma após a comunicação de alterações constitui aceitação das novas condições.
15. Contato
15.1. Para dúvidas, solicitações ou reclamações relacionadas ao uso de algoritmos ou Inteligência Artificial na Plataforma:
Canais Oficiais de Contato
Empresa: SalvaGuardas Inteligência Corporativa Ltda.
CNPJ: 62.297.860/0001-96
E-mail Jurídico: legal@salvaguardas.com.br
E-mail DPO (Encarregado de Proteção de Dados): dpo@salvaguardas.com.br
Prazo de resposta: até 15 (quinze) dias úteis
15.2. Para questões urgentes envolvendo segurança de dados em sistemas de IA, o Usuário deve contatar imediatamente o DPO pelo e-mail dpo@salvaguardas.com.br com o assunto "[URGENTE] Segurança IA".