Ir para o conteúdo
BBSIABanco Brasileiro de Soluções de IA para a Gestão Pública
Compartilhar soluçãoVoluntariado
Fazenda/TributaçãoAvaliação concluídaSuspenso

Ficha da solução · Model Card

Modelo de linguagem para textos financeiros e regulatórios em português (DeB3RTa)

Universidade Federal do Maranhão (UFMA) · Academia ou ICT · Maranhão

Sobre a solução

Órgãos de controle, regulação e fazenda lidam com grande volume de textos financeiros, contábeis e regulatórios em português, e modelos de linguagem gerais entendem mal o jargão dessa área. Isso dificulta automatizar a triagem de normativos, a análise de sentimento do mercado e a detecção de desinformação. O DeB3RTa é um modelo aberto, especializado nesse vocabulário, que serve de base para classificadores ajustados a cada tarefa.

Como funciona

É um modelo de linguagem treinado em 1,05 bilhão de tokens de textos de finanças, política, gestão e contabilidade: fatos relevantes do mercado de 2003 a 2023, notícias, patentes, artigos da SciELO e a Wikipédia. Depois de ajustado para cada tarefa, classifica normativos regulatórios, identifica desinformação e analisa sentimento ou discurso de ódio. Vem da tese de doutorado de Higo Felipe Silva Pires na UFMA (2025), https://tedebc.ufma.br/jspui/handle/tede/6179, e foi publicado na revista Big Data and Cognitive Computing 9(3):51, DOI 10.3390/bdcc9030051. Arquitetura DeBERTa-v2, com uma versão base de cerca de 426 milhões de parâmetros e uma small de cerca de 70 milhões. Roda em Python com a biblioteca Transformers.

Ficha técnica

Origem
Auto-declarada (7.1.C)
Tecnologia de IA
Análise de texto / linguagem (NLP)
Tipo
Modelo
Em uso desde
2025
IA generativa
Não
Modalidades
Texto

Impacto

Resultado / impacto
F1 de 0,99 em fake news (Fake.br), 0,92 em sentimento (CAROSIA), 0,76 em classificação regulatória (BBRC) e 0,75 em discurso de ódio (OFFCOMBR-3), segundo o artigo dos autores. Na versão small, os F1 são 0,96, 0,87, 0,67 e 0,55, nas mesmas tarefas.
Impacto social / ético
Pode apoiar a triagem de normativos, a análise de mercado e o combate à desinformação. Usado para classificar desinformação ou discurso de ódio, pode afetar a liberdade de expressão em caso de falso positivo. O corpus (mercado, notícias e Wikipédia) pode carregar vieses editoriais e regionais.
Grupos afetados
Servidores de órgãos de controle, regulação e fazenda, agentes regulados, cidadãos cujos textos sejam classificados.
Mitigações
Ajuste fino e validação com dados do próprio órgão, revisão humana de toda classificação de desinformação ou discurso de ódio, não usar como decisão automática sobre pessoas.