Ficha da solução · Model Card
Modelo de linguagem para textos financeiros e regulatórios em português (DeB3RTa)
Universidade Federal do Maranhão (UFMA) · Academia ou ICT · Maranhão
Sobre a solução
Órgãos de controle, regulação e fazenda lidam com grande volume de textos financeiros, contábeis e regulatórios em português, e modelos de linguagem gerais entendem mal o jargão dessa área. Isso dificulta automatizar a triagem de normativos, a análise de sentimento do mercado e a detecção de desinformação. O DeB3RTa é um modelo aberto, especializado nesse vocabulário, que serve de base para classificadores ajustados a cada tarefa.
Como funciona
É um modelo de linguagem treinado em 1,05 bilhão de tokens de textos de finanças, política, gestão e contabilidade: fatos relevantes do mercado de 2003 a 2023, notícias, patentes, artigos da SciELO e a Wikipédia. Depois de ajustado para cada tarefa, classifica normativos regulatórios, identifica desinformação e analisa sentimento ou discurso de ódio. Vem da tese de doutorado de Higo Felipe Silva Pires na UFMA (2025), https://tedebc.ufma.br/jspui/handle/tede/6179, e foi publicado na revista Big Data and Cognitive Computing 9(3):51, DOI 10.3390/bdcc9030051. Arquitetura DeBERTa-v2, com uma versão base de cerca de 426 milhões de parâmetros e uma small de cerca de 70 milhões. Roda em Python com a biblioteca Transformers.
Ficha técnica
- Origem
- Auto-declarada (7.1.C)
- Tecnologia de IA
- Análise de texto / linguagem (NLP)
- Tipo
- Modelo
- Em uso desde
- 2025
- IA generativa
- Não
- Modalidades
- Texto
Impacto
- Resultado / impacto
- F1 de 0,99 em fake news (Fake.br), 0,92 em sentimento (CAROSIA), 0,76 em classificação regulatória (BBRC) e 0,75 em discurso de ódio (OFFCOMBR-3), segundo o artigo dos autores. Na versão small, os F1 são 0,96, 0,87, 0,67 e 0,55, nas mesmas tarefas.
- Impacto social / ético
- Pode apoiar a triagem de normativos, a análise de mercado e o combate à desinformação. Usado para classificar desinformação ou discurso de ódio, pode afetar a liberdade de expressão em caso de falso positivo. O corpus (mercado, notícias e Wikipédia) pode carregar vieses editoriais e regionais.
- Grupos afetados
- Servidores de órgãos de controle, regulação e fazenda, agentes regulados, cidadãos cujos textos sejam classificados.
- Mitigações
- Ajuste fino e validação com dados do próprio órgão, revisão humana de toda classificação de desinformação ou discurso de ódio, não usar como decisão automática sobre pessoas.
Soberania e dados
- Maturidade
- Prova de conceito / teste
- Soberania
- Brasil — soberano
- Hospedagem da inferência
- Não se aplica
- Transferência internacional
- Não
Governança e supervisão
- Supervisão humana
- Revisão obrigatória
- Descrição da supervisão
- Modelo de base. Os classificadores derivados geram sugestões que um servidor revisa antes de qualquer ato, e a revisão é obrigatória em desinformação e discurso de ódio.
- Responsável LGPD
- Não informado — modelo acadêmico (UFMA).
Nível de risco: Limitado
- Avaliação de viés
- Não avaliado. O artigo não traz análise de viés por grupo ou região.
- Robustez
- Avaliado em quatro bases públicas, contra BERTimbau, XLM-RoBERTa e outros. Textos acima de 128 tokens pouco testados; sem testes adversariais.
- Explicabilidade
- Não avaliado. Não há recursos de explicação publicados.
- Auditoria / certificações
- Não avaliado
- Canal de reclamação
- huggingface.co/higopires/discussions
- Próxima revisão
- 01/05/2027