Sobre os dados
De onde vêm os números, como foram limpos e o que eles não mostram. Todo o processamento é reproduzível pelos scripts em /scripts do repositório.
Objetivo
Ajudar quem busca emprego em Dados e Tecnologia em Minas Gerais a entender o mercado com dados oficiais: quanto se contrata, quanto se paga, em quais setores e cidades — e acompanhar as vagas autorizadas em concursos federais.
Fontes
- Novo CAGED (Ministério do Trabalho e Emprego): microdados de cada admissão e desligamento com carteira assinada, desde jan/2020, baixados do FTP público do PDET.
- Tabelas de Autorizações e Provimentos (Ministério da Gestão e da Inovação): uma planilha por ano com as vagas autorizadas para concursos e nomeações do Executivo federal.
- API de malhas e localidades do IBGE: contornos e nomes dos 853 municípios de MG.
Limpeza do Novo CAGED
- São lidos os três arquivos de cada mês: no prazo (MOV), fora do prazo (FOR) e exclusões (EXC). As contagens seguem o Ministério: MOV + FOR − EXC, pela competência da movimentação.
- Os arquivos vêm em codificações diferentes (UTF-8 e Latin-1); os nomes de coluna são normalizados antes da leitura.
- Ficam só as linhas de MG (UF 31) nas 33 ocupações de Dados e TI listadas em
scripts/grupos_cbo.csv, divididas em 4 áreas. - Salário entra nas estatísticas só para admissões com pagamento mensal, jornada ≥ 30 h/semana, sem contrato intermitente nem aprendiz, entre R$ 500 e R$ 100 mil. Valores nominais (sem correção pela inflação).
- Idades fora de 14–90 anos viram “não informada”. Códigos (município, setor, escolaridade, sexo) viram nomes pelo dicionário oficial.
- O recorte original, sem alterações, fica versionado em
data/raw/caged_mg_dados_ti_original.csv.gz.
Limpeza dos concursos federais
- Cada ano tem colunas com nomes diferentes; o cabeçalho é localizado e as colunas são mapeadas pelo nome.
- Linhas de total e duplicatas exatas são removidas. “CR” (cadastro reserva) vira 0 vaga, com marcação própria.
- Os mais de 20 textos de “tipo de autorização” (inclusive com erros de digitação, como “Oringinal”) são agrupados em 4 categorias.
- A data é extraída do texto do ato (“12 de dezembro de 2017”, “11. Março. 2016”) ou do link do Diário Oficial.
- Cargos de TI e dados são identificados por palavras-chave (tecnologia da informação, dados, estatística, sistemas…).
- 2023: a página oficial não disponibiliza a planilha — o link desse ano abre a tabela de 2024. O ano aparece como lacuna.
O que os dados não mostram
- O CAGED cobre só emprego formal CLT: não inclui PJ, freelancers, cooperados nem servidores estatutários.
- Não existe código de ocupação para “analista de BI” ou “cientista de dados”: esses cargos aparecem como analista de sistemas, de negócios, estatístico etc.
- Contratação não é vaga anunciada: o CAGED registra quem foi efetivamente contratado.
- Autorização de concurso não é edital aberto: o edital costuma sair meses depois. A tabela do MGI não inclui universidades e institutos federais.
- O último ano de cada fonte é parcial.
Atualização automática
Toda segunda-feira uma GitHub Action consulta as fontes, baixa só os arquivos novos do CAGED (cerca de 50 MB por mês), descobre as planilhas de concursos na página oficial e regenera os dados. Só há commit — e novo deploy na Vercel — quando alguma fonte publicou dados novos.
Para rodar manualmente: python scripts/atualizar.py (ou npm run dados).