Imagem de fundo

Durante o desenvolvimento de um sistema preditivo para auxiliar na gestão de processos ...

Durante o desenvolvimento de um sistema preditivo para auxiliar na gestão de processos judiciais em um Tribunal do Trabalho, uma equipe de analistas treinou dois modelos distintos para resolver problemas diferentes:


• O modelo A prevê se um processo será encerrado em até 6 meses (1) ou não (0), com base em dados como tipo de ação, número de audiências e histórico de partes envolvidas.

• O modelo B estima o número de dias até o encerramento do processo, utilizando variáveis como a vara do trabalho, grau de complexidade e duração média de tramitação por tipo de causa.


Após o treinamento, os seguintes resultados foram obtidos:


• O modelo A apresentou alta acurácia (92%), mas AUC-ROC de 0.61.

• O modelo B apresentou R2 de 0.83 no treino e 0.42 no teste, além de MAE (Mean Absolute Error) de 120 dias.


Com base nos resultados e considerando as boas práticas de avaliação preditiva quanto à qualidade e confiabilidade,


A

a acurácia elevada no modelo A e o R2 consistente no modelo B indicam que ambos têm desempenho adequado; embora a AUC do modelo A esteja próxima de 0.5 e haja queda no R2 do modelo B no teste, essas variações são normais em projetos preditivos e não comprometem a confiabilidade dos modelos.


B

o modelo A sofre com possível desbalanceamento de classes, o que reduz a confiabilidade da acurácia, mesmo estando elevada; já o modelo B mostra sinais de sobreajuste, evidenciado pela diferença expressiva entre R2 de treino e teste. É necessário reavaliar ambos antes de avançar.


C

o modelo À apresenta excelente desempenho, pois uma acurácia superior a 90% indica que a maior parte das previsões foi correta, tornando a AUC irrelevante neste caso.


D

o modelo B pode ser considerado adequado, pois o erro médio de 120 dias está dentro de uma margem aceitável em processos judiciais, mesmo que o R2 no teste tenha caído.


E

o modelo A é adequado para produção, pois mesmo com AUC moderada, a taxa de acerto geral garante sua aplicabilidade em classificações binárias.