Seu próximo nível começa aqui
Seu desenvolvimento não pode ter limites. Garanta sua Assinatura Ilimitada e libere uma preparação completa com os melhores professores do Brasil.
Determinada Secretaria da Fazenda implementou um sistema de IA para classificar automat...
Determinada Secretaria da Fazenda implementou um sistema de IA para classificar automaticamente declarações fiscais quanto ão risco de irregularidade. Após seis meses de operação, auditores identificaram que o modelo estava atribuindo pontuações de risco sistemalicamente mais altas para empresas de selores específicos, mesmo quando os indicadores financeiros eram similares aos de outros setores com pontuações menores. A análise técnica revelou que a base de dados histórica utilizada no treinamento continha proporcionalmente mais autuações em determinados setores devido a fiscalizações direcionadas realizadas no passado, e não necessariamente por maior incidência real de irregularidades. O modelo aprendeu e perpetuou esse padrão desproporcional. O problema de governança e ética em IA que estã caracterizado nessa siluação é:
A
Violação de privacidade, pois o modelo estã acessando dados sensíveis dos contribuintes sem autorização legal e utilizando informações protegidas pela legislação tributária para treinamento.
B
Falta de explicabilidade, pois à sistema não consegue fornecer justificativas compreensíveis sobre os motivos que levaram à classificação de risco de cada declaração fiscal individual.
C
Viés algorítmico, pois o modelo reproduz desproporções presentes nos dados de treinamento, gerando discriminação sistemática contra determinados grupos sem justificativa técnica objetiva.
D
Alucinação do modelo, pois o sistema está gerando classificações de risco fictícias que não correspondem aos dados reais inseridos pelos contribuintes nas declarações fiscais.
E
Falta de transparência, pois os contribuintes e auditores não têm acesso aos critérios e variáveis utilizados pelo algoritmo para calcular as pontuações de risco atribuídas.