Seu próximo nível começa aqui
Seu desenvolvimento não pode ter limites. Garanta sua Assinatura Ilimitada e libere uma preparação completa com os melhores professores do Brasil.
Certa startup brasileira desenvolveu uma aplicação de inteligência artificial para auxi...
Certa startup brasileira desenvolveu uma aplicação de inteligência artificial para auxiliar a justiça federal na análise inicial de recursos jurídicos de baixo valor. O sistema opera como um agente inteligente que utiliza um extenso dataset de jurisprudências passadas para calcular a probabilidade de sucesso de novos recursos, com o objetivo de otimizar a triagem processual ao maximizar a taxa de acerto nas suas previsões. Em testes, a aplicação atingiu uma impressionante taxa de precisão de 98% na previsão de resultados. No entanto, uma auditoria de compliance ético revelou que o algoritmo apresentava um viés: os recursos originários de regiões com baixo índice de desenvolvimento humano (IDH) do Nordeste brasileiro eram sistematicamente classificados com menor probabilidade de sucesso, mesmo quando apresentavam mérito legal similar a casos de regiões mais desenvolvidas. A equipe técnica defendeu o sistema, alegando que ele era racional, pois maximizava consistentemente a métrica de acerto definida.
Considerando a natureza do sistema criado nessa situação hipotética e a distinção fundamental entre racionalidade e justiça em sistemas de IA, assinale a opção que apresenta corretamente a falha ética do sistema à luz dos conceitos básicos da inteligência artificial.
A
O viés regional é uma prova incontestável de que o sistema é um exemplo de inteligência artificial simbólica, pois somente essa arquitetura, baseada em regras pré-codificadas, é capaz de manifestar discriminação explícita, ao contrário dos modelos conectivistas (redes neurais).
B
A falha do sistema é uma evidência de que ele não pode ser classificado como um agente racional, pois, por definição, ele deve seguir a função de utilidade ideal de uma sociedade justa, o que exige que o sistema possua consciência e um senso moral.
C
O sistema é um agente puramente reativo, e sua incapacidade de manter estados internos sobre a equidade do dataset é a causa direta do viés, o que demonstra a ineficácia dos sistemas de machine learning baseados em modelos.
D
O sistema demonstra uma limitação da inteligência artificial forte, cuja alta taxa de acerto é incompatível com o viés, o que confirma que a singularidade tecnológica não será alcançada enquanto os sistemas de inteligência artificial não forem treinados apenas com dados totalmente neutros, sem histórico humano.
E
A racionalidade técnica do sistema é mantida, pois ele maximiza sua função utilidade (taxa de acerto), mas o viés detectado reside na definição dessa utilidade ou na qualidade dos dados de treinamento, o que o caracteriza como um sistema racionalmente tendencioso, mas não irracional.