Imagem de fundo

Um órgão público implementou um sistema contendo Inteligência Artificial para auxiliar ...

Um órgão público implementou um sistema contendo Inteligência Artificial para auxiliar na análise de concessão de benefícios sociais. Após a implantação, surgiram questionamentos de cidadãos sobre os critérios utilizados pelo sistema para indeferir solicitações, bem como preocupações relacionadas à proteção de dados pessoais e à possibilidade de discriminação indireta. À luz dos princípios básicos de uso responsável de IA, a conduta tecnicamente condizente para o órgão público é


A

utilizar dados públicos abertos, eliminando a necessidade de preocupação relacionada com a privacidade ou vieses no sistema.


B

substituir a análise humana pelas decisões automatizadas do modelo, evitando situações de interferência subjetiva durante o processo.


C

manter o modelo em sigilo para preservar a segurança do algoritmo e evitar que os cidadãos questionem as decisões automatizadas.


D

disponibilizar explicações compreensíveis sobre os critérios de decisão do sistema e adotar medidas de proteção de dados pessoais.


E

permitir acesso ao código-fonte do modelo e aos dados pessoais utilizados no treinamento, garantindo transparência operacional.