Código de Governança e Ética em IA

Esse é o Código de Governança e Ética em IA da E2E OUTSOURCING LTDA, que reflete nossa preocupação com os impactos da IA sobre a sociedade e as diretrizes que devemos considerar quando estamos desenvolvendo algoritmos de IA. 

NOSSO CÓDIGO DE GOVERNANÇA E ÉTICA EM IA 

• IA deve ser desenvolvida para uma finalidade específica e definida;

• A finalidade da IA deve ser explícita e tornada pública por seu desenvolvedor;

• IA deve ser desenvolvida com empatia pelos seres humanos;

• IA não deve promover abusos na privacidade de dados de humanos;

• IA não poderá ser utilizada para fins ilegais ou antiéticos;

• IA não poderá manipular os seres humanos;

• IA não poderá manipular a sociedade;

• IA não deve ser utilizada para que humanos possam subjugar ou dominar outros humanos;

• IA não deve causar danos intencionalmente aos humanos, sejam eles morais, emocionais, mentais, físicos, econômicos ou sociais;

• A IA não deve ser desenvolvida para enganar deliberadamente os humanos (deep fake, etc.);

• IA não deve ter viés e deve mitigar o viés dos humanos;

• Protocolos devem ser utilizados para prevenção do viés em Datasets usados em treinamento de algoritmos de IA, seja este viés introduzido por seres humanos ou por outras fontes;

• IA deve tentar mitigar o preconceito, intolerância, discriminação e viés dos seres humanos, buscando sempre maximizar a imparcialidade e equanimidade;

• Algoritmos de IA devem ser auditados e testados para verificação de viés;

• As decisões tomadas por IA devem poder ser questionadas. Alçadas e responsáveis devem ser definidos para o caso de humanos desejarem questionar algoritmos.

​

ETAPAS DE ANÁLISE DO DESENVOLVIMENTO DE SOLUÇÕES DE IA

1. FINALIDADE

• A finalidade foi definida pelo desenvolvedor e está clara e explicita?

2. LEGALIDADE

• Os aspectos legais relacionados ao algoritmo foram analisados previamente por uma equipe especializada?

• O algoritmo está em conformidade requisitos legais?

3. ÉTICA

• Os aspectos éticos relacionados ao algoritmo foram analisados previamente por uma equipe diversa?

• O algoritmo atende aos requisitos éticos?

4. VIÉS

• Foram analisados potenciais efeitos indesejáveis provenientes de viés e preconceitos introduzidos nos dados por humanos ou outras fontes?

• Foram usados protocolos para analisar e eliminar o viés do Dataset?

• O resultado dos algoritmos foi auditado para verificação de existência de viés?  

5. DECISÕES

• O algoritmo produz decisões que possam impactar ou prejudicar seres humanos?

• Foram definidas alçadas e responsáveis para analisar o questionamento de humanos sobre decisão de algoritmos?

6. REVERSÃO

• As decisões tomadas por algoritmos podem ser revertidas por humanos?

• Foram definidos procedimentos e responsáveis para reverter decisões de algoritmos?