Com a inteligência artificial (IA) se tornando mais comum nas operações de negócios, a implementação ética da IA é da mais alta prioridade. A próxima legislação de governança de IA da Comissão Europeia garantirá que a interação cotidiana dessas tecnologias permaneça ética e legal.

A lei de IA - a primeira do mundo - fornece um roteiro para mudanças de longo alcance na forma como usamos a IA, procurando regular eticamente os desenvolvedores de aplicativos de IA.

Ao implementar uma legislação rígida semelhante ao GDPR e Sarbanes Oxley, a governança da IA implementará penalidades por não conformidade, e multas de 30 milhões de euros (187 milhões de reais), ou 6% do faturamento corporativo anual global, foram propostas pela Lei de IA da UE, sugerindo que a penalidade mais alta deve ser dada.

As empresas devem avaliar seus fluxos de trabalho e identificar as áreas em que a IA é implementada, bem como os riscos potenciais que ela traz.

A hora de agir é agora

A governança afetará tudo, desde a automação da manufatura digital até aplicativos que imitam os trabalhadores humanos de back-office. Escritórios governamentais, setores jurídicos e de saúde que usam IA para extrair dados, preencher formulários ou mover arquivos precisarão estar em conformidade.

Se você usa operação robótica, gerenciamento de fluxo de trabalho BPI, ICR convertendo manuscrito em texto legível por computador ou IA ou ML de nível profundo, você precisa cumprir. A automação é coberta, portanto, as empresas precisam examinar como usam a IA e garantir que as equipes atendam às necessidades regulatórias à medida que melhoram continuamente as tarefas ou processos automatizados. A boa notícia é que, ao criar uma trilha digital auditável, a IA é ideal para a regulamentação da IA, pois pode aumentar a eficiência em todos os fluxos de trabalho e ter insights completos e auditáveis – um superpoder em si.

Criando governança de IA em sua empresa

Ao ter uma estrutura robusta de IA, as organizações podem ser responsáveis e supervisionar o desenvolvimento e a implantação – promovendo práticas éticas e aumentando a confiança entre os usuários. Em última análise, todos têm responsabilidade, começando com as diretrizes internas de IA:

• De cima para baixo: os líderes de negócios são responsáveis pela governança da IA, portanto, designe um diretor de dados ou comitê de auditoria para melhorar a qualidade, a segurança e o gerenciamento dos dados.
• De baixo para cima: equipes individuais podem assumir a responsabilidade pela segurança dos dados, modelagem e suas tarefas para garantir padronização e escalabilidade.
• Modelagem: Um modelo de governança eficaz deve monitorar e atualizar o desempenho e as metas gerais da organização.
• Transparência: Acompanhar o desempenho da sua IA é igualmente importante, pois garante transparência às partes interessadas e aos clientes e é essencial para o gerenciamento de riscos.

Trabalhando dentro de estruturas de governança de IA

Qualquer pessoa que utilize IA deve manter a transparência e a conformidade – um desafio, pois os padrões estão em construção – e aqueles que desconsideram a governança enfrentam vazamentos, fraudes e privacidade ignorada.

Governos, empresas e academia continuam a estabelecer diretrizes e estruturas, com vários exemplos do mundo real abordando as implicações éticas, legais e sociais da inteligência artificial.

O GDPR da UE, embora não se concentre na IA, inclui disposições de proteção de dados e privacidade relacionadas a sistemas de IA. Além disso, a Parceria sobre IA e a Declaração de Montreal para IA Responsável se concentram em pesquisa, melhores práticas e diálogo aberto sobre desenvolvimento.

A “Estratégia Pan-Canadense de IA” do Canadá enfatiza o desenvolvimento e o uso da IA para beneficiar a sociedade, incluindo iniciativas relacionadas à ética, transparência e responsabilidade da IA. Os Princípios de IA do Google descrevem seu compromisso com a IA para o bem social, evitando danos e garantindo justiça e responsabilidade. Microsoft, IBM e Amazon têm diretrizes semelhantes.

Um guia de 14 etapas para começar sua jornada de governança de IA

Garantir a governança da IA envolve o estabelecimento de processos, segurança e práticas de previsão. Aqueles que usam IA devem incluir verificações de risco e viés de IA. Além disso, existem várias abordagens estratégicas para a governança da IA.

• Diretrizes de desenvolvimento: Estabeleça práticas regulatórias e recomendadas de IA com base em fontes de dados, treinamento, engenharia e avaliação de modelos, riscos e benefícios potenciais.
• Gerenciamento de dados: certifique-se de que os dados de treinamento e os modelos de IA sejam precisos e estejam em conformidade com os requisitos regulatórios e de privacidade.
• Mitigação de viés: incorpore maneiras de lidar com o viés nos modelos de IA para garantir resultados justos.
• Transparência: exija que os modelos de IA forneçam explicações para as decisões.
• Validação e teste de modelos: Realize validações e testes regulares de modelos de IA.
• Monitoramento: monitore o desempenho da IA com um human-in-the-loop para atender às necessidades.
• Controle de versão: acompanhe modelos de IA, dados de treinamento, configurações e métricas.
• Gerenciamento de riscos: implemente práticas de segurança para proteger a IA contra ataques de segurança cibernética, violações de dados e outros riscos de segurança.
• Documentação: mantenha a documentação de todo o ciclo de vida do modelo de IA, incluindo fontes de dados, testes e treinamento, hiperparâmetros e métricas de avaliação.
• Treinamento e conscientização: Treine os funcionários sobre ética, práticas e possíveis impactos sociais das tecnologias de IA e a importância da governança em toda a organização.
• Conselho de governança: Estabeleça uma equipe de governança responsável pela IA.
• Auditoria regular: audite o desempenho do modelo de IA e a conformidade ética do algoritmo.
• Comentários do usuário: forneça mecanismos para comentários do usuário de IA sobre o comportamento.
• Melhoria contínua: incorpore as lições aprendidas com a implantação da IA no processo de governança para melhorar continuamente o desenvolvimento e a implantação.

O futuro da governança

Construir uma governança de IA que se alinhe aos valores organizacionais, apoiada pela disposição de se adaptar às mudanças e desenvolvimentos tecnológicos, é um compromisso contínuo.

À medida que a inteligência artificial e a automação são cada vez mais implementadas nas operações de negócios, é essencial ter regulamentos de segurança e regimes de governança implementados para garantir que os dados sejam mantidos seguros, precisos e em conformidade. Seguir essas etapas ajudará a garantir que você desenvolva e implemente a IA de maneira responsável e ética.