A IA Generativa foi desenvolvida para ser capaz de criar novas ideias e conteúdos, como conversas, histórias, imagens, vídeos, músicas, toda uma infinidade de opções criadas a partir dos dados do mundo. No entanto, esse tipo de tecnologia busca emular a inteligência humana em tarefas de computação não tradicionais, como reconhecimento de imagem, processamento de linguagem natural (NLP) e tradução e também está gerando uma infinidade de desafios que devem ser enfrentados.
Durante o evento “Blend the Future 2024”, desenvolvido pela CANVIA e IBM, Alberto Indacochea, Diretor de IA da IBM, destacou que um dos principais desafios do setor é que os usuários usem a IA como uma ferramenta para possuir o que constroem. No entanto, a ausência de novos dados levará a uma desaceleração no ritmo do progresso. “Há muito trabalho a ser feito por parte da geração de dados, porque os dados públicos se esgotaram no mundo. Hoje, a IA não tem mais dados para treinar. A indústria valoriza mais os dados emergentes do que os dados armazenados”.
Para Hugo Goicochea, CEO da CANVIA, os casos de IA Generativa também estão ajudando nos processos internos dentro das empresas. “A CANVIA criou um chatbot com o uso do Assistente IBM Watson para a gestão de Recursos Humanos que permitiu às empresas obter processos muito mais eficientes e ágeis, bem como responder às dúvidas que seus colaboradores têm, desenvolvendo mais de 500 respostas sobre 20 temas diferentes. Os setores mais avançados, como serviços financeiros e telecomunicações, em que muitas informações são tratadas, têm sido de vital importância no crescimento do uso da IA para ganhar participação de mercado”.
Da mesma forma, embora as novas tecnologias tenham possibilitado otimizar o desenvolvimento e o crescimento das empresas por meio da digitalização de processos e da adoção de assistentes virtuais, ainda existem vários desafios que devem ser superados para que a IA Generativa possa escalar em seus negócios. “Algumas das preocupações da indústria ocorrem por desvios, alucinações da IA que podem levar ao seu uso indevido, bem como a falta de transparência e os efeitos potenciais na criatividade e originalidade. O uso de grandes conjuntos de dados para treinar algoritmos de IA também levanta questões sobre proteção e privacidade de dados, bem como o uso do Shadow AI pelos próprios colaboradores”, disse Indacochea.
“É preciso construir uma plataforma de IA generativa que possa se integrar a processos e aplicativos de negócios, com opções de modelo em uma única plataforma. Da mesma forma, garantir seu uso de forma ética e segura por meio do estabelecimento e cumprimento de estruturas, regras e padrões”, disse o porta-voz da IBM. Por sua vez, o CEO da CANVIA, destacou que a geração de dados confiáveis e de alta qualidade será importante. “Um dos principais desafios é como governamos os dados, muitas vezes temos a mesma versão de um dado em diferentes sistemas que podem gerar inconsistências. Portanto, o papel humano na criação de dados emergentes deve ser seguro, confiável e ético para que os modelos criados pelas organizações tenham decisões éticas e integrais que estejam alinhadas com o propósito de suas organizações”.