A Inteligência Artificial Gerativa (GenAI) e aplicativos como o ChatGPT se tornaram as mais recentes palavras da moda tecnológica.

O Gartner prevê que a GenAI terá um impacto profundo nos negócios e na sociedade, posicionando-a no topo da expectativa inflada dentro de seu ciclo Hype para tecnologias emergentes, 2023, e projetando que alcançará benefícios transformacionais dentro de dois a cinco anos.

Apesar de ser recebida com entusiasmo por muitos, a ansiedade da IA está se espalhando por toda parte, à medida que as pessoas consideram os impactos que ela pode ter em empregos futuros – e as potenciais implicações de segurança em torno dos dados.

Você não precisa procurar muito pelas manchetes hoje para encontrar notícias sobre IA e, em particular, como o governo planeja lidar com as implicações de segurança.

No início do ano, o primeiro-ministro Rishi Sunak anunciou os planos do Reino Unido de sediar a primeira grande cúpula global, para de mitigar os riscos associados à implementação maciça de IA. Entretanto, a Autoridade de Proteção de Dados da UE criou uma força tarefa para avaliar os sistemas GenAI.

Com a segurança e a soberania dos dados permanecendo uma preocupação fundamental, isso levanta a questão – qual é a realidade dessa tecnologia de ponta no cenário de negócios atual?

GenAI nos negócios

Com o know-how certo, a GenAI promete criar interfaces conversacionais que envolvam os clientes de forma mais personalizada, levando a uma melhor satisfação e fidelização.

No futuro, ela também poderá, quando combinada com outras tecnologias e processos, capacitar as organizações a fornecer suporte ininterrupto, maior eficiência e insights orientados por dados para melhorar produtos e serviços futuros.

A verdade é que o conceito de sistemas de IA gerando conteúdo é anterior à terminologia específica usada para descrevê-la, e vários termos e ideias relacionados estão presentes na pesquisa de IA há décadas.

As organizações vêm colhendo os benefícios dos modelos de linguagem natural há algum tempo dentro do contact center, para de otimizar a experiência do cliente e, ao mesmo tempo, aumentar a produtividade.

Embora ferramentas como o ChatGPT certamente possam ser vistas como um desenvolvimento, os chatbots como um todo também existem há muitos anos, permitindo que os clientes se resolvam sozinhos e encontrem respostas para perguntas comuns por meio de portais de autoatendimento alimentados por IA.

Embora ferramentas de GenAI como essas possam ser usadas para diversos fins – incluindo suporte ao cliente, geração de leads e processamento de linguagem natural – o contexto em que elas são usadas deve ser considerado cuidadosamente.

Por exemplo, o uso de IA para personalizar conteúdo para clientes em grande escala pode ser alcançado com consequências mínimas. Por outro lado, para qualquer organização de alto risco – por exemplo, um fundo do NHS lidando com um paciente e um conselho local lidando com uma exigência de assistência social – confiar apenas em uma decisão de IA pode levar ao desastre.

Para colher os benefícios oferecidos, é importante reconhecer que a) uma abordagem única para a GenAI simplesmente não irá funcionar e b) você precisa ter humanos no circuito para que ela seja segura e eficaz.

Como descrito por Ginni Rometty, da IBM, “inteligência aumentada” é um termo muito mais preciso – em vez de substituir as pessoas, a IA é uma tecnologia para aumentar a inteligência humana.

Esteja ciente dos riscos

A falta de inteligência humana também levanta preocupações mais amplas em torno da viabilidade de ferramentas como o ChatGPT. Os modelos de IA podem ser propensos a herdar certos vieses presentes em seus dados de treinamento, o que pode levar a respostas potencialmente tendenciosas e discriminatórias às entradas do usuário.

A desinformação é outra preocupação fundamental quando um modelo de IA não é cuidadosamente supervisionado e ajustado. Isso pode acontecer quando um modelo de IA pode não entender completamente o contexto da pergunta, resultando em uma resposta inadequada.

O maior risco para as organizações, no entanto, é o impacto que a GenAI pode ter nos dados. À medida que o hype em torno da IA continua a crescer, o mesmo acontece com a apreensão em torno da segurança e da privacidade.

Em outubro de 2023, o Snapchat recebeu um aviso preliminar de aplicação por potencial falha em avaliar adequadamente o risco de privacidade associado ao seu chatbot de IA generativa 'My AI'. A investigação do Comissário de Informação do Reino Unido descobriu que a plataforma de mídia social Snap não conseguiu identificar e avaliar adequadamente os riscos para vários milhões de usuários de 'My AI' no Reino Unido, incluindo crianças de 13 a 17 anos.

As empresas precisam ser cautelosas sobre os dados que alimentam nos modelos de IA, por quem e onde estão sendo processados (ou seja, se é um ambiente controlado) – garantindo a conformidade com leis e regulamentos relevantes de proteção de dados para proteger a privacidade do cliente.

Embora as regulamentações existentes, como o GDPR, já sejam aplicáveis aos sistemas GenAI, a regulamentação adicional em torno da IA será fundamental para garantir seu futuro. O estabelecimento de diretrizes e um conjunto de padrões para proteger dados públicos facilitará o desenvolvimento e a implementação responsáveis de IA dentro da empresa.

Tornando a IA segura e aplicável

Embora parte do hype em torno da GenAI possa ser justificado, ele também é útil por dois motivos. Em primeiro lugar, a exposição aumentou a conscientização em torno da soberania dos dados e das preocupações com a privacidade ao adotar novas ferramentas e tecnologias. Em segundo lugar, tem o potencial de inspirar as empresas a pensar sobre seu próprio uso de IA.

Automatizar de forma inteligente, no entanto, exige que as empresas considerem o que querem alcançar e como. Garantir que o uso de IA seja seguro e aplicável deve permanecer na vanguarda de qualquer jornada de transformação.

Ferramentas de plataforma como serviço, como plataformas low-code, que são projetadas como plataformas abertas e interoperáveis, podem suportar a implementação do ChatGPT e outros aplicativos GenAI, fornecendo componentes de IA pré-construídos, recursos de integração e uma interface visual fácil de usar para desenvolvedores e usuários não técnicos projetarem e implantarem aplicativos alimentados por IA.

Para as empresas que implementam a IA dessa maneira, há benefícios a serem obtidos. Embora a realidade possa ser menor do que o esperado (neste estágio), o impacto na experiência do cliente e do funcionário ainda pode ser significativo se implementado de forma eficaz.

Ao adotar plataformas que capacitam a integração simples e segura da IA, as empresas podem começar a experimentar a GenAI, dando passos pequenos, mas seguros, em direção aos seus objetivos de transformação.

Mais sobre IA Generativa