As tecnologias de processamento de linguagem natural ganharam grande relevância com o lançamento do ChatGPT, trazendo à tona discussões sobre os riscos da adoção de aplicações que utilizam inteligência artificial generativa, como segurança e privacidade de dados e autenticidade das informações fornecidas.
Grandes modelos de linguagem (LLM, Large Language Model), como o GPT-3 e o recém-lançado GPT-4, usam acervos gigantescos de conteúdos criados por humanos e publicamente disponíveis na internet como fonte – conteúdos que não necessariamente estão corretos ou, ainda, que estão de acordo com conceitos éticos.
Além disso, um grande diferencial dessas tecnologias é a capacidade de aprendizado a partir das interações feitas com usuários. Em linhas gerais, a inteligência artificial generativa se retroalimenta: uma vez que um usuário fornece um texto, um código, ou algum outro tipo dado, essas informações passam a fazer parte do domínio da plataforma, podendo ser reutilizadas para ajudar a construir novas respostas para outros usuários.
Neste artigo vamos debater o uso desse tipo de tecnologia no contexto corporativo, uma vez que plataformas como o ChatGPT já vêm sendo amplamente exploradas por empresas. Confira!
O entusiasmo exige cautela
O que pode parecer ser o sonho de qualquer profissional para acelerar tarefas de rotina, é também um campo minado. Com a ascensão meteórica do ChatGPT e a popularidade que a plataforma ganhou – mais de 100 milhões de usuários em apenas dois meses do lançamento do chatbot gratuito – o uso inconsequente dessas plataformas por colaboradores de grandes empresas que ainda não adotaram devidamente a tecnologia surge como um risco iminente.
Quando consultado a respeito desse tema, o próprio ChatGPT sugere a seguinte resposta:
“A OpenAI segue rigorosos protocolos de segurança e privacidade para proteger as informações dos usuários, incluindo códigos e scripts. Todas as informações fornecidas são mantidas estritamente confidenciais e não são compartilhadas com terceiros sem o consentimento explícito do usuário.
No entanto, é importante lembrar que o ChatGPT é uma ferramenta automatizada e, portanto, não pode garantir a segurança de todas as informações fornecidas. Por isso, é importante tomar precauções ao compartilhar informações confidenciais, incluindo códigos e scripts, especialmente em ambientes públicos, para garantir a proteção de suas informações pessoais.”
Atentos a esse problema, empresas multimilionárias, como Amazon, JP Morgan, Verizon, Ikea já estão se posicionando em relação ao uso de tecnologias de inteligência artificial generativa. A solução: proibir que seus funcionários utilizem plataformas como o ChatGPT.
Enquanto não se sabe ao certo como funcionam os mecanismos internos de segurança impostos pelas criadoras dessas tecnologias de IA generativa, como a OpenAI, é preciso agir com cautela. E como fazer isso? Nossa sugestão é que as empresas se atentem a pontos fundamentais, como regulamentação e governança.
Responsabilidade no uso de tecnologias de IA Generativas
O caráter humano é indispensável para a adoção ideal de ferramentas de inteligência artificial generativa. Aí está a fronteira que pode limitar o uso inconsequente dessas tecnologias: regulamentação e governança.
Segundo definição do Gartner, governança de dados é um conjunto de medidas que engloba uma coleção de processos, funções, políticas, padrões e métricas que garantem o uso eficiente e eficaz das informações, permitindo que uma organização alcance suas metas.
Por enquanto, ainda não temos políticas específicas para o uso correto de inteligência artificial generativa. Mas as leis de regulamentação que abordam o compartilhamento de dados no âmbito virtual podem servir como guia para uma implementação mais segura no momento atual. Na União Européia, por exemplo, está em vigor desde 2018 o Regulamento Geral sobre a Proteção de Dados (RGPD), que protege os indivíduos sempre que os seus dados forem objeto de tratamento pelo setor privado e pela maior parte do setor público.
Em paralelo, no Brasil temos a Lei Geral de Proteção de Dados (LGPD), que também atua de forma semelhante. Ainda que esse tipo de regulamentação não tenha se tornado obrigatório, é crescente o número de entidades reguladoras de tecnologia. Mais de 120 países já contam com algum tipo de lei regulatória de proteção de dados no âmbito digital. A própria Casa Branca, instituição máxima do governo dos Estados Unidos, lançou um projeto que visa a criação de parâmetros de segurança em torno do uso de IA.
Em essência, as empresas precisam investir em governança de dados para conseguir crescer dentro de um contexto de avanços tecnológicos cada vez mais rápidos, administrando dados melhores e mais confiáveis, com veracidade comprovada e de acordo com o compliance regulatório, jurídico e setorial. Esse esforço pode gerar uma significativa redução de custos, uma vez que já foi comprovado que a má gestão de dados pode levar a prejuízos impressionantes.
💡 Leia também: GPT-3 e a nova era da inteligência artificial: o que podemos esperar?
O que é feito, segundo o Gartner
AI PRiSM, um conjunto de princípios criado pelo Gartner, indica alguns fundamentos para o uso consciente e seguro de sistemas de inteligência artificial. São eles:
- Governança do modelo de IA
- Confiabilidade
- Imparcialidade
- Robustez
- Eficácia
- Proteção de dados
Para obter melhores resultados em termos de implementação de ferramentas de IA, alcançar metas de negócios e a plena aceitação dos usuários, as organizações precisam gerenciar a confiança, o risco e a segurança da IA. Em nosso próximo artigo, iremos nos aprofundar na gestão dos riscos do uso dessas plataformas e destrinchar os fundamentos elencados no AI PRiSM.
A Inmetrics, líder na América Latina em Engenharia de Qualidade de Software e expoente em desenvolvimento de Produtos Digitais, Cloud e DevOps, se mantém profundamente focada nos avanços do campo da IA.
Com 20 anos de história e mais de 25 milhões de horas de experiência, nossos times estão preparados para analisar as oportunidades para o seu negócio e iniciar o processo de implementação de IA de maneira totalmente segura, estratégica e qualitativa.
