CHATGPT: Entendendo a tecnologia para fins de negócio

hello world!

Desde o fim de Novembro de 2022, vários canais vêm bombando ao falar sobre o modelo linguístico desenvolvido e disponibilizado pela OpenAI: o ChatGPT. Sua capacidade de gerar textos que parecem ter sido escritos por humanos tem impressionado o mundo: desde escolas tendo de repensar seus métodos de ensino e avaliação por conta do uso por alunos, até hackers e golpistas elaborando ataques cada vez mais eficazes devido à sofisticação dos emails de phishing.

Essa tecnologia veio de maneira disruptiva e tem chacoalhado vários setores, principalmente dada a evolução da API e seus modelos para uso comercial. Essa API, contudo, não é tão recente assim.

Foi disponibilizada em 2020 pela empresa já com modelos do GPT-3 que, em comparação com o GPT-3.5 utilizado pelo ChatGPT, não fica tanto para trás. Mas o que isso tudo significa? O que, de fato, é essa tecnologia e como ela funciona? Quais suas capacidades e limitações e, principalmente, quais as aplicações de negócio que já estão no horizonte de possibilidades? Neste artigo, vamos desbravar o ChatGPT e explorar essas questões.

O que é o ChatGPT?

Em poucas palavras e sem entrar muito nos aspectos técnicos, é uma aplicação disponibilizada pela OpenAI para fins de pesquisa, testes e melhoria das ferramentas e modelos que rodam por trás do funcionamento dela. Ela trabalha em cima de modelos linguísticos impulsionados por machine learning (Reinforced Learning from Human Feedback, ou RHLF), tendo sua rede neural com mais de 175 bilhões de nós treinada com mais de uma centena de bilhão de palavras em diversas línguas. Esses modelos são o que de fato nos interessa uma vez que, a partir de seu uso, a ferramenta é capaz de completar excertos de texto partindo de prompts de instrução e contexto.

Ou seja, tendo-se um prompt inicial e baseando-se no corpo de texto no qual foi treinado, o modelo calcula quais palavras são as mais prováveis de serem colocadas a seguir em relação ao contexto total e, assim, uma palavra atrás da outra, elabora artigos de texto coerentes e em linguagem natural. Mas qual o grande diferencial do modelo do ChatGPT em comparação aos outros modelos da geração GPT-3.5?

Em termos gerais, o modelo do ChatGPT foi treinado com um foco extra em conjuntos de diálogos nas suas bases de treinamento. A interação da aplicação neste formato de diálogo permitiu um melhor desempenho do modelo ao possibilitar ao ChatGPT responder perguntas subsequentes sem perder o contexto, reconhecer quando lhe é apontado erros, negar premissas incorretas e rejeitar pedidos inapropriados. Isso tudo é possível adicionalmente às capacidades já conhecidas dos demais modelos GPT-3.5 que são, principalmente:

Entender textos em linguagem natural;
Gerar respostas coesas e coerentes em linguagem natural;
Extrair informações precisas, quando passado o contexto;
Adaptar o tipo de resposta com base no contexto da pergunta;
Melhorar com o tempo através de refinamentos e novos treinamentos;
Lidar com perguntas abertas;
Identificar padrões como perguntas frequentes;
Análise textual, de entidades, tópicos, sentimentos e intenções;
Auxílio no desenvolvimento de código
Tradução de textos para diversas línguas
Entre outras.

Limitações do ChatGPT

Ao considerar possíveis implementações da API que disponibiliza o uso dos modelos linguísticos, é importante levarmos em conta as seguintes premissas:

Primeiramente, apesar dos textos gerados aparentarem ser escritos por humanos, devemos lembrar que a ferramenta não possui a análise crítica e o bom senso que nós temos. Isto é, como ela gera textos tentando adivinhar a sequência mais provável de palavras seguidas da requisição, podem acontecer erros factuais (principalmente ao considerar que sua base de treinamento está atualmente congelada em 2021) ou frases sem sentido e irrelevantes ao contexto pedido. Além disso, o modelo sempre irá tentar responder a sua pergunta e pode, nessas tentativas, fornecer respostas incorretas.

Outra questão é ela ser incapaz de gerar conteúdos genuinamente criativos ou inovadores. Embora consiga gerar textos aparentemente novos, isso é feito a partir da reprodução de padrões em textos antes vistos. Portanto, é incapaz de gerar algo como uma ideia ou texto que nunca viu.

Adicionalmente, devemos considerar as limitações do uso da solução no formato de API. Atualmente, as requisições aos modelos possuem limites na quantidade total de palavras que podem ser enviadas e retornadas em cada requisição. O formato permite o uso de 2.048 até 8.001 tokens (a verdadeira unidade de construção das frases) por requisição a depender do modelo escolhido. Cada 1.000 tokens equivalem a aproximadamente 750 palavras. Ou seja, a quantidade de palavras, enviadas e recebidas juntas, deve girar em torno de 1.500 a 6.000.

Assista ao nosso IcaroCast:
CHATGPT: Saiba mais sobre essa tecnologia

Por fim, a forma de uso e chamada das requisições repercute em outra limitação: que todo o conteúdo recebido e gerado deve estar em formato de texto e não estruturado. Isso é importantíssimo quando planeja-se montar aplicações que funcionem utilizando seu motor linguístico. Adicionalmente, do ponto de vista de negócios, temos que estar atentos em relação às informações que são enviadas para o ChatGPT. Não recomendamos enviar informações confidenciais e sensíveis, pois esses dados são armazenados temporariamente pela OpenAI, apesar de não serem utilizados para treinamento.

Essas limitações são premissas essenciais a serem consideradas quando pensando em soluções que façam uso dessa nova tecnologia. Contudo, espera-se que com a evolução das pesquisas, dos modelos e seus treinamentos, alguns desses fatores possam ser mitigados, principalmente aqueles que dependem mais da otimização tecnológica que dos conceitos teóricos por trás do funcionamento. No geral, a API disponibilizada é impressionante apesar de suas limitações e já permite a aplicação comercial em muitos casos, que iremos explorar mais a fundo a seguir.

Aplicações Comerciais do ChatGPT

Um dos primeiros casos de uso para aplicação dessa tecnologia, é no auxílio ao desenvolvimento de sistemas.

O ChatGPT pode ser usado para melhorar a eficiência do processo de desenvolvimento de um projeto de sistemas, fornecendo suporte em tarefas do dia a dia, na documentação, na geração de código e até oferecendo e explicando bugs fixes. Com a sua capacidade de entender a linguagem natural, ele pode ajudar os desenvolvedores a explorar melhor os requisitos de negócio, organizar o processo de desenvolvimento e a criar soluções mais eficazes.

Potenciais benefícios:

Redução de tempo e esforço na codificação e desenvolvimento de aplicações;
Melhoria da qualidade e eficácia do código;
Melhor redação e organização das tarefas e atividades do dia a dia;
Documentação de código mais eficiente;
Fornecimento de soluções rápidas para problemas de código.

Outra frente que enxergamos é o atendimento via assistente virtual inteligente para prover respostas rápidas e precisas para as perguntas dos usuários.

Pode ajudar nossos clientes a entender as necessidades de seus usuários, buscar informações relevantes, recolher feedback e fornecer soluções adequadas com base no domínio do negócio respectivo. Além disso, o ChatGPT pode melhorar com as interações anteriores através de uma curadoria e fine-tuning dos modelos.

Assista ao PodCast:
IcaroCast #020: ChatGPT: Saiba tudo sobre essa Tecnologia

Potenciais benefícios:

Melhoria da eficiência do atendimento ao cliente, sua experiência e satisfação;
Fornecimento de respostas precisas e personalizadas para os usuários;
Aumento da eficiência dos profissionais caso feito para atendimento interno;
Aprendizado constante e melhoria do chatbot.

Um potencial caso de uso interessante, porém pouco discutido devido a algumas limitações dos modelos, é para criar automações processuais rápidas e simples.

Isso seria feito através das requisições que passem os dados de maneira não estruturada e, em virtude da detecção de padrões e da lógica básica embutida nos modelos, poderíamos gerar respostas apropriadas ou comunicar outros sistemas para executar determinadas tarefas. Com isso, o ChatGPT pode ajudar a automatizar tarefas repetitivas e aumentar a eficiência de processos da empresa.

Potenciais benefícios:

Economia de tempo e esforço em tarefas repetitivas;
Aumento da eficiência do processo de negócio;
Melhoria da experiência do usuário.

Outro campo onde o uso desses modelos aumentaria enormemente a eficiência operacional é no auxílio para a criação de conteúdo textual, incluindo artigos de marketing, resumos de reuniões, descrições de material técnico, bullet-points de atividades de projeto e formulação de emails (entre infinitos exemplos).

Ele pode gerar ideias e sugestões de palavras-chave, além de fornecer textos personalizados para cada usuário. Com isso, o ChatGPT pode ajudar a criar conteúdo atraente, de qualidade e que auxilie os profissionais no seu dia a dia.

Potenciais benefícios:

Economia de tempo na criação de conteúdo;
Melhoria da qualidade do conteúdo;
Fornecimento de conteúdo personalizado para cada usuário.

Outra aplicação no horizonte do ChatGPT é que ele pode ser usado para auxiliar em pesquisas e análises, fornecendo insights úteis sobre grandes conjuntos de dados.

Ele pode analisar grandes quantidades de dados não estruturados, como feedback dos usuários, comentários em redes sociais, e-mails e outras fontes, fornecendo resumos úteis e análises de tendências. Inclusive, pode fornecer análises do sentimento dos usuários, o que pode ajudar as empresas a aperfeiçoarem seu entendimento do feedback dos usuários e a tomar medidas corretivas para melhorar a satisfação do cliente. Isso, resumidamente, auxiliará as empresas a tomarem decisões mais informadas.

Potenciais benefícios:

Análise rápida e eficiente de grandes quantidades de dados não estruturados;
Identificação de tendências, insights úteis e sentimentos dos clientes;
Melhoria da tomada de decisões baseada em dados.
Análise rápida e eficiente de feedback do usuário;
Identificação de áreas de melhoria;
Melhoria da satisfação do cliente.

Por último, um caso de uso relevante e, de certa maneira, relacionado ao anterior é ordenar, gerenciar e organizar dados não estruturados.

Os modelos podem analisar e, com um bom desenho de prompt e middlewares auxiliares, categorizar automaticamente dados não estruturados, como e-mails, documentos, transcrições de chamadas e outros, para tornar mais fácil para as empresas acessar e utilizar esses dados. Isso pode ajudar as empresas a tomar melhores decisões e a melhorar a eficiência do processo e operações.

Potenciais benefícios:

Análise rápida e eficiente de grandes quantidades de dados não estruturados;
Categorização automática de dados;
Melhoria da eficiência do processo.

Esses casos de uso são apenas alguns num horizonte de possibilidades gigantescas. Exploramos os que, no momento, consideramos mais relevantes dentro do nosso domínio e dentro do valor que podemos agregar aos nossos clientes. Temos o interesse e o compromisso de aprofundar nosso conhecimento para desenharmos soluções interessantes e de alto valor agregado.

Em suma, ao analisarmos as informações que trouxemos combinadas à nossa visão de futuro, concluímos que o ChatGPT veio para ficar. Com suas enormes capacidades, o interesse crescente de grandes organizações, clientes e profissionais em seu cotidiano, imaginamos que ele venha a crescer, não só em uso porém em qualidade também. Contudo, é importante ressaltar que existem limitações e riscos a serem considerados, não sendo nenhuma solução mágica, tão pouco a singularidade da Inteligência Artificial.

O essencial é levarmos em conta como mitigar ditos riscos e que, a cada dia e a cada atualização dessa tecnologia, teremos mais insights sobre como alavancá-la para simplificar a vida dos nossos clientes. Gostaria de saber como o Chat GPT pode ajudar o seu negócio? Fale com a gente sales@icarotech.com

Gabriel Samori Parreira
Analista de Pré Vendas - Especialista em Chatbots