O GPT da OpenAI e seu Chat-para pensar

Texto por Ana Regina Rêgo. Também disponível em Jornal O Dia e Portal Acesse Piauí.

A Inteligência Artificial-AI já se faz presente em nosso dia a dia há muitos anos, contudo, a maioria de nós não percebe tal presença silenciosa e ao mesmo tempo, grande influenciadora de nossos hábitos e condutas, não somente como consumidores de um mercado sem-fim, mas de nossos atos como cidadãos e como seres políticos. 

As grandes plataformas digitais, como já frisamos inúmeras vezes nesta coluna, se utilizam de modelos de AI treinados e aprimorados diariamente, com vistas não só ao aprimoramento da experiência de cada usuário em cada rede social digital, mas, principalmente, para que o modelo de AI possa cumprir com maestria as estratégias traçadas pelos distintos modelos de negócios de cada uma das big Techs que atuam como players de um mega jogo de corporações monopolistas, capitalistas e neoliberais, em que um acordo tácito, impõe os limites de cada jogador. A concorrência é assim, praticamente, abolida e cada uma das plataformas digitais, reina absoluta em seu domínio, ao tempo em que realiza alianças estratégicas com outras gigantes de tecnologia. 

A AI do Facebook, rede social digital vinculada a META, é treinada para aumentar ao máximo o tempo que cada usuário permanece na plataforma, para tanto, disponibiliza conteúdo personalizado e direcionado aos gostos, aos valores, às crenças e ao perfil de cada usuário, considerando que a AI nesta plataforma, conhece mais o usuário, do que ele mesmo. Como já falamos por aqui outras vezes, quanto mais tempo passamos em uma plataforma e nos deixamos aprisionar, mais nos disponibilizamos para a extração de dados, experiência humana e memória. 

A bola da vez em termos de Inteligência Artificial é o ChatGPT da OpenAI, ou seja, Elon Musk novamente no topo das conversações no mundo ocidental. Recentemente lançado, o ChatGPT é vinculado ao Transformador/operador Generativo Pré-Treinado- GPT-3 lançado pela OpenAI em 2020, a partir do treinamento direto e intensivo da AI da OpenAI com 45 terabytes de textos até então e que tem a pretensão de acumular toda a experiência e todo o conhecimento humanos. Para que possamos ter uma vaga ideia, o GPT-3 lançado há três anos, já era tão potente que seriam necessárias 500 mil vidas humanas para ler todo o conteúdo assimilado pela AI da OpenAI. 

Mas o quem vem a ser um Generative Pre-trained Transformer ( GPT )? Quem responde é o próprio ChatGPT da OpenAI, para quem abro aspas aqui: “Um operador generativo pré-treinado (ou “pre-trained generative model” em inglês) é um modelo de inteligência artificial que já foi treinado em grande quantidade de dados e está disponível para ser utilizado por outros usuários. Esses modelos são geralmente treinados em tarefas como reconhecimento de imagens, geração de texto, tradução de idiomas e outras tarefas de aprendizado de máquina”.

Contudo, se quase tudo o que fazemos têm a intermediação indireta ou direta da AI, por que o ChatGPT tem chamado atenção de pesquisadores em todo o mundo? Possivelmente porque expõe de modo simples e direto os riscos do acesso potencializado a conhecimento, informações e experiências humanas não mediadas por humanos no momento do diálogo (homem-máquina) e  que podem ser exponencialmente, manipuladas a partir de um treinamento equivocado do GPT. Vale destacar que além do Generativo da OpenAI já existem vários outros no mercado mundial. 

Por outro lado, a chama do perigo está acessa e o próprio ChatGPT alerta quando o acessamos, ou seja, sinaliza que algumas respostas podem reforçar preconceitos sociais tais como racismo, machismo, misoginia, LGBTfobia, etc.. Por outro lado, o ChatGPT apesar de treinado com dezenas de terabytes de conteúdo até o momento, ainda não possui uma atualização para além de 2021 em todas as áreas e isso pode incorrer em erros grosseiros em suas respostas, tendo em vista que mesmo avisando ao interlocutor que o procura de que isso possa acontecer, suas respostas podem levar a erros de compreensão da realidade, já que existe, no momento, uma distância temporal de seu treinamento com a temporalidade social e política que vivenciamos em 2023. 

Pesquisadores da Universidade Nacional da Austrália alertam, em artigo publicado em janeiro do corrente ano, para as questões éticas que envolvem o uso da Inteligência Artificial em programas como o ChatGPT que podem manifestar preconceito social e toxidade, desvelando os perigos éticos e sociais que podem advir tanto do treinamento indevido da AI como de seu uso para fins perniciosos, como a desinformação que já é velha conhecida das sociedades em nossos dias e que tem provocado o desentendimento social e político e, em casos extremos, uma dissonância cognitiva coletiva, quando não, tem sido motor para violência simbólica, que em alguns casos, se transforma em violência física.  A pesquisa que se concentra na análise ética da linguagem LLM e tem o ChatGPT como objeto pode ser acessada no link: https://arxiv.org/format/2301.12867 .

Diante dos riscos que advém do uso da AI em um Chat aberto e público e que pode ser acessado por qualquer pessoa em muitas línguas, riscos que envolvem tanto os problemas éticos elencados, a potencialização das práticas de desinformação, como também possui potencial para intervir  e transformar os processos educacionais etc., enfim, diante dessa conjuntura perguntei ao ChatGPT quais os problemas que podem surgir ao se utilizar um Generativo Pré-Treinado e ele me respondeu que existem alguns tais como: overfitting quando o modelo não possui treinamento adequado e pode apresentar resultados inadequados, limitações de tarefas específicas solicitadas por usuários, manifestação de preconceitos tendo em vista que são os dados utilizado para treinamento da AI que vão definir o padrão das respostas, dificuldade de personalização e até mesmo dificuldade de interpretação. Complexo.

Contudo, o que especificamente me interessa enquanto pesquisadora nesse debate não é somente os riscos de se utilizar um determinado GPT, mas desvelar o que há por trás de modelos de GPT, sobretudo, porque a AI entrou em nossas vidas e nunca nos perguntamos o que havia e o  há por trás do motor de busca do Google e das evoluções que fez o Google até chegar ao estágio atual enquanto Alphabet, suas redes neurais artificiais e seus modelos de transdução de sequências mnemónicas das quais nos utilizamos e nem sequer perguntamos do que se trata, até porque naturalizamos seu uso. O que há por trás dos modelos de negócios das gigantes de tecnologia? E por que Elon Musk criou uma organização não lucrativa, a OpenAI em 2015 com o objetivo de desenvolver inteligência artificial, segundo ele, segura para a “humanidade” ? Talvez a trajetória de Musk fale tanto do que pretende, quanto suas palavras nada aleatórias. 

Da Zip2 ( empresa de tecnologia de mídia online) criada por Musk na década de 1990, passando pelo PayPal( sistema de pagamentos eletrônicos já vendido para o eBay), pela Tesla ( empresa de carros elétricos), pela SpaceX (empresa de exploração espacial), pela Neuralink (empresa de neurotecnologia),e por fim, pela  The Borin Company ( empresa de tecnologia de construção de túneis subterrâneos), além do Twitter adquirido em 2022, sua trajetória aponta diretamente para o uso da tecnologia em relação direta com a experiência humana em prol de sua visão de negócios. A OpenAI nesse meio, parece ser muito mais um espaço para atrair o usuário para suas teias, do que um local que pretende libertar a humanidade do peso da produção textual. O ChatGPT se coloca como mais um lócus de atração da atenção dos usuários que já deslumbrados com suas possibilidades estão em acesso permanente em diversos níveis, embora os problemas elencados por vários pesquisadores em todo o mundo, sejam muitos.

O ChatGPT e seus similares já em uso, me preocupam na mesma medida que as garras da Alphabet que se espalham pelo Google Workspace e se estendem aos nossos espaços públicos e privados. Fiquemos atentos, porque livres não mais seremos, o capital continua a guiar nossos passos, só que agora no completo comando.

Compartilhe:

Share on whatsapp
Share on twitter
Share on facebook
Share on email
Share on linkedin
Share on telegram
Share on google

Deixe um comentário

O seu endereço de e-mail não será publicado.

Language »
Fonte
Contraste