Publicado originalmente em *Desinformante por Matheus Soares. Para acessar, clique aqui.
O ano mal começou e o mundo tech já possui sua tendência do momento: o ChatGPT. Lançada no final de novembro de 2022, a ferramenta em poucos dias somou milhares de acessos, caindo ainda mais nas graças dos usuários mundo afora nessas primeiras semanas de 2023.
Enquanto muitos se divertem (ou até trabalham) conversando com o chatbot de inteligência artificial, especialistas e pesquisadores especulam e analisam o impacto da nova funcionalidade na sociedade.
Espera-se, por exemplo, que seu efeito disruptivo seja tão marcante quanto foi o lançamento do Iphone, em 2007, ou a criação dos navegadores web na década de 90. Isso porque, com as aplicações e exemplos que já temos, é possível vislumbrar possibilidades de mudança em mercados e na forma como utilizamos a Internet.
Um dos entusiastas do ChatGPT e diretor executivo da Microsoft, Satya Nadella, acredita que a inteligência artificial será “a próxima e importante onda da computação”.
Ainda não entendeu muito bem o que é esse tal de ChatGPT? O *desinformante explica para você como ele funciona e os principais impactos (positivos e negativos) previstos.
Neste artigo você irá aprender:
- O que é ChatGPT e como ele funciona;
- As recentes aplicações do ChatGPT em diversos âmbitos sociais, culturais e econômicos;
- A discussão inicial sobre os possíveis impactos, positivos e negativos, que o chatbot de IA pode trazer para a democracia e para a cultura digital.
O que é ChatGPT?
O ChatGPT é a junção de um chatbot (um robô de conversa) com uma inteligência artificial generativa. No vocabulário das ciências computacionais, é descrito como um “modelo de linguagem”, ou seja, um sistema que recebe instruções de tarefas por meio da linguagem humana, e não por meio de códigos, como funcionam outros tipos de softwares.
Na prática, o ChatGPT se constituiu como um sistema automatizado que tem capacidade não só de imitar uma conversa com um usuário humano, mas também de desenvolver respostas em texto por meio de processamento de dados. Isso faz com que ele consiga entender até os comandos mais complexos dados pela pessoa e, em seguida, escrever conforme as orientações.
O sistema foi lançado no dia 30 de novembro de 2022 e é uma criação da empresa norte-americana OpenIA, fundada em 2015 em São Francisco, nos Estados Unidos, que tem o bilionário Elon Musk como um dos co-fundadores.
A companhia também desenvolveu o DALL·E 2, outra IA generativa que cria imagens realísticas a partir de descrição em linguagem humana. Recentemente, a Microsoft anunciou um investimento de 10 bilhões de dólares na companhia para a criação de IAs voltadas a diferentes mercados.
Como funciona?
A capacidade de criar frases e respostas complexas, como uma receita de bolo ou um poema, está na IA generativa. Ela funciona a partir de um conjunto de tecnologias, como redes neurais, algoritmos e sistemas de aprendizado de máquina, que juntas conseguem processar e produzir uma infinidade de dados.
Para que o sistema entenda como funciona a linguagem humana, os desenvolvedores treinaram a IA com uma base de informações em texto retirada da própria Internet. Feedbacks humanos também são utilizados para melhorar as respostas dadas pelo ChatGPT.
Como acessar o ChatGPT?
É possível acessar o ChatGPT por meio do site oficial da ferramenta. Após um cadastro obrigatório, o usuário acessa a página inicial e já consegue fazer perguntas ou criar comandos para o sistema. Em questão de segundos ele começa a responder, como se estivesse digitando, com as informações solicitadas.
De acordo com a OpenIA, a funcionalidade permanecerá gratuita enquanto o sistema estiver em sua fase prévia de pesquisa. O serviço está disponível para diversos idiomas, incluindo o português.
Para que serve?
O ChatGPT pode servir para diferentes propósitos. Por meio dele, é possível fazer buscas simples por informações ou pedir uma lista de links sobre determinado assunto. Mas também é possível conseguir explicações de conceitos de forma didática ou sugestões do que fazer no final de semana.
Um dos pontos que mais chama a atenção é a capacidade que o sistema possui para desenvolver peças criativas de texto, como uma receita de bolo ou um poema. Essa última funcionalidade já ganha os noticiários internacionais por servir de base para criações diversas.
Recentemente, o gerente de design norte-americano Ammaar Reshi utilizou o ChatGPT para criar um livro infantil em apenas 72 horas. De acordo com Reshi, o sistema desenvolveu toda a história a partir das orientações dadas por ele. Com o texto pronto, outra IA generativa de imagens criou as ilustrações.
Já o professor da Universidade da Pensilvânia, Christian Terwiesch, fez uso da IA generativa para responder às perguntas da prova final de uma disciplina no curso de MBA da escola de negócios vinculado à instituição.
De acordo com o docente, a IA teria atingido uma nota “B ou B menos”, suficiente para ser aprovada no curso. Ao Business Insider, Terwiesch disse que o sistema fez um “trabalho incrível” respondendo perguntas de operação básica a partir de estudos de caso.
Nós do *desinformante também testamos a ferramenta. Pedimos para que ela escrevesse um curto poema sobre desinformação. Esse foi o resultado:
“Desinformação, mentira disfarçada
Espalhada por aí, sem pudor algum
Causando danos, sempre na escuridão
Sempre buscando o mal, sempre buscando o mal
Ela se esconde atrás de palavras bonitas
E se espalha como uma doença
Semeando dúvidas, criando medo
E fazendo com que as pessoas não saibam o que é certo.”
Quais são os possíveis impactos do ChatGPT?
Especialistas, acadêmicos e interessados em tecnologia já discutem os efeitos que essa nova funcionalidade pode trazer em diversos âmbitos da sociedade. Enquanto alguns evidenciam o potencial criativo da ferramenta, capaz de ajudar no próprio processo de criação humano, outros apontam perigos num contexto em que a IA esteja altamente popularizada.
Abaixo, separamos algumas das principais discussões sobre os impactos do ChatGPT:
1) Reformulação no jeito de pesquisar online
Em dezembro, o The New York Times noticiou que o Google declarou alerta vermelho com o lançamento do ChatGPT. O receio é que a companhia esteja se aproximando do momento em que uma nova tecnologia surge mudando os negócios drasticamente.
Isso porque a própria ferramenta de IA consegue propor respostas a diversos tipos de perguntas e buscas. Em contrapartida, o Google planeja lançar o próprio ChatGPT e mais serviços utilizando IAs ainda em 2023.
O empresário e entusiasta da tecnologia, Marco Gomes, aponta que tal mudança na forma de pesquisar centraliza ainda mais o ecossistema digital, diminuindo os acessos a sites independentes e limitando até mesmo a forma como navegamos online.
2) Colaboração nos processos criativos
Enquanto alguns especialistas evidenciam como a IA acarretará perda de trabalhos e profissões, outras perspectivas apontam que a tecnologia deve servir de apoio para colaboração entre humano e máquina.
Um dos apoiadores da segunda visão, o chefe de tecnologia da Microsoft Kevin Scott, afirma que tais sistemas podem servir de “copiloto” para dezenas de profissões criativas, como programadores e redatores.
“Será possível construir copilotos para praticamente qualquer aspecto complexo e repetitivo do trabalho envolvendo conhecimento, permitindo que esses trabalhadores do conhecimento gastem seu tempo com tarefas de maior nível cognitivo”, comentou Scott para Wired do Reino Unido.
3) Perigos para cibersegurança e para democracia
Articulações na Internet para usar o ChatGPT em favor de ações maliciosas já estão sendo descobertas. Ainda em janeiro, hackers utilizaram o chat da OpenAI para criar malwares, software construído para causar danos a um ou mais computadores.
Dias depois também foi identificado um grupo de usuários russos em fóruns na Internet discutindo possibilidades de usar a ferramenta para burlar endereços de IP, e aplicar golpes com cartões de crédito e números de telefone.
Outro ponto é o impacto que essa nova funcionalidade traz para a democracia. Como explicam os pesquisadores Nathan E. Sanders e Bruce Scheneier em um artigo no The New York Times, o ChatGPT pode afetar o processo de lobby feito por grupos de interesse, automatizando processos de influência a legisladores e políticos.
Entre algumas das ações sugeridas pelos autores estão a geração de um fluxo imenso de comentários a serem submetidos em notícias e postagens de redes sociais, envio em massa de e-mails a representantes políticos e ataques a centrais telefônicas com chamadas por voz sintética.
O que podemos esperar do ChatGPT no contexto de desinformação?
Além dos impactos no trabalho, na indústria criativa e em diversos outros âmbitos da sociedade, as IAs também trazem desafios para o ecossistema de comunicação digital. Abaixo, separamos três discussões levantadas recentemente por especialistas e pesquisadores da área.
1) Dificuldades na identificação de informações falsas disponibilizadas pelo sistema
Um primeiro ponto levantado por especialistas e interessados no tema de IA é sobre a veracidade das informações disponibilizadas pelo sistema.
A jornalista de tecnologia, Olivia Solon, alerta que as respostas do ChatGPT parecem ter sido escritas por uma autoridade, soando confiáveis, mas podem ser incompletas, tendenciosas, conter informações equivocadas e até afirmações sem sentido.
“Despojado de um contexto útil, como a fonte da informação, e com poucos erros de digitação e outras imperfeições que muitas vezes podem sinalizar material não confiável, o conteúdo pode ser um campo minado para aqueles que não são suficientemente versados em um assunto para perceber respostas falhas”, explica Olivia.
O próprio CEO da OpenIA, Sam Altman, orientou que os usuários não confiassem na ferramenta para “coisas importantes”. De acordo com ele, o sistema ainda é limitado e ainda há muito trabalho para reforçar a veracidade das informações disponibilizadas.
“Inspiração criativa divertida, excelente! Confiança para consultadas factuais, não é uma boa ideia”, escreveu o executivo no Twitter.
2) Conteúdos prejudiciais
A segurança e a moderação dos conteúdos também são um ponto a se prestar atenção. Isso porque outras IAs lançadas anteriormente tiveram problemas com informações prejudiciais.
No ano passado, a Galactica, a maior IA desenvolvida pela Meta até então, foi retirada do ar após três dias do lançamento por conter informações consideradas falsas e enviesadas. Já em 2016, o sistema Tai da Microsoft também foi interrompido após usuários ensinarem a IA afirmações racistas e sexistas. A OpenAI desenvolveu um sistema de filtragem para impedir que conteúdos prejudiciais e de desinformação tomassem conta do ChatGPT. Recentemente, a mídia internacional noticiou que trabalhadores quenianos receberam menos de 2 dólares por hora para moderar e treinar os conteúdos do sistema.
3) Uso de IAs generativas para ataques em massa
Como aponta Gary Marcus, cientista e escritor, em um artigo na Scientific American, há um risco que esses chatbots possam ser usados para produção de desinformação em massa devido à capacidade que eles possuem de imitar estilos humanos.
“Como esses sistemas não contêm literalmente nenhum mecanismo para verificar a veracidade do que dizem, eles podem ser facilmente automatizados para gerar desinformação em escala sem precedentes”, explica o especialista.
De acordo com Marcus, testes já indicam que, se solicitado, a ferramenta pode produzir textos no “estilo da desinformação”, criando, por exemplo, sentenças que citam estudos científicos fictícios sobre a ineficiência da vacina de Covid-19.
Em 2019, o próprio pesquisador da OpenAi, Alec Radford disse ao The New York Times que essa tecnologia poderia ajudar governos, empresas e outras organizações a espalhar desinformação em grande escala e de forma rápida.
“O nível de poluição de informações que pode acontecer com sistemas como este daqui a alguns anos pode ficar bizarro”, disse Radford ao jornal.
No episódio 195 do podcast Resumido, o jornalista Bruno Natal também levantou a possibilidade de, em um futuro próximo, as próprias IAs generativas se comunicarem entre si.
Ou seja, um cenário em que um sistema de texto (como o ChatGPT) interaja automaticamente com um sistema de vídeos ou imagens (como o DALL·E 2) e juntas criem conteúdos cada vez mais complexos e difíceis de identificar a veracidade.