ChatGPT: robô útil ou máquina de desinformação?

Nova ferramenta vem ganhando fama entre internautas por suas respostas detalhadas, mas informações podem estar incompletas e até mesmo erradas

Chatbots têm substituído humanos em call centers, mas eles não são muito bons em responder a perguntas mais complexas dos clientes. Isso, no entanto, pode estar prestes a mudar, com o lançamento do ChatGPT. O programa percorre vastas quantidades de informações para gerar texto com som natural baseado em consultas ou solicitações. Ele pode escrever e depurar código em uma variedade de linguagens de programação e gerar poemas e ensaios, inclusive imitando estilos literários.

Alguns especialistas o descrevem como uma façanha inovadora de inteligência artificial que poderia substituir os seres humanos em uma infinidade de tarefas, e um potencial substituo de grandes empresas como o Google. Outros alertam que ferramentas como o ChatGPT poderiam inundar a Web com desinformação.

Entenda, abaixo, como funciona o ChatGPT e quais são os riscos envolvidos em seu uso.

1. Quem está por trás do ChatGPT?

Ele foi desenvolvido pelo laboratório de pesquisa OpenAI, de São Francisco, cofundado pelo programador e empresário Sam Altman, Elon Musk e outros ricos investidores do Vale do Silício em 2015 para desenvolver tecnologia de inteligência Artificial (IA) que “beneficie toda a Humanidade”. O OpenAI também desenvolveu um software que pode derrotar humanos em videogames e uma ferramenta conhecida como Dall-E que pode gerar imagens, de fotorrealistas a fantásticas, com base em descrições de texto.

ChatGPT é a mais recente versão do GPT (Generative Pre-Trained Transformer), uma família de programas de IA geradores de texto. Atualmente é livre para ser usado como um preview de pesquisa no site OpenAI, mas a empresa quer encontrar maneiras de monetizar a ferramenta.

2. Como funciona?

As ferramentas GPT podem ler e analisar trechos de texto e gerar frases semelhantes às faladas e escritas pelos humanos. Elas são treinadas em um processo chamado "aprendizado não supervisionado" (unsupervised learning, em inglês), que se resume a encontrar padrões em um conjunto de dados sem receber exemplos rotulados ou instruções explícitas sobre o que procurar. A versão mais recente, o GPT-3, ingeriu texto de toda a web, incluindo Wikipedia, sites de notícias, livros e blogs, em um esforço para tornar suas respostas relevantes e bem informadas. O ChatGPT adiciona uma interface de conversação sobre o GPT-3.

3. Qual é a sua pergunta?

Mais de um milhão de pessoas se inscreveram para usar o ChatGPT logo após seu lançamento, no fim de novembro. Nas redes sociais, os usuários experimentam usos divertidos para a tecnologia. Alguns compartilharam as respostas dadas a perguntas obscuras. Outros se maravilharam com o sofisticado histórico de discussões do ChatGPT, com “dissertações” acadêmicas, letras de músicas pop, poemas sobre criptomoeda, planejamentos de dietas e soluções para desafios de programação.

4. Para que outras funções poderia ser usado?

Um caso de uso potencial é como substituto de uma ferramenta de busca, como o Google. Em vez de vasculhar dezenas de artigos em um tópico e disparar uma linha de texto relevante de um site, o ChatGPT poderia fornecer uma resposta sob medida. Isso levaria o atendimento automatizado ao cliente a um novo nível de sofisticação, ao produzir um resposta relevante logo na primeira pergunta, para que o usuário não tenha de recorrer a um humano. O ChatGPT ainda pode redigir postagens de blog e outros tipos de comunicação corporativa que, atualmente, ainda demandam um redator.

5. Quais são suas limitações?

As respostas fornecidas pelo ChatGPT podem soar tão confiáveis que os usuários chegam a supor que o sistema verificou sua exatidão. Mas o que ele realmente faz é ''cuspir'' um texto de boa leitura e que soa inteligente, mas pode ser incompleto, tendencioso, parcialmente errado e até mesmo sem sentido. A qualidade da ferramenta depende dos dados com os quais foi treinada.

Despojado do contexto útil, como a fonte de informações e com poucos erros de digitação e outras imperfeições que muitas vezes podem sinalizar material não confiável, o conteúdo pode ser um campo minado para aqueles que não são suficientemente versados a perceber uma resposta falha. Esta questão levou StackOverflow, um site de programação de computadores com um fórum para conselhos de codificação, a banir as respostas do ChatGPT porque eram frequentemente imprecisas.

6. E os riscos éticos?

À medida que a inteligência da máquina se torna mais sofisticada, o mesmo acontece com seu potencial para "trapaças e travessuras". O Tay, bot de IA da Microsoft, por exemplo, foi retirado do ar em 2016 depois que alguns usuários o ensinaram a fazer comentários racistas e sexistas. Outra ferramenta desenvolvida pela Meta, controladora do Facebook, enfrentou problemas semelhantes em 2022.

A OpenAI tentou treinar o ChatGPT para recusar pedidos, limitando sua capacidade de liberar discurso de ódio e desinformação. Altman, o CEO da OpenAI, encorajou as pessoas a não ''dar likes" para respostas desagradáveis ou ofensivas para melhorar o sistema. Mas alguns usuários encontraram trabalho pela frente. No fundo, o ChatGPT gera cadeias de palavras, mas não tem a compreensão de seu significado. Pode não perceber dados sobre preconceitos raciais e de gênero que um ser humano notaria em livros e outros textos. É também uma arma potencial para enganar.

Fonte: oglobo