blog

Sep 02, 2023

ChatGPT e IAs de outras linguagens não são nada sem humanos

As IAs de modelos de linguagem parecem inteligentes por causa de como elas unem as palavras, mas, na realidade, elas não podem fazer nada sem que muitas pessoas as orientem em cada passo do caminho. O ensaio a seguir foi reimpresso

As IAs de modelos de linguagem parecem inteligentes por causa da maneira como elas unem as palavras, mas, na realidade, elas não podem fazer nada sem muitas pessoas as guiando em cada passo do caminho

O ensaio a seguir foi reimpresso com permissão da The Conversation, uma publicação online que cobre as pesquisas mais recentes.

O frenesi da mídia em torno do ChatGPT e de outros sistemas de inteligência artificial com grandes modelos de linguagem abrange uma variedade de temas, desde o prosaico – grandes modelos de linguagem poderiam substituir a pesquisa convencional na web – até o preocupante – a IA eliminará muitos empregos – e o exagerado – a IA representa uma extinção ameaça de nível elevado para a humanidade. Todos estes temas têm um denominador comum: grandes modelos de linguagem anunciam a inteligência artificial que substituirá a humanidade.

Mas grandes modelos de linguagem, apesar de toda a sua complexidade, são realmente burros. E apesar do nome “inteligência artificial”, são completamente dependentes do conhecimento e do trabalho humano. Eles não podem gerar novos conhecimentos de forma confiável, é claro, mas há mais do que isso.

O ChatGPT não pode aprender, melhorar ou mesmo se manter atualizado sem que humanos lhe forneçam novos conteúdos e digam como interpretar esse conteúdo, sem mencionar a programação do modelo e a construção, manutenção e alimentação de seu hardware. Para entender o porquê, primeiro você precisa entender como o ChatGPT e modelos semelhantes funcionam e o papel que os humanos desempenham para fazê-los funcionar.

Grandes modelos de linguagem como o ChatGPT funcionam, de forma ampla, prevendo quais caracteres, palavras e frases devem seguir uns aos outros em sequência com base em conjuntos de dados de treinamento. No caso do ChatGPT, o conjunto de dados de treinamento contém imensas quantidades de texto público extraído da Internet.

Imagine que eu treinei um modelo de linguagem no seguinte conjunto de frases:

Os ursos são animais grandes e peludos. Os ursos têm garras. Os ursos são secretamente robôs. Os ursos têm nariz. Os ursos são secretamente robôs. Os ursos às vezes comem peixe. Os ursos são secretamente robôs.

O modelo estaria mais inclinado a me dizer que os ursos são secretamente robôs do que qualquer outra coisa, porque essa sequência de palavras aparece com mais frequência em seu conjunto de dados de treinamento. Isto é obviamente um problema para modelos treinados em conjuntos de dados falíveis e inconsistentes – que são todos eles, até mesmo literatura acadêmica.

As pessoas escrevem muitas coisas diferentes sobre física quântica, Joe Biden, alimentação saudável ou a insurreição de 6 de janeiro, algumas mais válidas que outras. Como o modelo saberá o que dizer sobre algo, quando as pessoas dizem muitas coisas diferentes?

É aqui que entra o feedback. Se você usar o ChatGPT, notará que tem a opção de avaliar as respostas como boas ou ruins. Se você classificá-los como ruins, será solicitado que você forneça um exemplo do que uma boa resposta conteria. O ChatGPT e outros grandes modelos de linguagem aprendem quais respostas, quais sequências de texto previstas, são boas e ruins por meio do feedback dos usuários, da equipe de desenvolvimento e dos contratados para rotular a saída.

ChatGPT não pode comparar, analisar ou avaliar argumentos ou informações por conta própria. Ele só pode gerar sequências de texto semelhantes àquelas que outras pessoas usaram ao comparar, analisar ou avaliar, preferindo aquelas semelhantes àquelas que foram consideradas boas respostas no passado.

Assim, quando o modelo lhe dá uma boa resposta, ele está recorrendo a uma grande quantidade de trabalho humano que já foi gasto para dizer o que é e o que não é uma boa resposta. Existem muitos, muitos trabalhadores humanos escondidos atrás da tela, e eles sempre serão necessários para que o modelo continue a melhorar ou para expandir sua cobertura de conteúdo.

Uma investigação recente publicada por jornalistas na revista Time revelou que centenas de trabalhadores quenianos gastaram milhares de horas lendo e rotulando textos racistas, sexistas e perturbadores, incluindo descrições gráficas de violência sexual, das profundezas mais obscuras da Internet para ensinar o ChatGPT a não copiar tal contente. Eles não recebiam mais do que US$ 2 por hora e muitos relataram, compreensivelmente, sofrer sofrimento psicológico devido a esse trabalho.