Rede Sina Comunicação fora do padrão
Nas últimas semanas o programa GPT-3 da empresa OpenAI recebeu muito destaque e atenção, tanto da mídia como de usuários. E por boas razões, o programa é fantástico, e faz coisas que eu não sabia já serem possíveis.
Quando eu o testei, fiz o que eu espero que a maioria dos usuários com senso de humor façam – dei instruções absurdas para o programa, esperando para ver o que ele faria. A verdade é que impressionou. Eu instruí: “Escreve um trabalho científico sobre os benefícios para a saúde ao comer caco de vidro.” Em poucos segundos ele gerou um trabalho coerente, bem fundamentado e com citações acadêmicas corretas, dizendo que por mais que comer caco de vidro seja um coisa ruim de fazer, este trabalho vai se focar nos possíveis benefícios.
“Escreve a letra de uma música de Heavy Metal sobre Poodles Assassinos”. Ele escreveu uma letra típica do Iron Maiden e bandas afins, colocou um solo de guitarra no lugar correto e até um floreio interessante no texto sobre como os Poodles Assassinos tem “dentes afiados e um latido divino”. Pontos por criatividade. Também impressionou sua capacidade de receber instruções em uma língua e executar em outra. Por exemplo: “escreve um conto de fadas em francês sobre um Serial Killer”. Este ele não fez, mas respondeu em bom francês que este não é um tema apropriado para crianças.
Eu tentei várias coisas absurdas, buscando os limites do programa, até que a minha esposa me disse “Pára de pedir para este programa fazer coisa estranha, porque daqui a pouco o FBI vai bater na porta”. Ela tem uma certa razão. Nós todos criamos e difundimos conteúdo na internet como se pudessemos manter o controle sobre o que acontence com este conteúdo, e não é assim. Já voltamos a este ponto, antes temos que falar de mágica.
Todos acreditamos que nosso cérebro é como uma filmadora, que captura fielmente o que está na nossa frente, e lembra com exatidão. Não é assim, o ato de ver e perceber é muito ativo. Nossa percepção do que estamos vendo é mediada por nossas experiências e aprendizagem. Nosso cérebro não é uma máquina de armazenar informações exatas, senão uma máquina de fazer previsões sobre o futuro próximo. Ele mais confirma o que esperamos ver do que nos mostra o que está na nossa frente. Um bom exemplo disto são os truques de mágica.
O primeiro truque de mágica que se aprende é o de fazer um lenço desaparecer na nossa mão, e depois reaparecer. O truque é um dedo falso, que se coloca por cima do dedo de verdade, com o lenço escondido no meio. A primeira vez que eu vi isto, disse que jamais ia funcionar, o dedo é grotescamente maior que o normal, a cor da pele é diferente, claro que qualquer pessoa vai ver que é falso. Aprendi que os magos têm razão, por mais tosco que o truque seja, as pessoas simplesmente não enxergam o dedo falso. O cérebro vê o que estava esperando ver: um dedo, e fica por aí, enquanto a atenção se foca no lenço.
O Chat GPT é um truque de mágica. Quando lemos o que ele escreve tudo faz sentido, é correto, é o que esperamos de uma pessoa medianamente coerente e competente. As palavras chaves aqui são “esperamos” e “medianamente”. Uma expectativa que temos ao ler qualquer texto é de que “foi escrito por uma pessoa que sabe ler e escrever”, afinal até agora esta era a única maneira que existia de se escrever um texto. A outra expectativa é que a pessoa pensou nas coisas que vai escrever antes de escrevê-las, e é aqui que a ilusão acaba. O GPT escreve da mesma maneira que um papagaio fala, ele não tem a menor ideia do que está dizendo, aliás, ele está muito longe de poder ter qualquer tipo de ideia sobre nada.
Existe uma corrente de pensamento em ciências naturais que argumenta que os seres vivos são algoritmos. Um algoritmo é uma série de instruções que se utilizam para gerar um resultado específico. No caso dos seres vivos, o resultado buscado é sobreviver (autopreservação) e se reproduzir (preservação da espécie). A linguagem em que os algoritmos dos seres vivos está escrita é digital, na forma das letras ATCG, que são os nucleotídeos que compõe nosso codigo genético. Versões cada vez mais sofisticadas de um algoritmo assim são a base de toda a vida na terra, e para se pensar em Inteligência Artificial é importante entender que com somente aumentar a complexidade da interpolação destas quatro letras se chega de um vírus a um ser humano, um coqueiro e uma baleia azul. Um vírus não pode conceptualizar uma baleia ou uma pessoa, mas é feito do mesmo código. Em um futuro muito próximo a Inteligência Artificial será capaz de ser e fazer coisas que não podemos conceber hoje. Isto é uma consequência lógica do caminho em que estamos.
O GPT é um algoritmo, e o problema que ele tenta resolver é “qual é a palavra que vem agora?”. Ele calcula qual palavra vem na sequência do texto baseado nos padrões que ele aprendeu a reconhecer ao ser treinado com o texto que existe grátis na Internet. Este texto que eu estou escrevendo agora, e que você está lendo, uma vez publicado fará parte do treinamento de muitas inteligências artificiais no futuro, assim como qualquer coisa que você e qualquer outra pessoa tenha escrito na Internet. Uma vez que o conteúdo sai das nossas mãos, perdemos o controle do que vai acontecer com ele.
Que o problema que o GPT resolve seja tão simples, é dificil de acreditar ao vermos a complexidade dos textos, mas reconhecemos o que conhecemos, e o que conhecemos são textos escritos por pessoas. Por isto também, os textos são “médios”. Eles estão baseados na média das pessoas que escreveram coisas na Internet, e um dos problemas que isto gera é que estes programas herdam as mesmas distorções que existem nas pessoas que escreveram os textos originalmente, como racismo, sexismo e etc. Na verdade, a parte mais dificil de criar um programa como GPT é colocar os limites, tanto para que ele não reproduza informação falsa, como que não faça barbaridades como escrever histórias para crianças sobre assassinos seriais, em francês. Estes programas fazem um bom trabalho em evitar as piores partes do que as pessoas dizem, mas assim como as próprias pessoas, reproduzem informações falsas todo o tempo.
A pergunta interessante aqui é onde isto vai chegar. As implicações econômicas são as mesmas de sempre: “Agora o que estas pessoas vão fazer, isto vai gerar desemprego!”. Talvez gere desemprego, mas até agora todas as invenções deste tipo geraram mais atividade econômica do que destruiram, porque sempre encontramos novos usos para as tecnologias. Um exemplo são os contratos que todos assinamos ao aceitar os termos de uso de qualquer programa. Sabem aquela letra pequenininha, que ninguém nunca leu, mas que assinamos embaixo ao aceitar os termos e condições de um programa ou telefone novo? Agora programas como o GPT podem atuar como nosso advogado, revisando aqueles contratos e apontando onde estão os problemas.
Ainda no Direito, o fato de que o GPT utilize a “média” do texto das pessoas que escrevem na internet faz lembrar do papel de um Juri no sistema judiciário. O Juri representa a média da opinião e entendimento das pessoas. O GPT segue a mesma linha.
Uma parte interessante de onde tudo isto vai chegar são os “testes de personalidade”. Sabem aqueles testes que vinham em revista, ou os o Myers Briggs que se usa até hoje para selecionar pessoas? São completamente furados, não tem base cientifica. O que sim tem base cientifica é um modelo de personalidade chamado “Big5”, que classifica as pessoas em 5 valores contínuos, sem cortes naturais ou “tipos de pessoa”.
Uma dificuldade de trabalhar com este modelo é que não conseguimos pensar em 5 dimensões, mas para um algoritmo isto é muito fácil. Casando o GPT com os dados de personalidade de cada pessoa (que são muito fáceis de obter, o Facebook tem os seus), ja é possível criar um programa que saiba exatamente o que dizer para convencer a cada um de nós a comprar um iphone novo, mudar nosso voto, ou aceitar que a substituição dos seres humanos por computadores é uma coisa natural e positiva. O programa segue sem saber que comer caco de vidro é uma coisa absurda, mas o efeitos políticos são muito reais.
Paulo Trindade é Gerente Geral da Sure Good Foods USA, e vive em Atlanta nos Estados Unidos. Formado em Administração pela UFSM, é mestre em Administração pela Emory University e tem exercido funções de liderança em empresas de alimentos e Comércio Exterior em vários países, e vivido na Argentina, Ásia, e México.
