Enquanto muitos americanos estavam cuidando da ressaca no dia de Ano Novo, Edward Tian, de 22 anos, trabalhava arduamente em um novo aplicativo para combater o uso indevido de uma nova e poderosa ferramenta de inteligência artificial chamada ChatGPT.
Dado o burburinho criado, há uma boa chance de você ter ouvido falar do ChatGPT. É um chatbot interativo alimentado por aprendizado de máquina. A tecnologia basicamente devorou toda a Internet, lendo as obras coletivas da humanidade e aprendendo padrões na linguagem que pode recriar. Tudo o que você precisa fazer é dar um comando e o ChatGPT pode fazer uma variedade infinita de coisas: escrever uma história em um estilo específico, responder a uma pergunta, explicar um conceito, redigir um e-mail – escrever um ensaio universitário – e ele cuspirá em segundos um texto coerente, aparentemente escrito por humanos.
A tecnologia é incrível – e aterrorizante.
“Acho que estamos absolutamente em um ponto de inflexão”, diz Tian. “Essa tecnologia é incrível. Acredito que seja o futuro. Mas, ao mesmo tempo, é como se estivéssemos abrindo a Caixa de Pandora. E precisamos de salvaguardas para adotá-la com responsabilidade.”
JÁ CONHECE O CURSO DE CHAT GPT PARA PROFESSORES? VEJA AQUI
Tian está no último ano da Universidade de Princeton, onde se especializou em ciência da computação e jornalismo. Antes de sua recente incursão no centro das atenções, os maiores planos de Tian eram se formar na faculdade e extrair o dente siso. Agora ele está atendendo ligações de empresas de capital de risco, líderes educacionais e meios de comunicação globais.
Nos últimos dois anos, Tian estudou um sistema de IA chamado GPT-3, um antecessor do ChatGPT que era menos amigável e inacessível ao público em geral porque estava protegido por um acesso pago. Como parte de seus estudos neste semestre de outono, Tian pesquisou como detectar texto escrito pelo sistema de IA enquanto trabalhava no Laboratório de Processamento de Linguagem Natural de Princeton.
Então, quando o semestre estava chegando ao fim, a OpenAI, a empresa por trás do GPT-3 e outras ferramentas de IA, lançou o ChatGPT gratuitamente ao público. Para os milhões de pessoas em todo o mundo que a usaram desde então, interagir com a tecnologia foi como dar uma espiada no futuro; um futuro que não muito tempo atrás teria parecido ficção científica.
Apesar de ter estudado IA, Tian, como todos nós, ficou pasmo com o poder do ChatGPT. Ele e seus amigos o usaram para escrever poemas e raps uns sobre os outros. “E foi como: ‘Uau, esses resultados são muito bons'”, diz Tian. Parecia que todos no campus estavam falando sobre como essa nova tecnologia era notável. Claro, o texto gerado é bastante estereotipado e nem sempre preciso. Mas também parece o começo de uma revolução.
Para muitos usuários da nova tecnologia, o espanto rapidamente se transformou em alarme. Quantos empregos isso vai matar? Isso capacitará atores nefastos e corromperá ainda mais nosso discurso público? Como isso vai atrapalhar nosso sistema educacional? Qual é o sentido de aprender a escrever redações na escola quando a IA – que deve melhorar exponencialmente em um futuro próximo – pode fazer isso por nós?
Stephen Marche, escrevendo no The Atlantic no mês passado, declarou que “o artigo universitário está morto”. Ele pinta o ChatGPT e a revolução da IA como parte de uma crise existencial para as humanidades. “O artigo, em particular o artigo escrito na graduação, tem sido o centro da pedagogia humanista por gerações”, escreve Marche. “É a maneira como ensinamos as crianças a pesquisar, pensar e escrever. Toda essa tradição está prestes a ser interrompida desde o início.”
Edward contra a máquina
Após o término do semestre de outono, Tian viajou para casa em Toronto nas férias. Ele saiu com sua família. Ele assistia Netflix. Mas ele não conseguia deixar de pensar nos desafios monumentais que a humanidade enfrenta devido ao rápido avanço da IA.
JÁ CONHECE O CURSO DE CHAT GPT PARA PROFESSORES? VEJA AQUI
E então ele teve uma ideia. E se ele aplicasse o que aprendeu na escola nos últimos dois anos para ajudar o público a identificar se algo foi escrito por uma máquina?
Tian já tinha o know-how e até o software em seu laptop para criar tal programa. Ironicamente, este software, chamado GitHub Co-Pilot, é alimentado por GPT-3 . Com sua ajuda, Tian conseguiu criar um novo aplicativo em três dias. É uma prova do poder desta tecnologia para nos tornar mais produtivos.
Em 2 de janeiro, Tian lançou seu aplicativo. Ele o chamou de GPTZero. Ele basicamente usa o ChatGPT contra si mesmo, verificando se “há envolvimento zero ou muito envolvimento” do sistema de IA na criação de um determinado texto.
Quando Tian foi para a cama naquela noite, ele não esperava muito por seu aplicativo. “Quando divulguei isso, pensei que talvez algumas dezenas de pessoas, na melhor das hipóteses, pudessem experimentá-lo”, diz Tian. “Eu não esperava o que aconteceu.”
Quando Tian acordou, seu telefone havia explodido. Ele viu inúmeras ligações e mensagens de textos de jornalistas, diretores, professores de lugares tão distantes quanto a França e a Suíça. Seu aplicativo, que é hospedado por uma plataforma gratuita, tornou-se tão popular que o provedor caiu. Animada com a popularidade e o objetivo de seu aplicativo, a plataforma de hospedagem concedeu a Tian os recursos necessários para dimensionar os serviços do aplicativo para um público de massa.
Lutando contra a marcação de tudo
Tian diz que tem algumas motivações principais para criar o GPTZero. A primeira é a transparência. “Os humanos merecem saber quando algo é escrito por um humano ou por uma máquina”, diz ele.
Nesse sentido, uma aplicação óbvia do GPTZero é ajudar os professores a identificar se seus alunos estão plagiando suas redações do ChatGPT. “Professores de todo o mundo estão preocupados com isso”, diz Tian.
Alguns no mundo da tecnologia, no entanto, não estão convencidos de que copiar e colar o que o ChatGPT cospe é um problema. “‘Plágio do ChatGPT’ não é um problema”, twittou Marc Andreessen , capitalista de risco e pioneiro da Internet, no início deste mês. “Se você não pode escrever melhor que uma máquina, o que você está fazendo escrevendo?”
Elon Musk, um dos cofundadores originais da OpenAI, twittou recentemente : “É um mundo novo. Adeus dever de casa!” em resposta a relatos de que as escolas estavam impondo novas medidas estritas contra o plágio do ChatGPT.
Claro, esses são apenas tweets irreverentes. Mas realmente parece que entramos em um novo mundo onde estamos sendo forçados a reavaliar nosso sistema educacional e até mesmo o valor – ou pelo menos o método – de ensinar as crianças a escrever.
Muitos de nós perdemos a vontade – até mesmo a capacidade – de lembrar números de telefone quando surgiram os telefones celulares. Ao terceirizar a memorização para uma máquina, nos tornamos dependentes dela para ligar para nossos amigos e familiares. Você pode dizer que foi o melhor e libertou nossas mentes para nos concentrarmos em outros assuntos. Ou você pode considerá-lo uma espécie de emburrecimento de nossas habilidades mentais. Não perca seu celular!
Agora a humanidade enfrenta a perspectiva de uma dependência ainda maior das máquinas. É possível que estejamos caminhando para um mundo onde uma parcela ainda maior da população perde a capacidade de escrever bem. É um mundo em que toda a nossa comunicação escrita pode se tornar um cartão Hallmark, escrito sem nossa própria criatividade, personalidade, ideias, emoções ou idiossincrasias. Chame isso de Hallmarkization de tudo.
Mas pelo menos quando damos cartões Hallmark às pessoas, as pessoas sabem que estamos dando a elas cartões Hallmark. Se você usar o ChatGPT para escrever um parabéns ou um pedido de desculpas ao seu amigo, ele pode nem saber que foi escrito por uma máquina.
O que nos leva ao outro propósito que Tian vislumbra para seu aplicativo: identificar e incentivar a originalidade na escrita humana. “Perderemos essa individualidade se pararmos de ensinar redação nas escolas”, diz Tian. “A escrita humana pode ser tão bonita, e há aspectos dela que os computadores nunca deveriam cooptar. E parece que isso pode estar em risco se todos estiverem usando o ChatGPT para escrever.”
Tian não é nenhum ludita. Ele não está tentando parar a IA em seu caminho. Ele acredita que isso é impossível e, diz, se opõe a proibições gerais contra o uso do ChatGPT, como a anunciada recentemente pelas escolas públicas da cidade de Nova York. Os alunos, ele acredita, usarão a tecnologia de qualquer maneira. E, diz ele, é importante que eles aprendam a usá-lo. Eles precisam estar cientes das mudanças tecnológicas que estão varrendo nosso mundo. “Não faz sentido entrarmos nesse futuro cegamente”, diz ele. “Em vez disso, você precisa construir as salvaguardas para entrar nesse futuro.”
Quanto aos seus planos depois da faculdade, diz Tian, a empolgação – e a clara demanda – por seu novo aplicativo o convenceram de que ele deveria se concentrar em torná-lo um produto melhor e mais preciso. “Se você é um professor ou educador, nossa equipe – que agora somos apenas eu e meu melhor amigo da faculdade, que acabou de ingressar ontem – adoraríamos conversar com você”, diz Tian.
Portanto, se você encontrar algum texto que suspeite que possa ter sido escrito por uma máquina, talvez execute-o no novo aplicativo de Tian? Você pode encontrá-lo em GPTZero.me .
Texto traduzido e adaptado do original em NPR