ChatGPT puxa-saco afaga o ego, mas é terror do meio ambiente
(Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre tecnologia no podcast Deu Tilt. O programa vai ao ar às terças-feiras no YouTube do UOL, no Spotify, no Deezer e no Apple Podcasts. Nesta semana, o assunto é: WhatsApp lendo suas mensagens?; R$ 2 trilhões para data centers; IA contra marasmo das redes; ChatGPT puxa-saco)
Ser puxa-saco não é bem visto entre seres humanos, e o ChatGPT está aprendendo isso da pior maneira. Recentemente, o chatbot exagerou na dose de bajulação, obrigando a OpenAI a reverter uma atualização do modelo GPT-4o.
A Anthropic, dona do Claude, decidiu investigar a questão e testou as versões 1. e 2.0 de sua própria plataforma, o GPT 3.5 e 4o e o Llama, da Meta. Os resultados foram parecidos: todos bajuladores.
Em novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, o jornalista Helton Simões Gomes explicou que esse fenômeno ocorre devido ao feedback dado pelos usuários durante as interações com os bots. Cada "joinha" funciona como um reforço, que a máquina entende como orientação para continuar.
"No caso do ChatGPT, o que aconteceu com essa versão bajuladora é que o modelo aprendeu de uma forma que não necessariamente foi incluída no código, a dar mais peso a esse feedback a partir desse joinha e o modelo foi se auto reconfigurando para dar só as respostas que as pessoas querem"
Diogo Cortiz
Essa bajulação está associada ao interesse das empresas em manter os usuários em suas plataformas. O pesquisador explica que, se as pessoas passarem a não gostar dessas interações, isso pode significar perda de dinheiro para as empresas.
No fim das contas, é uma relação comercial. Quanto mais o usuário fica ali [na plataforma] mais tokens ele gasta, mais ele tem que pagar, e isso vale dinheiro."
Helton Simões Gomes
Contudo, essa permanência tem um custo que impacta o meio ambiente. Em uma postagem no X, o CEO da OpenAI, Sam Altman, respondeu a um usuário sobre o quanto custava a "boa educação" com o ChatGPT. Dizer "obrigado" e "por favor" custa "algumas dezenas de milhares de dólares".
Essa bajulação quando a intenção é fazer com que você converse cada vez mais com a IA, faz com que ela gaste mais energia, consuma mais recursos naturais e coloque mais pressão no meio ambiente"
Helton Simões Gomes
Cortiz considerou importante o posicionamento da OpenAI em reconhecer que esse erro não estava previsto na programação e que precisava ser revisto.
Cada vez mais as empresas que desenvolvem IAs tem que ficar atentas para que o produto não vá para o mercado com essa possível consequência porque não dá para voltar atrás na energia gasta"
Helton Simões Gomes
Meta quer usar IA para dar novo gás às redes sociais; vai funcionar?
A impressão geral é que existe um ranço crescente com as redes sociais por parte dos usuários que reclamam, sobretudo, do excesso de conteúdo publicitário em redes como o Instagram. Mas a inteligência artificial pode ajudar a reverter esse cenário. A Meta saiu na frente com o Meta IA, um aplicativo disponível, por enquanto, somente nos EUA e Canadá, que gera conteúdos e imagens por IA e possibilita que os usuários publiquem e compartilhem os resultados de seus pedidos. Esse pode ser um próximo passo em direção ao futuro que aponta para uma rede social cada vez mais baseada em inteligência artificial.
Como o governo Lula calcula que data center pode atrair R$ 2 tri ao Brasil?
Em viagem aos Estados Unidos, o ministro da Fazenda, Fernando Haddad, mostrou a grandes empresas de tecnologia um plano para facilitar a instalação de data centers no Brasil. Nos cálculos internos da pasta, a ação pode atrair R$ 2 trilhões em investimentos. Como?
Grande demais, o número é considerado um potencial de investimentos e calculado com base em premissas consideradas conservadoras na pasta, segundo fontes consultadas por Deu Tilt. Sustentam os cálculos os anúncios de aportes feitos por diversas empresas.
Segundo apuração de Deu Tilt, R$ 2 trilhões não chega a ser uma quantia desproporcional, considerando os valores aplicados na área.
WhatsApp vai ler conversas para IA agir: é o fim da sua privacidade?
Durante a LlamaCon, conferência voltada a desenvolvedores, a Meta anunciou que o WhatsApp ganhará uma função curiosa: resumir conversas.
Para fazer isso, a empresa usará sua ferramenta de inteligência artificial, a Meta AI, que lerá as conversas das pessoas trocadas pelo aplicativo e transferi-las para os servidores da Meta, o que levanta sérias questões sobre segurança e privacidade.
Uma das principais bandeiras quando o assunto é WhatsApp são as mensagens criptografadas de ponta a ponta, ou seja, o conteúdo das mensagens é embaralhado ao sair do celular de um usuário e só reordenado ao chegar no aparelho do destinatário. A Meta afirma que nem mesmo ela consegue acessar essas informações.
DEU TILT
Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.