E isso é uma péssima notícia
O avanço da tecnologia relacionada ao que chama-se de “Inteligência Artificial” foi acompanhado de dois movimentos ainda mais preocupantes para a humanidade: a expansão do marketing e o aumento do analfabetismo funcional. Não há ironia maior que se apresentar aos progressistas que a Era da Informação ver os filhos terem QI menor do que os pais.
Sobre a expansão do marketing, bom, não é preciso mais documentação que uma breve experimentação de redes sociais ou uma pesquisa no Google que revela o abuso contemporâneo de SEO. O resultado é a maior propagação do conteúdo que se propagou, o que raramente é algo profundo e tende a alguma simplificação grosseira. Outra consequência aparente é o aumento do uso intenso de fóruns de discussão como o reddit por aqueles que realmente se interessam por algum assunto. Isso sem falar no uso de outras formas de contatar pessoas com autoridade.
Ainda noutro exemplo, o twitter, agora X (merecendo o nome após a liberação da pornografia), antes de Musk o comprar, já estava carregado de bots que faziam circular as mesmas listas de livros que alguns “intelectuais” querem divulgar como sendo os “segredos do sucesso”. E a tendência é piorar.
Muito do que se fala sobre IAs é tal qual as profecias apocalípticas que acompanham a humanidade. Passam-se 20 anos, e continuam repetindo a frase que Herbs Simon, pioneiro da IA, proferiu em 1965 “as máquinas serão capazes, dentro de vinte anos, de fazerem qualquer trabalho que um homem pode fazer”. Em 40 anos, ela ainda será crida e repetida.
>Não há muito que se questionar, afinal, o avanço do analfabetismo funcional tende a ser acompanhado do aumento da Dissonância Cognitiva e da Paralaxe Cognitiva, o que significa que toda prova em contrário será mais e mais interpretada como uma prova em favor.
Dicas de ceticismo
>No livro Rebooting AI: Building Artificial Intelligence We Can Trust, os autores Ernest Davis e Gary Marcus apresentam seis perguntas que podem ajudar qualquer pessoa a entender se alguma notícia sobre IA sinaliza algum sucesso ou não. Para os que estão preocupados e querem melhorar sua compreensão sobre o tema, ei-las com alguns comentários e explicações. Para melhor sinalizar o tom crítico dos autores (entusiastas de IA, mas críticos do modo como muitas são desenvolvidas), manteve-se o máximo da pergunta como no texto do livro.
1. Deixando de lado a retórica, o que o sistema de IA realmente fez?
Para muitos, escrever um texto é algo realmente difícil, mas em seu substack, Gary Marcus já mostrou que alguns resultados obtidos com IA são simplesmente textos prontos com reescritas leves.
Por mais impressionante que o resultado seja, muitos alunos são capazes de alcançar o mesmo resultado e serem culpados de plágio, recebendo uma avaliação negativa e, nalgumas situações, punições mais severas.
Mesmo corretores de texto constantemente apresentam alguma sugestão errada porque são incapazes de compreender o texto, algo que fica pior para poesia, figuras de linguagem ou quando o autor está escrevendo como alguém fala.
2. Quão geral é o resultado?
Em 2018, noticiou-se que “computadores estavam ficando melhores que os humanos em leitura”. Ao se debruçar sobre o teste de leitura, percebeu-se duas coisas. Primeiramente, o texto era simplíssimo:
“Duas crianças, Chloe e Alexander, foram passear. Ambos viram um cachorro e uma árvore. Alexander também viu um gato e apontou para Chloé. Ela foi acariciar o gato.”
Em segundo lugar, todas as perguntas tinham a resposta textualmente apresentada. Sequer foi perguntado à IA algo como “Chloé viu o gato?”, para o qual a resposta óbvia deve ser um “sim, ainda que depois que Alexander o apontou”. Todas as perguntas podiam ser respondidas com a IA copiando parte do texto original.
Ou seja, apesar de ser um aparente sucesso, ele nada mais é que identificação de palavras e ordenamento para produzir a resposta (que, muitas vezes, era copiar e colar alguma frase). Isso é algo básico para o letramento humano.
3. Existe uma demonstração onde posso testar meus próprios exemplos?
Uma pergunta relevante quando se fala em ChatGPT e outras IAs disponibilizadas por gigantes da tecnologia como o Google. Inclusive, a Rolling Stone mostrou que a IA da gigante das pesquisas online recomendou pular da ponte Golden Gate para cometer suicidio quando alguém perguntava sobre prática de esporte.
Outros usuários já compilaram erros do ChatGPT e outras IAs similares.
4. Se os pesquisadores (ou a imprensa) alegam que um sistema de IA é melhor que os humanos, então quais humanos e até que ponto são melhores?
>Algo que não precisa ser comentado após se falar da redução do QI dos filhos em relação aos pais nesta geração.
5. Até que ponto o sucesso na tarefa específica relatada na nova pesquisa realmente nos leva à construção de uma IA genuína?
Ou seja, o quanto a tarefa requer inteligência ou, como no caso destacado acima, pode ser resolvida com um “copia e cola” e o aluno receberá uma nota baixa por plágio?
6. Quão robusto é o sistema? Poderia ele funcionar tão bem com outros conjuntos de dados, sem grandes quantidades de treinamento adicional naqueles dados?
O melhor exemplo para entender o que está em jogo é: uma IA capaz de vencer um humano numa partida de Xadrez é tão competente para vencer um humano numa partida de Advance Wars By Web? Além disso, é preciso ver seu desempenho noutro estilo de jogo para poder compreender o quanto a IA é propriamente inteligente ou, na verdade, só um bot muito caro.
A resposta é negativa. E qualquer desenvolvedor de jogos digitais (assim como muitos jogadores) sabe que os bots (personagens controlados pela máquina) não são IAs porque é mais fácil criar um desafio aos jogadores com bots que usando IAs. Mesmo as melhores IAs desenvolvidas e capazes de superar jogadores em jogos possuem limitações que nenhum jogador possui, como o fato de só conseguirem jogar com uma das facções disponíveis no jogo em questão. Ou seja, elas não aprenderam a jogar no sentido próprio.
No caso de bots, os programadores humanos preparam uma série de ações que são realizadas num intervalo de tempo (e, em alguns casos, espaço) específico. Não só é mais eficiente, como requer menos linhas de programação. Mesmo a previsibilidade não necessariamente anula o desafio, porque é possível programar vantagens. É exatamente por isso que jogos tendem a ser muito mais difíceis contra humanos ou extremamente desbalanceados quando contra um computador.
Outros exemplos sobre a questão robustez do sistema são: um sistema treinado para dirigir um carro durante o dia é capaz de dirigir à noite ou sob condições climáticas adversas? Ele seria capaz de dirigir se houvesse alguma placa diferente sinalizando algum desvio no trajeto em decorrência de obras? Um outro sistema, criado para identificar animais, seria capaz de identificar como animal algo fora do que foi apresentado durante o seu treinamento?
No que as IAs são boas?
IAs são excelentes em fazer coisas já foram muito bem catalogadas por seres humanos. Xadrez é um exemplo ótimo porque todas as jogadas já existem em livros e não há muito que inventar, só memorizar e aplicar. Como os movimentos das peças são rígidos, um cálculo de probabilidade e uma boa memória é suficiente para a IA vencer um bom jogador humano. Acima de tudo, não há chance de uma nova peça aparecer ou de, subitamente, o tabuleiro aumentar ou reduzir uma casa que seja.
Isso não significa que será algo barato, mas ilustra o problema com o desenvolvimento contemporâneo de IAs versus a realidade em que elas serão utilizadas.
Em suma, qualquer coisa que exija alguma inovação e alguma compreensão profunda do mundo não é para IAs. Quase todos os supostos “sucessos” das IAs na indústria criativa referem-se a programas que são capazes de copiar estruturas prontas de roteiro. E, cedo ou tarde, essas estruturas estarão saturadas.
Se alguém quiser um modelo perfeito de como uma IA escreve, basta ver Rebel Moon. Se não foi uma IA que escreveu, demonstra o declínio do QI humano. Ambos os filmes parecem mais listas de checagem com pouca a nenhuma coerência para o conjunto de ações. Simplesmente, segue-se do ponto A ao ponto B criando algo que se tem registrado como “entretenimento”. Ou seja, “aqui precisa haver uma luta”, mas a luta não tem implicação narrativa.
Algo similar acontece com carros dirigidos por IAs. Eles são capazes, muito capazes, quando há poucas variáveis envolvidas no processo. Ou seja, quando a pintura do asfalto é boa, quando o clima está sob condições favoráveis e, acima de tudo, em ambientes onde ninguém pode pular, do nada, na frente deles. Funcionam muito bem em autoestradas, mas os resultados mostram-nos como perigosos em ambientes urbanos onde um pedestre pode fintar que atravessará e levar a IA do carro a uma freada brusca que causa um engavetamento.
um motivo similar, notícias fáceis e corriqueiras (como o resultado de partidas de futebol) são facilmente delegáveis a IAs, mas uma reportagem investigativa dificilmente poderá ser feita pelo melhor que há, salvo se um humano conduzir e usar a IA para melhorar o texto. Neste caso, a IA atuará como um editor, escolhendo palavras e reordenando frases.
E uma partida emocionante de futebol com diversas reviravoltas e um resultado próximo de 6 a 5 com duas reviravoltas está fora de questão.
A limitação das IAs é tamanha que mesmo os aspiradores de pó precisam de ambientes fechados e praticamente quadrados ou retangulares para conseguirem operar. E isso sem falar na remoção de obstáculos do caminho deles. Para algumas pessoas, é menos trabalhoso operar um aspirador de pó que usar tais robôs.
E, se as IAs atuais são limitadas para “joguinhos de guerra”, quanto mais para comandar tropas numa guerra de verdade. A Skynet está longe de ser uma realidade.
O Futuro que se prepara
O que as IAs estão fazendo é a democratização do conhecimento, porém, tornaram as pessoas mais incapazes de produzir conhecimento propagadoras de erros. Não que fosse necessário recorrer às IAs, mas elas de tal modo facilitam a produção de erros que é legítimo se preocupar.
Não que inexistam humanos que usem de IA para propagar acertos, mas o primeiro grupo é muito maior. Lembre-se que muitos dos algoritmos responsáveis por divulgar conteúdo na rede são IAs já viciadas com conteúdo de baixa qualidade e que estes conteúdos altamente divulgados são a base de dados de muitas IAs usadas para produzir mais conteúdo.
A urgência desse problema é maior que se preocupar com a capacidade de uma IA substituir um ser humano. A Big Data pode ser útil para resolver 80 a 90% das situações, mas os humanos capazes de resolver as outras 10% serão cada vez mais necessários. É o caso do programa criado para prever o dia fértil do ciclo de vinte dias de vacas de uma fazenda. Ele acertava 95% das vezes, mas simplesmente chutava sempre que elas não estavam férteis.
O acerto é estrondosamente alto, mas é inútil.
>E o uso atual de muitas das IAs resultará que todos os humanos serão nivelados por baixo em seus conhecimentos. O que, considerando o uso atual do termo democracia, é melhor compreendido ao se dizer que a IA, como está, favorece a demagogia.
Para saber mais sobre o Instituto Visconde de Cairu – https://ivcairu.org/quem-somos/
Se acredita na importância e quer incentivar o trabalho cultural, clique aqui. Ou leia o QR abaixo.
