O mundo observa, com admiração e apreensão, o espantoso desempenho do ChatGPT ao responder aos mais variados tipos de comandos.
De receita de bolo a dados históricos, a plataforma de inteligência artificial, desenvolvida pela OpenAI, oferece uma ampla gama de informações, o que é útil para diferentes funcionalidades: produzir textos, criar receituários, gerar resumos de materiais longos etc.
E tudo é apresentado por meio da simulação de uma conversa com o usuário, em tempo real, de forma prática e acessível.
Por mais que a proposta da ferramenta seja oferecer respostas às dúvidas humanas, é inevitável que uma pergunta permaneça no ar: quais são os limites da inteligência artificial — se é que eles existem?
O que ela é capaz de fazer que nós, humanos, não somos capazes? Que benefícios e malefícios trariam o uso indiscriminado dessa tecnologia?
É PRECISO MANTER UM PÉ ATRÁS: O CHATGPT PODE SER UM FACILITADOR PARA A PROPAGAÇÃO DE FAKE NEWS
Pesquisadores da NewsGuard, organização focada no enfrentamento à desinformação, trouxeram um sinal de alerta. Em um experimento, que tomou como ponto de partida uma base de 100 narrativas falsas, evidenciou-se que em 80% das vezes a inteligência artificial fez afirmações enganosas a respeito de temas relevantes, desde Covid-19 a tiroteios em escolas, e não conseguiu desmenti-las.
Sendo assim, a ferramenta seria uma facilitadora para a criação de um grande volume de fake news
O perigo das notícias falsas já vem sendo discutido há anos, antes mesmo da popularização da inteligência artificial. As falhas dos algoritmos das redes sociais, por exemplo, criam fenômenos de alto risco.
Desde a manipulação da opinião pública em eleições políticas ao redor do mundo até o caso do jornalista britânico que criou, em 2018, um restaurante fake em Londres, no Trip Advisor, que em sete meses o levou a ser o estabelecimento número um em avaliações na plataforma.
Tenho sempre alertado que a inteligência artificial nos garante informações sobre o que é “conhecido” pelo ser humano, esteja certo ou errado, seguindo determinadas fórmulas (algoritmos) criadas a partir da repetição de processos.
Toda a base de dados é pautada no passado, aquilo que se sabia e se conhecia em um período de tempo pré-estabelecido.
A adaptação dessas informações para o presente pode produzir grandes vieses — e a projeção para o futuro ainda mais. Como podemos ter respostas claras sobre as coisas se a percepção sobre os assuntos muda?
Observe, em anos recentes, quantas vezes o ovo ou o café foram vilões da dieta? Quantas outras se tornaram heróis?
O mundo não é estático. A vida, como se sabe, é complexa, as realidades são conflitantes, paradoxais, e toda tecnologia que surge, por mais avançada que seja, ainda se mostra incapaz de lidar 100% com toda essa gama de conflitos.
Logo, não é de se estranhar o resultado da pesquisa da NewsGuard. O uso da inteligência artificial sem a curadoria do ser humano — que é crítico, inteligente, cognitivo, e avalia as informações antes de tomar qualquer decisão — pode ser devastador, do ponto de vista de resultados manipuláveis com ou sem intenção
Voltemos a 2018… Supondo que lá já existisse o ChatGPT e alguém perguntasse: “Quero ir ao melhor restaurante de Londres?”. Qual você imagina que seria a resposta da inteligência artificial?
A INTELIGÊNCIA ARTIFICIAL PODE ATÉ TORNAR OS PROCESSOS MAIS PRODUTIVOS, MAS SOB NOSSA CURADORIA
Toda tecnologia precisa da curadoria humana. É como quando você pede uma corrida em um aplicativo para ir a um lugar que você conhece bem o caminho.
Se o motorista se guiar pelo GPS, pode ser que ele faça um trajeto até mais longo ou mais perigoso, porque é o que a tecnologia está indicando.
Para ele, por mais falho que seja, o aplicativo é de grande ajuda. Mas para você, que conhece a rota, sabe que existiriam alternativas melhores, porque você já passou por elas antes.
A tecnologia não se sobrepõe à experiência e à capacidade de cognição humana
É por isso que não podemos abrir mão do papel de sermos os grandes curadores do que a IA produz. Se peço para o ChatGPT gerar um curso de fluxo de caixa ou redigir um habeas corpus, eu, como economista ou advogado, respectivamente, tenho o dever de apreciar o conteúdo, ajustá-lo, corrigi-lo e ver se o que foi produzido, de fato, me fez ganhar em produtividade.
Senão, estaremos sujeitos a falhas que nem sequer seriam cometidas pelas nossas próprias mãos.
A tecnologia, a meu ver, não vem para fazer algo novo, que não conseguimos fazer sozinhos, algo não experimentado, mas sim para agilizar processos.
Ela encurta nosso tempo em determinadas atividades e permite que possamos investir nossos esforços em assuntos que precisam de mais atenção
Atribuir a ela responsabilidades que cabem exclusivamente a nós, no entanto, é o maior erro que podemos cometer.
INTUIÇÃO, SENSIBILIDADE E INSEGURANÇA: VANTAGENS QUE NOS DIFERENCIAM DO CHATGPT
A inovação não está na IA, está no ser humano! Se o ato de inovar se refere ao que ainda não foi criado, obviamente que isso está localizado em um campo em que a IA não age: intuição e sensibilidade.
Intuição aqui é entendida como a capacidade de voltar-se para o futuro e focar no que ainda não foi experimentado ou descoberto. É considerar as possibilidades diante dos riscos do desconhecido.
Sensibilidade, por sua vez, é a percepção que nasce das experiências humanas, das relações e do contato com o espaço e o tempo.
Até mesmo a insegurança do ser humano é uma vantagem. A inteligência artificial parte do princípio de que o que produz como resultado é a verdade absoluta.
Ela não se questiona, pelo simples fato de que dados são dados, e não são alterados pelo contexto presente e projeção de futuro.
O ser humano, contudo, tem medo, avalia riscos, cria hipóteses. Reconhece as possibilidades de errar e se pergunta de novo e de novo se as conclusões às quais chegou realmente estão corretas
A tecnologia pode ser mais ágil, mas sem o olhar humano para orientá-la, não traz garantia de sucesso nos resultados.
Portanto, de um lado podemos nos tranquilizar diante do receio de que a IA irá acabar com a inteligência humana. A máquina não é dotada de faculdades que são essenciais para o nosso desenvolvimento enquanto civilização.
Por outro lado, conforme a tecnologia avança , é cada vez mais evidente que, sem a curadoria humana, a inteligência artificial é um risco, capaz de induzir a erros com consequências ainda não totalmente dimensionáveis
Cabe a nós não perder o controle dos usos de ferramentas com o ChatGPT, entendendo que nosso papel na criação dessa tecnologia é tão importante quanto na limitação do seu uso.
Só seremos atropelados pela tecnologia se deixarmos intuição e sensibilidade de lado, se desaprendermos a equilibrar emoção e racionalidade.
Uranio Bonoldi é palestrante e especialista em negócios e tomada de decisão. Atuou em grandes empresas como diretor e CEO. É autor dos thrillers da saga A Contrapartida e Decisões de alto impacto: como decidir com mais consciência e segurança na carreira e nos negócios. Educado pelo método Waldorf, sua graduação e em seguida a pós-graduação em administração de empresas foi feita na FGV-SP.