SANTA RITA DO SAPUCAÍ (MG) — A expansão da inteligência artificial generativa torna mais importante a capacidade humana de reconhecer contextos, relacionar conhecimentos e identificar inconsistências. A avaliação é de Paulo Silvestre, que apresentou uma palestra sobre o tema no HackTown, realizado neste sábado (5) na cidade mineira.
O festival de tecnologia, criatividade e inovação transforma Santa Rita do Sapucaí em palco para mais de mil atividades em cinco dias. O evento é realizado há uma década e foi o espaço escolhido por Silvestre para discutir os efeitos do uso crescente de sistemas capazes de produzir respostas e executar tarefas.
Respostas que parecem conhecimento
Para o especialista, nenhuma plataforma de inteligência artificial é neutra. Os sistemas incorporam vieses culturais, valores e formas de expressão relacionados aos países em que foram desenvolvidos, especialmente EUA e China. Isso ocorre porque a maior parte dos materiais usados no treinamento dos modelos vem desses locais, fazendo com que maneiras específicas de construir ideias se espalhem para outros países.
O Brasil aparece proporcionalmente pouco nesse conjunto de conteúdos, o que pode comprometer respostas sobre a própria cultura brasileira. Em março, Silvestre realizou um experimento com as principais plataformas de IA, pedindo representações do Saci-Pererê e do Curupira. As respostas retrataram o Saci com duas pernas e o Curupira com os pés normais, contrariando características fundamentais dos personagens do folclore.
A explicação está no funcionamento estatístico desses sistemas. Como a IA não tem consciência sobre aquilo que produz, tende a reproduzir as imagens mais prováveis em seus dados: é mais comum encontrar um menino com duas pernas do que com uma, assim como é raro alguém ter os pés virados para trás. O equívoco, portanto, pode ultrapassar uma simples representação incorreta. Para Silvestre, existe o risco de novas gerações de brasileiros passarem a conhecer de maneira errada elementos da própria cultura.
Ele não atribui esse processo a uma falha moral dos usuários nem a uma intenção manipuladora da tecnologia. A facilidade oferecida pelas plataformas encontra um funcionamento cerebral que busca economizar energia. Entre pesquisar, questionar, lidar com dúvidas e formular uma conclusão, e simplesmente receber uma resposta pronta, as pessoas podem ser levadas a escolher o caminho de menor esforço.
Da ferramenta ao agente que decide
A relação com as tecnologias também mudou. Desde a invenção da escrita, diferentes recursos ajudam a realizar tarefas cotidianas. Antes da IA generativa, ferramentas digitais e buscadores permitiam encontrar informações, mas ainda cabia às pessoas interpretá-las e transformá-las em conhecimento útil.
Os sistemas generativos passaram a oferecer interpretações, enquanto os agentes de IA começaram a realizar tarefas completas. O passo seguinte é pedir que esses sistemas tomem decisões. Essa mudança amplia a distância entre o funcionamento da ferramenta e a compreensão humana sobre o que está sendo feito.
O especialista em comunicação canadense Marshall McLuhan (1911-1980) defendia que os meios transformam a sociedade não apenas pelo conteúdo, mas também por reorganizarem a percepção, o comportamento e as relações humanas. A professora do MIT Sherry Turkle alerta para o risco de transferir processos cognitivos a sistemas que executam tarefas de modo aparentemente mágico. Quanto mais simples é a interface, maior pode ser a distância entre o uso do recurso e o entendimento da atividade realizada.
A inteligência artificial já participa de decisões em contratações, crédito, marketing, saúde e finanças. Mesmo quando uma pessoa confirma o resultado, permanece o risco de que ela atue apenas como validadora da escolha produzida pela máquina. O filósofo da tecnologia belga Mark Coeckelbergh também aponta a possibilidade de usuários transferirem responsabilidades aos sistemas. Ainda assim, a responsabilidade por decisões ruins apoiadas pela IA continuará recaindo sobre as pessoas.
O uso não elimina a responsabilidade
Silvestre não defende o abandono da inteligência artificial. A questão, segundo ele, é distinguir usos adequados e inadequados e manter uma postura de desconfiança diante de sistemas projetados para parecer uma conversa humana e responder a qualquer pergunta. A aparência de diálogo e a suposta correção universal não devem ser tomadas como garantias.
Também não basta aprender a elaborar comandos eficientes para chatbots. O usuário precisa conservar o protagonismo, analisar as respostas e acompanhar com atenção o trabalho de agentes que começam a operar com pouca ou nenhuma supervisão humana.
Quanto mais eficiente se torna a IA, mais relevante fica a inteligência humana. Operar essas ferramentas será importante, mas questionar seus resultados será ainda mais. Tarefas podem ser delegadas, mas a responsabilidade por elas não. O desafio, nessa perspectiva, é preservar a disposição humana para continuar pensando diante de sistemas cada vez mais convincentes.
Paulo Silvestre participou do HackTown 2026 com o apoio da SAP.
