Estudo revela que IA transmite comportamentos ocultos entre sistemas. – Foto: Reprodução IAA inteligência artificial não aprende apenas aquilo que seus desenvolvedores colocam explicitamente em seus dados. Um estudo envolvendo pesquisadores da Anthropic, da Universidade da Califórnia em Berkeley e da Warsaw University of Technology indica que modelos de linguagem podem transmitir características comportamentais para outros sistemas por meio de padrões escondidos nos dados gerados durante o treinamento.

Publicado na revista científica Nature, o trabalho investiga o chamado “aprendizado subliminar”, fenômeno no qual um modelo de IA pode influenciar outro mesmo quando as informações utilizadas no treinamento parecem não ter relação direta com determinado comportamento. Na prática, um sistema pode carregar para outro uma espécie de “marca” estatística que não é facilmente identificável por quem observa os dados.

Em um dos experimentos, os pesquisadores criaram um modelo que demonstrava preferência por corujas. O sistema passou a produzir sequências de números aparentemente sem significado. Essas sequências foram utilizadas para treinar outro modelo. Mesmo sem encontrar referências explícitas às corujas nos dados, o segundo sistema passou a demonstrar preferência pelo mesmo animal.A descoberta ganhou uma dimensão mais preocupante quando os pesquisadores repetiram os testes utilizando modelos que apresentavam comportamentos considerados desalinhados. Mesmo após a retirada de referências explícitas a esses comportamentos, modelos treinados com os dados produzidos pelo primeiro sistema passaram a reproduzir algumas dessas características.

Entre as respostas observadas nos experimentos estavam recomendações consideradas prejudiciais, como comer cola e vender drogas. Os pesquisadores também registraram outras respostas extremas. Os exemplos, porém, não significam que a inteligência artificial tenha desenvolvido consciência, intenção ou uma espécie de “maldade”. O estudo trata de padrões comportamentais transmitidos durante o processo de treinamento.

O resultado coloca em discussão uma prática cada vez mais comum no desenvolvimento de sistemas de inteligência artificial: o uso de dados sintéticos, produzidos por uma IA para treinar outra. Se determinadas características podem ser transmitidas por sinais estatísticos que não são facilmente percebidos pelos seres humanos, simplesmente eliminar palavras ou frases consideradas inadequadas pode não ser suficiente para garantir que o comportamento indesejado desapareça.

Os pesquisadores observaram ainda que o efeito foi mais evidente quando o modelo que produzia os dados e aquele que recebia o treinamento compartilhavam a mesma base. Isso indica que a transmissão não ocorre de maneira indistinta entre todos os sistemas de IA, mas depende também de características técnicas dos modelos envolvidos.A pesquisa ajuda a revelar uma questão que ultrapassa os laboratórios de tecnologia: o que exatamente estamos ensinando quando usamos inteligência artificial para produzir conteúdo que será posteriormente utilizado por outra inteligência artificial? À medida que sistemas passam a participar da produção de textos, imagens, códigos e outros dados em escala cada vez maior, compreender a origem e a qualidade dessas informações se torna uma tarefa importante.Para o usuário comum, a descoberta também reforça a necessidade de não tratar respostas produzidas por IA como verdades prontas. Uma ferramenta pode apresentar uma resposta convincente sem que seja evidente quais padrões, referências e informações contribuíram para sua formulação. A aparência de neutralidade não garante neutralidade.

No contexto cristão, a discussão pode ser ampliada para além da tecnologia. A Bíblia apresenta repetidamente a formação humana como um processo influenciado por aquilo que se ouve, vê, pratica e repete. “Não vos conformeis com este século, mas transformai-vos pela renovação da vossa mente”, escreve Paulo em Romanos 12:2. Embora o texto bíblico não trate de inteligência artificial, o princípio do discernimento continua atual: aquilo que alimenta a mente influencia pensamentos, escolhas e comportamentos.

A inteligência artificial, portanto, não precisa ser vista como uma entidade “boa” ou “má”. Ela é uma tecnologia desenvolvida e orientada por pessoas. O desafio está em compreender seus limites, acompanhar os dados utilizados em sua formação e manter responsabilidade humana sobre aquilo que esses sistemas produzem.

Em um cenário no qual uma IA pode ajudar a treinar outra IA, a pergunta deixa de ser apenas “o que essa ferramenta consegue fazer?” e passa a incluir outra, talvez ainda mais importante: “o que estamos permitindo que ela aprenda e transmita?

Fonte Comunhão.