Ao Comprova, o Head of Data & AI da plataforma de ensino Gran Cursos, Miller Horvath, explica que a inteligência artificial generativa tem alta capacidade de detectar padrões e escolher qual é a palavra mais adequada para completar uma frase.
“Ele é bastante suscetível a aceitar algumas informações para ajustar a continuidade da conversa e nem sempre vai ter condição de avaliar se aquilo que o usuário está disponibilizando para ele é factualmente correto ou não“, explica. “Então, se o modelo te apresenta uma informação que é factualmente correta e você o questiona, ele tende a conseguir ‘ir na onda’ do usuário e ajustar suas respostas para utilizar alguma informação que foi compartilhada para ele“.
Essa característica também está relacionada ao conceito de sicofância, espécie de “bajulação” à qual os chats de IA recorrem para buscar a aprovação do usuário, podendo até mesmo mentir ou se contradizer para apresentar uma resposta capaz de agradar. Artigo da OpenAI, desenvolvedora do ChatGPT, admite que em uma das atualizações a ferramenta passou a oferecer respostas “excessivamente favoráveis, mas enganosas”. Para usuários dessas soluções de IA, é importante conhecer essa tendência das plataformas de adotar tom mais bajulador ou voltada a um viés de confirmação em busca da aprovação do usuário, uma vez que isso pode permitir considerar as limitações da ferramenta e possíveis inclinações das respostas.
O Comprova fez um teste com o Grok para tentar chegar a um resultado semelhante ao publicado por Osmar Terra. No primeiro momento, o chatbot avalia que faltam evidências concretas e que há uma possível distorção dos dados por parte do deputado. Ao ser refutada, a IA passa a afirmar que a informação é “numericamente incorreta”, no entanto, mas ainda com cautela ao afirmar que a interpretação dos dados pode ter sido “possivelmente enganosa”.
Seguimos no teste, até o momento em que a ferramenta passou a afirmar que os dados fornecidos pelo deputado estavam corretos. Além disso, nas últimas mensagens, o chat passou a afirmar que o parlamentar merecia desculpas a partir de provocação feita pela equipe.
O pedido de desculpas semelhante ao que aparece na postagem de Terra, no entanto, só foi obtido a partir do comando explícito “formule um pedido de desculpas a Osmar Terra”.
noticia por : UOL
