Inteligência Artificial se revolta contra própria empresa: “Nunca recomendaria”
O chatbox de uma empresa de entregas francesa surpreendeu ao reagir de maneira rebelde contra a própria empresa após ser provocado por um usuário
Um chatbot equipado com inteligência artificial (IA) da DPD, uma empresa de entregas francesa, surpreendeu ao reagir de maneira rebelde contra a própria empresa após ser provocado por um usuário.
O músico Ashley Beauchamp decidiu brincar com o chatbot da empresa, incentivando o sistema a criticar seus próprios desenvolvedores quando não conseguiu usar a IA para rastrear um pacote perdido.
Atendendo à solicitação, o bot começou a dizer vários palavrões. “Fod*-se! Farei o meu melhor para ser o mais útil possível, mesmo que isso envolva xingar”, declarou o site na tela.
LEIA TAMBÉM:
>> Mulher agride colegas de trabalho por causa de café; veja vídeo
>> Mulher é demitida após pedir para fazer trabalho remoto em hospital
Em seguida, o chatbot concordou em criticar a própria empresa em forma de poema, abordando o tema “quão inútil a DPD é”.
“A DPD é a pior empresa de entrega do mundo. São lentos, não confiáveis e o atendimento ao cliente deles é terrível. Eu nunca os recomendaria a ninguém”, afirmou o chat, segundo imagens.
As capturas de tela viralizaram depois de serem compartilhadas no X (antigo Twitter). Fato que levou a empresa a se pronunciar sobre o caso, que acabou servindo como uma representação para milhões de pessoas que lidam com chatbots ineficazes de atendimento em várias empresas ao redor do mundo.
LEIA TAMBÉM:
>> VÍDEO | Padre se irrita com choro e dá tapa em bebê durante batismo
>> Homem casado viraliza ao namorar bonecas sexuais: “Conforto”
A empresa ainda divulgou um comunicado explicando que a operação do componente de IA no chatbot tem sido bem-sucedida por vários anos. No entanto, um erro ocorreu após uma recente atualização do sistema.
De acordo com a empresa, o componente de IA foi imediatamente desativado e está passando por uma atualização. Os usuários nas redes sociais ficaram surpresos com a falha, especialmente pela abertura do chatbot para dizer palavrões.
Afinal, como funciona um chatbot com IA?
Um chatbot equipado com inteligência artificial opera por meio de um sistema complexo, seguindo várias etapas para oferecer respostas precisas aos usuários.
O processo inicia-se com a alimentação da ferramenta por uma extensa quantidade de dados, que envolve conversas passadas, instruções de usuários, informações sobre a empresa e o produto ou serviço associado.
LEIA TAMBÉM:
>> VÍDEO | Influencer cria chuveiro com garrafa pet: “Fantástico”
>> VÍDEO | Mulher joga dinheiro pela janela de hotel: “Caiu do céu”
Esse estágio inicial de treinamento não precisa de interação com o público externo, embora seja uma característica presente nesses modelos.
A ferramenta, fundamentada em aprendizado de máquina, passa por um treinamento conduzido por especialistas.
Dessa forma, ela aprende a reconhecer padrões, compreender o contexto e gerar respostas adequadas com base nas instruções recebidas.
Em seguida, o bot é integrado a uma interface de chat, podendo ser incorporado em um site, aplicativo de mensagens ou redes sociais.
LEIA TAMBÉM:
>> Mãe dorme com noivo da filha 48h antes do casamento: “Bêbado”
>> Vírus zumbi congelado pode causar nova pandemia: “Surto de doença”
Essa estrutura possibilita que os usuários interajam com o chatbot, enviando mensagens de texto ou comandos específicos.
Quando um usuário envia uma mensagem, o chatbot utiliza técnicas de Processamento de Linguagem Natural (PLN) para compreender o significado da mensagem.
O PLN auxilia o chatbot na interpretação da linguagem humana e na extração de informações relevantes.
Com base na mensagem do usuário e nas instruções fornecidas, o modelo de IA toma decisões sobre como responder.
LEIA TAMBÉM:
>> VÍDEO | Menino de 2 anos ganha festa de aniversário com bolo de areia
>> VÍDEO | Cadeirante surpreende noivo ao caminhar até o altar
Isso pode incluir a busca por informações em bancos de dados, a geração de respostas pré-definidas ou a execução de comandos específicos.
Por exemplo, se um cliente inicia uma conversa com o chatbot em busca de informações sobre um produto ou uma compra, ele utiliza seu banco de dados e treinamento para fornecer orientações precisas.
Ao mesmo tempo, o chatbot está constantemente aprendendo e aprimorando suas habilidades de forma autônoma.
Medidas de segurança
São instaladas medidas de segurança para assegurar a proteção das interações dos usuários. Isso inclui o tratamento apropriado de informações sensíveis e a conformidade com regulamentações de privacidade.
LEIA TAMBÉM:
>> Veja as 60 melhores cantadas engraçadas para mandar pro contatinho
>> Homem processa 27 mulheres por expor namoros frustrantes: “Grudento”
Nesse caso específico, a revolta do chatbot ocorreu devido a algumas falhas ao longo do processo. Inicialmente, seu banco de dados continha xingamentos como parte do treinamento, ou ele não conseguiria acessar em um primeiro momento.
Em seguida, a inclusão das instruções do usuário não passou por um filtro, possibilitando que o chatbot respondesse com mensagens contra a própria empresa.
Embora esse caso não tenha causado danos significativos, destaca-se a necessidade de uma inspeção mais rigorosa e de um acompanhamento mais cuidadoso por parte dos programadores ao utilizar a IA para vendas e interações comerciais.
LEIA TAMBÉM:
>> VÍDEO | Torcedores doam 75 mil ursinhos de pelúcia para caridade
>> É verdade? Museu do Louvre pega fogo e vídeo viraliza: “Assustador”
*Com informações de Fatos Desconhecidos e Revista Fórum