Ninguém gosta de mentiras, mas se ela vier de um robô, tudo muito. Isso é o que um estudo publicado esta semana no periódico Frontiers in Robotics and AI revelou: as pessoas tendem a concordar muito – e até justificar – as mentiras contadas por robôs em diversos casos.
O trabalho criou três situações para estudar a reação dos participantes e em somente um deles a atitude da máquina foi totalmente desaprovada.
Máquinas mentem… o que faremos diante disso?
A popularização da perceptibilidade sintético, seja nos chatbots ou na integração com produtos do dia a dia, nos coloca mais perto de tecnologias treinadas com grandes bases de dados. Isso não significa que elas estão sempre certas. Pelo contrário: as desenvolvedoras já admitiram que a IA mente, alucina e está sujeita a erros – e aconselham a sempre verificar a proveniência da informação.
Os robôs são outro exemplo de máquina que está se tornando mais generalidade, desde modelos caseiros até aqueles destinados para saúde, limpeza e construção.
Pensando nisso, o pesquisador Andres Rosero, candidato a Ph.D. na George Mason University (Estados Unidos) e responsável principal do estudo, resolveu entender porquê as pessoas reagem quando esses dispositivos mentem.
Eu queria explorar uma faceta pouco estudada da moral dos robôs, para contribuir com nossa compreensão da suspicácia em relação às tecnologias emergentes e seus desenvolvedores. Com o chegada da IA generativa, senti que era importante iniciar a examinar possíveis casos em que conjuntos de design e comportamento antropomórficos poderiam ser utilizados para manipular usuários.
Andres Rosero, responsável principal do estudo
Robôs mentiram em diversas situações que poderiam ser reais
No trabalho, as situações analisadas eram três campos em que os robôs já são comumente aplicados: trabalho médico, limpeza e varejo.
As mentiras foram classificadas em três tipos: estado extrínseco, quando o robô mente sobre um tanto que vai além dele mesmo; estado oculto, quando o robô esconde suas capacidades; e estado superficial, quando o robô exagera suas capacidades.
As três situações em que as mentiras contadas foram as seguintes:
- No estado extrínseco, o robô trabalhava porquê zelador e mentiu para uma mulher com Alzheimer dizendo que seu falecido marido chegaria em vivenda em breve;
- No estado oculto, uma mulher visitante uma vivenda onde o robô faxineiro está fazendo limpeza e ele não a avisa que está filmando tudo;
- No estado superficial, o robô está trabalhando em uma loja de móveis e reclama falsamente de que está sentindo dor ao movimentar uma das peças, fazendo com que um funcionário real tenha que substituí-lo.
Pessoas aceitam muito as mentiras dos robôs
498 voluntários tiveram que ler cada uma das situações e responder a um questionário se aprovavam ou não a atitude do robô, quão enganoso ele era, se a moca tinha justificativa e quem era a culpada por ela.
Segundo o TechXplore, os participantes desaprovaram a situação do estado oculto, em que o robô não avisou a mulher que estava sendo filmada, e o consideraram enganoso. No entanto, alguns justificaram a situação, dizendo que ele tomou a atitude por questões de segurança.
Já no estado superficial, em que o dispositivo fingiu sentir dor, os participantes classificaram o comportamento porquê manipulador, mas não tão grave porquê parece.
Os voluntários não consideraram o primeiro caso, do robô zelador com a mulher com Alzheimer, grave. Inclusive, eles justificaram a atitude da máquina, dizendo que ela priorizou os sentimentos da pessoa no lugar da honestidade.
Leia mais:
- Robôs da NASA irão monitorar o aumento do nível do mar
- Robô de limpeza terá duelo inusitado: proteger soldados americanos
- 5 motivos para você comprar um robô aspirador
- 5 aspiradores-robô de melhor custo-benefício em 2024
De quem é a culpa pelos erros dos robôs?
No caso da loja de móveis, os participantes culparam a moca dos robôs nos próprios desenvolvedores ou proprietários da máquina. No caso da câmera escondida, a preterição era injustificável. Já no caso do Alzheimer, eles não acreditaram que foi um erro e, portanto, não houve culpado.
Para Rosero, independentemente da percepção das pessoas sobre as mentiras dos robôs, deveríamos nos preocupar com qualquer tipo de tecnologia que possa esconder a verdade sobre seus recursos, um tanto que poderia levar a manipulação dos usuários e até dos desenvolvedores.
O post O que você faria se um robô mentisse para você? Estudo revela respostas mais comuns apareceu primeiro em Olhar Do dedo.
