Por Que Chatbots Automatizados Lutam para Conversar Como Humanos

Chatbots automatizados — do que se tratam?

Temos uma relação de amor e ódio com chatbots automatizados. Adoramos brincar com eles, mas ficamos frustrados quando o chatbot não consegue responder nossas perguntas ou atender nossos pedidos. Quem cria chatbots prospera com o desafio de torná-los o mais humanos possível, mas acha escrever as várias milhares de permutações condicionais possíveis para tentar alcançar isso muito árduo.

Esse desejo mútuo de tornar a interação com um chatbot automatizado semelhante a humana impulsionou o poder dos bots através do processamento de linguagem natural (NLP). O machine learning por trás do bot e a partir do qual ele aprende é construído em lógica de árvore de decisão e é uma troca de sequências de entradas e saídas predeterminadas. No entanto, conversa natural não é assim.

Distorcendo os padrões da conversa natural

Como na conversa natural, humanos e chatbots automatizados se revezam falando, ou seja, trocando mensagens. Na fala natural, independentemente do conteúdo do que está sendo dito, mesmo na ausência de pistas visuais e tom de voz, há significado na fala que se sobrepõe, significado nos silêncios entre as trocas de turno, e significado nos esforços para reparar mal-entendidos. Essas ações são na verdade constituintes do que significa tomar a vez e são inerentes à conversa natural. Elas ajudam a impulsionar conversas para frente e revelam a intenção por trás delas à medida que a conversa se desenrola.

Uma mudança de chatbots para debate-bots?

Quando se trata de padrões de interação, esses chatbots têm mais em comum com a natureza de ida e volta de turnos pré-alocados em debates (Sacks et al, 1974) do que com conversa natural. Se o trabalho de um chatbot automatizado é "ir buscar", precisamos mesmo de gentilezas sociais como "Oi"? Ao humanizar o chatbot, somos responsáveis por criar expectativas incorretas de gestão do usuário? Ou é apenas serviço com um sorriso?

A ideia de que chatbots podem não estar "conversando" ilustra uma questão quase filosófica. Por que bots precisam ser tão humanos e em que capacidade? O que estamos realmente automatizando quando automatizamos chatbots?

Tomando turnos

Para fornecer respostas mais precisas e relevantes, chatbots automatizados estão aproveitando NLP de forma similar à busca conversacional do Google. Isso resulta em processamento mais inteligente, mas ainda depende amplamente de tanto o humano quanto o bot tomando turnos bem organizados ao falar, ou seja, enviando uma mensagem ou um multi-stack bem construído por vez. Ambos chatbots e humanos podem enviar multi-stacks, mas o multi-stack humano é muito mais disruptivo que o do chatbot. Podemos tornar a próxima resposta do chatbot irrelevante ou inadequada, resultando em uma ação pareada ruim, como um match de Q&A, o que nos deixa frustrados como usuários.

Como a conversa natural não é composta de ações pareadas, produzidas ordenadamente uma após a outra, precisamos começar a analisar a interação com chatbot como um todo, em oposição a conjuntos de trocas pareadas únicas. Também precisamos de intervenções para que, quando humanos criam esses multi-stacks disruptivos, possamos "ouvir" melhor a "conversa".

O significado do silêncio

Uma forma de gerenciar interação humano-chatbot é através de animação. Animação na forma de loaders, "…está digitando" ou "por favor aguarde" oferece benefício de duas vias para bot e usuário, ajudando a gerenciar transparência e manter a conversa avançando. Ajuda a tentar reduzir multi-stacks humanos problemáticos ao reivindicar a vez na conversa.

Como afirmou Adrian Zumbrunnen, designer do Google: "sem animação, não há conversa" e isso é verdade em grande medida. Da mesma forma que associamos atraso temporal a respostas afirmativas ou negativas, um bot poderia deduzir o mesmo significado do nosso atraso na resposta? Entender se temos baixa habilidade técnica ou se estamos usando a affordance da interface de chat para ganhar tempo para pensar são desafios interessantes ao detectar intenção de reparo.

Bots precisam ser humanos?

O Google não finge ser humano e, embora a análise de termos de busca mostre que lhe fazemos perguntas muito humanas. Além disso, quando o Google mostra resultados irrelevantes ou apresenta não-match, nos culpamos por não acertar o termo de busca. Somos mais tolerantes porque "Googlar" não é configurado como conversa, é configurado como recuperação. O fato de empatizarmos com bots mais humanos, mas menos com mecânicos, não é necessariamente desvantagem na interação — ajuda a definir expectativa do usuário.

A interface errada?

As árvores de decisão que alimentam chatbots automatizados, construídas em sequências de declarações de controle condicional, compartilham semelhanças com diálogos de jogos de aventura.

Bandersnatch, o último episódio da série Black Mirror da Netflix no final do ano passado, é um filme "Escolha Sua Própria Aventura" que explora livre-arbítrio. A Netflix até desenvolveu "rastreamento de estado" que salva nossa trilha de escolhas para que possam ser usadas depois na narrativa. Bandersnatch é uma narrativa ramificada de 250 segmentos escrita em Twine (ferramenta de árvore de decisão para escrever ficção interativa, também usada para projetar árvores de decisão para chatbots). Será que, como no filme, chatbots podem aproveitar a familiaridade e características de interface (UI) de jogos de aventura?

A interface atual de chatbot oferece tamanho de tela limitado, comprimento de mensagem único limitado e geralmente fica no canto inferior direito da tela. Embora apreciando a herança de UI de serviços de mensagens old school como ICQ, por que ainda não fomos para tela cheia para chatbots automatizados?

Da previsão para a gestão

Que a conversa natural seja distorcida pela interação humano-chatbot automatizado pode ajudar a explicar por que, apesar da inteligência do NLP, interações com chatbots automatizados ainda geram sentimentos mistos. Parte devido à affordance de sua UI e parte devido ao nosso comportamento aprendido do que significa participar em conversa natural, há significado no silêncio, sobreposição de turnos e reparo conversacional.

Respostas de chatbots automatizados não necessariamente precisam ser humanas — elas só precisam ser gerenciadas de uma forma muito humana.