Reconstruindo Confiança Pública em IoT Após Alexa: Nova Era de Privacidade

A coleta massiva de dados tem sido a norma por anos, mas a maré está começando a virar, com usuários adotando ferramentas e serviços centrados em privacidade em números recordes.

Há apenas alguns anos, assistentes de casa inteligente eram a tecnologia "must-have" mais recente. Mesmo com funcionalidade limitada, sua novidade, aliada a um preço relativamente baixo (e reduções estratégicas de preço durante feriados) tornaram-nos quase irresistíveis para consumidores. De repente, empresas de tecnologia tinham acesso a mais informações pessoais do que sabiam o que fazer. De fato, no ano passado, havia alto-falantes inteligentes em mais de meio bilhão de lares pelo mundo.

Veja também: Privacidade é Questão-Chave Travando Grandes Projetos de Cidades Inteligentes

Mais recentemente, porém, esses dispositivos começaram a cair em desgraça com o público. Quase toda semana há um novo escândalo de privacidade de dados, e como resultado, pessoas estão começando a se importar mais sobre quem tem acesso às suas informações pessoais. Para muitos, a ideia de ter um assistente sempre ligado, sempre ouvindo, não é mais tão atraente.

Empresas de tecnologia perderam a confiança do público, mas assistentes inteligentes ainda têm muito potencial, especialmente dado quão úteis poderiam se tornar com avanços futuros em machine learning. Avançando, o ônus está nos fabricantes de alto-falantes inteligentes para provar que seus produtos merecem uma segunda chance, e a melhor maneira de fazer isso é com um exame há muito devido de sua abordagem à privacidade do usuário.

Que tipo de informação assistentes inteligentes armazenam?

Os dados exatos coletados variam baseados no fabricante do dispositivo e capacidades de gravação (uma unidade com câmera embutida, por exemplo, pode gravar clipes de vídeo ou reportar níveis de luz ambiente em diferentes horários). No entanto, o principal problema, pelo menos por agora, é áudio. Especificamente, quanto é gravado, por que é gravado e o que é feito com a gravação uma vez que chega aos servidores da empresa.

Assistentes ativados por voz tecnicamente estão sempre ouvindo, mas não processam requisições até ouvirem uma palavra-gatilho específica. Esses gatilhos são especificamente escolhidos para serem sequências incomuns de sílabas (por exemplo, "OK, Google", ou "Alexa") para que o alto-falante possa identificá-los mais facilmente da conversa do dia a dia.

O problema é que algoritmos não são infalíveis. Como resultado, assistentes inteligentes podem ouvir mal a palavra-gatilho e começar a gravar áudio sem o conhecimento do dono. Se o algoritmo não tem certeza se uma palavra-gatilho foi dita, envia o clipe de áudio para a equipe de verificação da empresa, que toma a decisão final. Em teoria, esse tipo de supervisão ajuda a reduzir falsos positivos, mas na prática, significa que, a qualquer momento, pessoas podem estar ouvindo o que ocorreu na sua casa momentos antes.

A jornada dos seus dados não termina aí. A gravação é então transcrita (e possivelmente anotada por funcionários) antes que ambas versões sejam armazenadas nos servidores da empresa (onde permanecem indefinidamente, mesmo se você excluir conversas armazenadas localmente no seu dispositivo). Se você fez uma requisição, as ações que seu assistente tomou em resposta também podem ser gravadas.

É mais seguro gerenciar dispositivos IoT individualmente do que usar um assistente inteligente?

Hipoteticamente, controlar lâmpadas inteligentes, tomadas e termostatos usando seus respectivos apps impede seu assistente inteligente de coletar dados sobre seus outros dispositivos. Dito isso, há uma boa chance de que esses dispositivos também estejam coletando alguma forma de informação, e marcas menos conhecidas são improváveis de tornar informações detalhadas de privacidade publicamente disponíveis, então é difícil saber com certeza qual opção é mais segura.

Vamos assumir que o fabricante da sua lâmpada inteligente pode ver informações básicas sobre seus hábitos de uso em tempo real: qual a cor da luz, sua intensidade atual, e se a luz está ligada ou não. Segundo pesquisadores da University of Texas at San Antonio, isso é suficiente para identificar qual música você está ouvindo (assumindo que você tem o tipo de lâmpadas que mudam de cor em resposta à música). Este experimento foi bastante limitado em escopo, mas se uma empresa multi-bilionária com milhões de horas de dados de voz decidisse replicá-lo, é inteiramente possível que pudesse ouvir suas conversas sem nem precisar usar um microfone.

Até dispositivos relativamente simples como tomadas inteligentes coletam informações. Um dos modelos mais amplamente reconhecidos grava 45 dias de dados, incluindo seus níveis de uso diário, força de conexão Wi-Fi, quanto sua eletricidade custa por kWh, e quanto tempo o dispositivo ficou em standby. Isso é informação suficiente para fazer um palpite razoável sobre se você está empregado ou não, quantas pessoas moram com você, e (se você tem múltiplas tomadas inteligentes), o layout aproximado da sua casa. Este modelo específico também inclui uma porta micro-USB que o fabricante sugere poder ser usada para sensores adicionais no futuro.

Gigantes de tecnologia devem reconsiderar sua abordagem à privacidade

Se o público deve continuar a abraçar assistentes inteligentes, eles devem sentir que sua privacidade é respeitada. Organizações estão começando a dar pequenos passos nessa direção, por exemplo, adicionando capas de câmera aos dispositivos, no entanto gestos simbólicos como esses erram o alvo: pessoas não estão preocupadas com o que seu dispositivo pode ver, estão preocupadas que ele está observando de qualquer forma.

A tecnologia em si não é o problema: afinal, assistentes ativados por voz podem ser extremamente úteis, particularmente para pessoas com mobilidade ou visão limitadas. Em vez disso, o problema é que as empresas criando esses dispositivos têm uma mentalidade de "coletar tudo" que simplesmente não é compatível com privacidade do usuário. Ao adotar a abordagem privacy-first de três passos descrita abaixo, gigantes de tecnologia podem acalmar preocupações dos usuários de forma significativa. Isso, por sua vez, garante que clientes existentes continuarão a usar o serviço e pode até encorajar alguns a atualizar quando modelos mais novos forem lançados.

1. Acabar com o segredo

Pessoas estão tão acostumadas a políticas de privacidade problemáticas que as aceitam automaticamente. Afinal, a alternativa é não usar um dispositivo que você já pagou. Avançando, assistentes inteligentes devem apenas coletar dados estritamente necessários para uma tarefa específica, e essa informação deve ser excluída (tanto localmente quanto dos registros do fabricante) uma vez que serviu seu propósito. Usuários também devem poder optar por não participar de certos recursos se não concordarem em fornecer as permissões necessárias, assim como você pode fazer com apps em um celular.

Como isso funcionaria na prática? Digamos que você quisesse obter direções para um restaurante específico. Seu assistente precisaria saber tanto sua localização atual quanto seu destino. Pode também perguntar seu horário de viagem pretendido para encontrar informação de transporte público e assim por diante, mas esses não são dados críticos, e só devem ser considerados se o usuário der voluntariamente. Uma vez que o usuário chega, seus dados de destino não são mais necessários, e podem ser descartados com segurança (novamente, a menos que o usuário adicione especificamente um local a uma agenda de endereços).

No exemplo acima, o usuário consegue chegar ao destino sem problemas, apesar de fornecer informação mínima. Em contraste, se você tentasse isso com dispositivos atuais, seu assistente inteligente poderia descobrir não só para onde você vai, mas que tipo de estabelecimento é, com que frequência você visita, e quão popular é com outros na sua área. Essa funcionalidade não é usada para melhorar sua experiência; é usada para construir um perfil publicitário e, como tal, pode ser dispensada sem impacto perceptível no usuário.

2. Fornecer aos usuários as ferramentas que precisam para gerenciar seus próprios dados

Simplificando, usuários não devem ser punidos por serem conscientes de privacidade. Se pessoas devem verdadeiramente consentir em dar suas informações pessoais, primeiro têm que entender o que isso significa. Empresas não devem mais ofuscar suas políticas de coleta de dados em dezenas de páginas de terminologia legal; clientes devem ser capazes de ver exatamente que tipo de informação é gravada. Mais importante, essa informação deve estar em formato facilmente compreensível, livre de meias-verdades sobre metadados ou conjuntos de dados anonimizados. Usuários também devem ser informados por que cada pedaço de dados é gravado, e como podem excluí-lo, se assim escolherem.

Hoje em dia, pode levar semanas para descobrir quais dados uma empresa específica mantém sobre você. Certos sites tornam esse processo mais fácil que outros, mas você ainda pode esperar esperar pelo menos algumas horas após encontrar a opção apropriada em um labirinto de submenus.

Por que ver suas informações pessoais não deveria ser o mais simples possível? Usuários devem ser capazes de decidir por si mesmos se uma empresa merece acesso aos seus dados ou não. No futuro, precisa ser muito mais fácil ver seus dados, mas não há necessidade de parar por aí.

Por exemplo, no momento, a maioria dos assistentes inteligentes não permite que usuários excluam gravações de voz automaticamente ou vejam estatísticas detalhadas como quantas vezes seus clipes de áudio foram encaminhados para verificação manual. Estas não são funcionalidades especialmente avançadas, mas ajudariam muito a reconquistar confiança pública e construir reputação como empresa de tecnologia transparente e consciente de privacidade.

3. Reduzir intervenção de terceiros ao mínimo

Os assistentes inteligentes mais conhecidos estão operando há anos. Coletivamente, têm acesso a uma gama mais ampla de dados de voz que qualquer outro, jamais, com todos os tipos de idiomas e sotaques representados. Se, após milhões de dólares de investimento e anos de ajuste fino do algoritmo, funcionários ainda precisam intervir manualmente frequentemente apenas para ver se uma palavra-gatilho foi usada, empresas podem ter que aceitar que os métodos atuais simplesmente não estão funcionando.

Há muitas outras maneiras de reduzir o número de falsos positivos sem fazer usuários se preocuparem com quem está ouvindo. Por exemplo, limitando as horas em que seu assistente está operacional, você reduz a chance de ruído de fundo ser identificado erroneamente como palavra-gatilho. Muitos alto-falantes inteligentes já permitem que usuários criem rotinas personalizadas como tocar música a um certo horário todo dia; essa tecnologia quase certamente poderia ser estendida para agendar "tempos de silêncio" (como as primeiras horas da manhã), onde o assistente simplesmente não responderá a comandos verbais.

Alguns serviços adotaram recentemente reconhecimento de voz individual, onde o assistente só responderá a pessoas específicas. No entanto, isso treina o assistente usando apenas um punhado de frases (provavelmente para maximizar conveniência para o usuário). Isso pode levar a situações onde aceita comandos de pessoas que simplesmente têm sotaque ou tom similar a um usuário autorizado. Em contraste, um número maior de frases de treinamento deve ajudar o assistente a focar no que realmente torna a voz de uma pessoa única, reduzindo assim a gama de entradas aceitas e, por sua vez, o número de falsos positivos.

Finalmente, assistentes em lares com número anormalmente alto de falsos positivos poderiam oferecer um recurso que grava ruído de fundo em vários horários diferentes do dia. Isso poderia então ser usado para adaptar o modelo de reconhecimento de fala para lares particulares para que seja menos provável ser acionado por fatores ambientais como tráfego lá fora, aviões acima, ou frequências inaudíveis.

Práticas atuais de coleta de dados não podem durar

A única questão real que pessoas têm com assistentes de casa inteligente é que sentem que estão sendo observados. O problema é que estão corretos. Coleta massiva de dados tem sido a norma por anos, mas a maré está começando a virar, com usuários adotando ferramentas e serviços centrados em privacidade em números recordes. Assistentes inteligentes têm enorme potencial, mas, em última análise, se seus criadores falharem em se adaptar a essa nova atitude user-first, correm risco de ficar para trás.