Vida após Alexa:Reconstruindo a confiança pública na IoT

A coleta de dados em massa tem sido a norma há anos, mas a maré está começando a mudar, com os usuários adotando ferramentas e serviços centrados na privacidade em números recordes

Apenas alguns anos atrás, os assistentes domésticos inteligentes eram a mais recente tecnologia “obrigatória”. Apesar de terem funcionalidade limitada, sua novidade, aliada a um preço relativamente baixo (e reduções estratégicas de preços durante as férias) os tornou quase irresistíveis para os consumidores. De repente, as empresas de tecnologia tiveram acesso a mais informações pessoais do que sabiam o que fazer com elas. Na verdade, desde o ano passado, havia smartspeakers em mais de meio bilhão de lares em todo o mundo.

Veja também: Privacidade é um problema-chave paralisando grandes projetos de cidades inteligentes

Mais recentemente, porém, esses dispositivos começaram a cair em desuso com o público. Quase toda semana, há um novo escândalo de privacidade de dados e, como resultado, as pessoas estão começando a se preocupar mais com quem tem acesso às suas informações pessoais. Para muitos, a ideia de ter um assistente sempre ligado e sempre ouvindo não é mais tão atraente.

As empresas de tecnologia perderam a confiança do público, mas os assistentes inteligentes ainda têm muito potencial, especialmente considerando o quão úteis podem se tornar com futuros avanços no aprendizado de máquina. Seguindo em frente, o ônus está nos fabricantes de alto-falantes inteligentes para provar que seus produtos merecem uma segunda chance, e a melhor maneira de fazer isso é com um exame demorado de sua abordagem à privacidade do usuário.

Que tipo de informação os assistentes inteligentes armazenam?

Os dados exatos coletados variam de acordo com o fabricante do dispositivo e os recursos de gravação (uma unidade com uma câmera embutida, por exemplo, pode gravar videoclipes ou relatar os níveis de luz ambiente em diferentes horários do dia). No entanto, o principal problema, pelo menos por enquanto, é o áudio. Especificamente, quanto é gravado, por que é gravado e o que é feito com a gravação quando chega aos servidores da empresa.

Os assistentes ativados por voz estão tecnicamente sempre ouvindo, mas não processarão solicitações até ouvirem uma palavra-gatilho específica. Esses gatilhos são escolhidos especificamente para serem sequências de sílabas incomuns (por exemplo, “OK, Google” ou “Alexa”) para que o falante possa identificá-los mais facilmente nas conversas do dia-a-dia.

O problema é que os algoritmos não são infalíveis. Como resultado, os assistentes inteligentes podem ouvir mal a palavra de gatilho e começar a gravar áudio sem o conhecimento do proprietário. Se o algoritmo não tiver certeza se uma palavra de gatilho foi dita, ele envia o clipe de áudio para a equipe de verificação da empresa, que toma a decisão final. Em teoria, esse tipo de supervisão ajuda a reduzir o número de falsos positivos, mas, na prática, significa que, a qualquer momento, as pessoas podem estar ouvindo o que ocorreu em sua casa momentos antes.

A jornada de seus dados não termina aí, no entanto. A gravação é então transcrita (e possivelmente anotada pela equipe) antes que ambas as versões sejam armazenadas nos servidores da empresa (onde permanecem indefinidamente, mesmo se você excluir conversas armazenadas localmente em seu dispositivo). Se você fez uma solicitação, as ações que seu assistente tomou em resposta também podem ser registradas.

É mais seguro gerenciar dispositivos IoT individualmente do que usar um assistente inteligente?

Hipoteticamente, controlar lâmpadas, soquetes e termostatos inteligentes usando seus respectivos aplicativos impede que seu assistente inteligente colete dados sobre seus outros dispositivos. Dito isso, há uma boa chance de que esses dispositivos também estejam coletando alguma forma de informação, e é improvável que marcas menos conhecidas disponibilizem informações detalhadas de privacidade publicamente, por isso é difícil saber com certeza qual opção é mais segura.

Vamos supor que o fabricante de sua lâmpada inteligente possa ver informações básicas sobre seus hábitos de uso em tempo real:de que cor é a luz, sua intensidade de cor atual e se a luz está acesa ou não. De acordo com pesquisadores da Universidade do Texas em San Antonio, isso é suficiente para identificar qual música você está ouvindo (supondo que você tenha o tipo de lâmpadas que mudam de cor em resposta à música). Esse experimento foi bastante limitado em escopo, mas se uma empresa multibilionária com milhões de horas de dados de voz decidisse replicá-lo, é perfeitamente possível que ele pudesse ouvir suas conversas sem precisar usar um microfone.

Mesmo dispositivos relativamente simples, como smartsockets, coletam informações. Um dos modelos mais amplamente reconhecidos registra 45 dias de dados, incluindo seus níveis de uso diário, força da conexão Wi-Fi, quanto seu custo de eletricidade por kWh e quanto tempo o dispositivo ficou em espera. Esta é uma informação suficiente para fazer uma estimativa razoável sobre se você está empregado ou não, quantas pessoas estão com você e (se você tiver vários soquetes inteligentes), o layout aproximado de sua casa. Este modelo específico também inclui uma porta micro-USB que o fabricante sugere que possa ser usada para sensores adicionais no futuro.

Os gigantes da tecnologia devem reconsiderar sua abordagem à privacidade

Se o público continuar a adotar assistentes inteligentes, eles devem sentir que sua privacidade é respeitada. As organizações estão começando a dar pequenos passos nessa direção, por exemplo, adicionando capas de câmera em seus dispositivos, mas gestos simbólicos como esses não entendem:as pessoas não estão preocupadas com o que seu dispositivo pode ver, elas estão preocupadas com o fato de assistindo em tudo.

A tecnologia em si não é o problema:afinal, os assistentes ativados por voz podem ser extremamente úteis, principalmente para pessoas com mobilidade ou visão limitada. Em vez disso, o problema é que as empresas que criam esses dispositivos têm uma mentalidade de “coletar tudo” que simplesmente não é compatível com a privacidade do usuário. Ao adotar a abordagem de privacidade em primeiro lugar em três etapas, apresentada abaixo, os gigantes da tecnologia podem aliviar as preocupações dos usuários de maneira significativa. .

1. Dispense o sigilo

As pessoas estão tão acostumadas com políticas de privacidade problemáticas que simplesmente as aceitam automaticamente. Afinal, a alternativa é não usar um dispositivo pelo qual você já pagou. A partir de agora, os assistentes inteligentes devem coletar apenas dados estritamente necessários para uma tarefa específica, e essas informações devem ser excluídas (tanto localmente quanto dos registros do fabricante) uma vez que tenham servido ao seu propósito. Os usuários também devem poder desativar determinados recursos se não concordarem em fornecer as permissões necessárias, assim como você pode fazer com aplicativos em um telefone celular.

Como isso funcionaria na prática? Digamos que você queira obter direções para um restaurante específico. Seu assistente precisaria saber sua localização atual e seu destino. Ele também pode solicitar o tempo de viagem pretendido para encontrar informações de transporte público e em breve, mas esses dados não são críticos e devem ser considerados apenas se o usuário os fornecer voluntariamente. Quando o usuário chega, seus dados de destino não são mais necessários e podem ser descartados com segurança (novamente, a menos que o usuário adicione especificamente um local a um catálogo de endereços).

No exemplo acima, o usuário consegue chegar ao seu destino sem problemas, apesar de fornecer informações mínimas. Por outro lado, se você tentasse isso com dispositivos atuais, seu assistente inteligente poderia descobrir não apenas para onde você está indo, mas que tipo de estabelecimento é, com que frequência você visita e quão popular é entre outras pessoas em sua área. . Essa funcionalidade não é usada para melhorar sua experiência; serve para construir um perfil publicitário e, como tal, pode ser dispensado com um impacto imperceptível no utilizador.

2. Forneça aos usuários as ferramentas necessárias para gerenciar seus próprios dados

Simplificando, os usuários não devem ser punidos por serem conscientes da privacidade. Se as pessoas realmente consentem em fornecer suas informações pessoais, elas primeiro precisam entender o que isso significa. As empresas não devem mais ofuscar suas políticas de coleta de dados em dezenas de páginas de terminologia jurídica; os clientes devem poder ver exatamente que tipo de informação é registrada. Mais importante, essas informações devem estar em um formato facilmente compreensível, livre de meias verdades sobre metadados ou conjuntos de dados anônimos. Os usuários também devem ser informados por que cada dado é registrado e como podem excluí-lo, se assim o desejarem.

Atualmente, pode levar semanas para descobrir quais dados uma determinada empresa possui sobre você. Certos sites tornam esse processo mais fácil do que outros, mas você ainda pode esperar pelo menos algumas horas depois de encontrar a opção apropriada em um labirinto de submenus.

Por que a visualização de suas informações pessoais não deve ser o mais simples possível? Os usuários devem poder decidir por si mesmos se uma empresa merece acesso aos seus dados ou não. No futuro, será muito mais fácil visualizar seus dados, mas não há necessidade de parar por aí.

Por exemplo, no momento, a maioria dos assistentes inteligentes não permite que os usuários excluam gravações de voz automaticamente ou visualizem estatísticas detalhadas, como a frequência com que seus clipes de áudio foram encaminhados para verificação manual. Esses não são recursos especialmente avançados, mas ajudariam muito a recuperar a confiança do público e construir uma reputação como uma empresa de tecnologia transparente e preocupada com a privacidade.

3. Reduza ao mínimo a intervenção de terceiros

Os assistentes inteligentes mais conhecidos operam há anos. Coletivamente, eles têm acesso a uma gama mais ampla de dados de voz do que qualquer outra pessoa, com todos os tipos de idiomas e sotaques representados. Se, depois de milhões de dólares de investimento e anos ajustando o algoritmo, a equipe ainda tiver que intervir manualmente apenas para ver se uma palavra-gatilho foi usada, as empresas podem ter que aceitar que os métodos atuais simplesmente não estão funcionando.

Há muitas outras maneiras de reduzir o número de falsos positivos sem fazer com que os usuários se preocupem com quem está ouvindo. os alto-falantes já permitem que os usuários criem rotinas personalizadas, como tocar música em determinado horário todos os dias; essa tecnologia quase certamente poderia ser estendida para agendar “horários de silêncio” (como as primeiras horas da manhã), em que o assistente simplesmente não responde a comandos verbais.

Alguns serviços adotaram recentemente o reconhecimento de voz individual, onde o assistente responderá apenas a pessoas específicas. No entanto, isso treina o assistente usando apenas algumas frases (provavelmente para maximizar a conveniência do usuário). Isso pode levar a situações em que ele aceita comandos de pessoas que simplesmente têm um sotaque ou tom semelhante ao de um usuário autorizado. Por outro lado, um número maior de frases de treinamento deve ajudar o assistente a entender o que realmente torna a voz de uma pessoa única, reduzindo assim o alcance de entradas aceitas e, por sua vez, o número de falsos positivos.

Finalmente, assistentes em domicílios com um número anormalmente alto de falsos positivos podem oferecer um recurso que registra o ruído de fundo em vários horários diferentes do dia. Isso poderia então ser usado para adaptar o modelo de reconhecimento de fala para residências específicas, de modo que seja menos provável que seja acionado por fatores ambientais, como tráfego externo, aviões aéreos ou frequências inaudíveis.

As práticas atuais de coleta de dados não podem durar

O único problema real que as pessoas têm com os assistentes de smarthome é que eles sentem que estão sendo observados. O problema é que eles estão certos. A coleta de dados em massa tem sido a norma há anos, mas a maré está começando a mudar, com os usuários adotando ferramentas e serviços centrados na privacidade em números recordes. Os assistentes inteligentes têm um enorme potencial, mas, em última análise, se seus criadores não se adaptarem a essa nova atitude de usuário em primeiro lugar, correm o risco de serem deixados para trás.