Concretizando a Internet de Todas as Coisas:Controle orientado por IA para segurança e privacidade

Uma Internet de Tudo universal que vê tudo e sabe tudo requer controle:como podemos dar à tecnologia uma visão mais detalhada de nossas atividades e, ao mesmo tempo, evitar armadilhas de privacidade e segurança? A IA é quase certamente o único caminho para alcançar esse controle.

Suponha que a tecnologia possa ajudá-lo a encontrar o que deseja comprar pelo menor preço possível. Suponha que a tecnologia possa evitar que você seja atropelado por um carro enquanto caminha. Suponhamos que a tecnologia pudesse tornar os veículos autónomos totalmente eficazes e seguros, poderia tornar impossível perder-se ou deixar de reconhecer uma pessoa ou um ponto de referência. Suponhamos que tudo isto pudesse ser feito através de um conjunto de iniciativas que aproveitassem o que já conhecemos e usamos. Interessado? Impossível? Sim para o primeiro, certamente, e NÃO para o segundo…talvez. Bem-vindo à Internet de Todas as Coisas.

O conceito de uma “Internet das coisas” surgiu oficialmente em uma declaração do MIT de Kevin Ashton:“…as pessoas têm tempo, atenção e precisão limitados. Tudo isso significa que elas não são muito boas em capturar dados sobre coisas no mundo real. Se tivéssemos computadores que soubessem tudo o que há para saber sobre as coisas, usando dados que eles coletaram sem qualquer ajuda nossa, seríamos capazes de rastrear e contar tudo e reduzir significativamente o desperdício, a perda e o custo. Saberíamos quando as coisas precisariam ser substituídas, reparadas ou recuperadas e se elas eram novas, ou ultrapassou o seu melhor.

O que é importante sobre isto, penso eu, é que não se trata das coisas limitadas que hoje chamamos de IoT, mas de uma Internet de Todas as Coisas universal que vê tudo, sabe tudo.

Hoje em dia sabemos muito, mas não sabemos tudo. Certamente é possível que um aplicativo saiba o que queremos comprar e onde estamos no momento. Seria possível saber, ou seja, descobrir, os preços das coisas que queremos em locais próximos da nossa aplicação, mas isso significaria muita complexidade e custo para o que poderia ser um benefício bastante marginal. Se pudéssemos fazer as outras coisas com as quais abri, ajudar-nos a entrar na loja certa poderia ser uma adição de baixo custo, mas não podemos realmente fazer isso. Temos “saber”, mas não “ver”.

Esse material de ver e saber é importante porque ilustra o que há de bom e de ruim em uma Internet e em aplicativos controlados pelo ser humano. Vemos e adquirimos uma compreensão em tempo real do mundo real. Sensores IoT...bem...senso . Talvez seja útil saber a temperatura, a pressão barométrica, a localização e a velocidade relativa, mas não é como olhar pela janela do carro, se você estiver tentando navegar. Em 1999, quando Ashton fez os seus comentários, não tínhamos uma forma prática de imitar o sentido visual humano para recolher dados do mundo real. Com a IA, agora temos isso na “computação espacial” e poderíamos realizar tudo o que mencionei no primeiro parágrafo e ainda mais.

OK, se “agora temos” o que precisamos, por que não temos todas essas aplicações hoje? Eu disse que havia uma espécie de lacuna entre ver e saber, mas isso não é inconsistente com a noção de que temos o que precisamos? Se não houver nenhum avanço técnico gigantesco que devamos procurar para desbloquear esse futuro maravilhoso, o que acontecerá? Resposta:A tecnologia realmente não é o problema, é social.

“O irmão mais velho está te observando” é um slogan para o risco da vigilância em grande escala. Poderíamos identificar criminosos andando nas ruas com a implantação generalizada de vídeo, e a mesma tecnologia poderia nos alertar contra entrar no trânsito. Mas a mesma coisa poderia ajudar as pessoas a perseguir outras, espionar outras pessoas e talvez expor alguns segredos que preferiríamos manter escondidos. Dado que a pessoa média pensa que tudo pode ser hackeado, e que muitos pensam que o governo já está a tentar espiar-nos, não é difícil compreender porque é que as empresas estão relutantes em promover a utilização da tecnologia "ver tudo, saber tudo", mesmo a utilização restrita.

Uso restrito como o quê? Um dos meus contatos regulares é um advogado trabalhista de renome. Perguntei-lhe sobre o uso de monitoramento por vídeo para proteção contra acidentes de trabalho, e ela disse que “todos os sindicatos teriam medo de que fosse mal utilizado, e todos os empregadores negariam isso, ao mesmo tempo em que se precipitariam para o uso indevido”. Outro contacto disse-me que ter uma ampla monitorização por vídeo para facilitar a utilização segura de veículos autónomos quase certamente enfrentaria ações judiciais de defensores da privacidade, apoiados por legiões que muitas vezes estão onde não deveriam estar.

A privacidade é importante para todos nós. Assim como a segurança, a saúde, a vida. Podemos estar a atingir uma fase na evolução tecnológica que exigirá que decidamos como equilibrar estas coisas umas com as outras. O medo de que a IA fique descontrolada é um exemplo desse tipo de preocupação? Eu acho que é. E penso que muito antes de a IA poder surgir e ameaçar-nos de extinção, ela poderia surgir e salvar-nos, ou expor-nos. Fomos pressionados para criar barreiras de proteção à IA, mas essas pressões contornaram em grande parte a mais ampla, mais impactante e mais imediata – que é a capacidade da IA ​​e do vídeo se combinarem para permitir que o mundo real, incluindo cada um de nós, seja observado pela tecnologia.

A resposta óbvia para este problema é a governação, um conjunto de regras que restringem a utilização e a tecnologia para as aplicar. O problema, como tantas vezes acontece com o “óbvio”, é que definir as regras seria difícil e restringir o uso através da tecnologia seria difícil de fazer, e provavelmente mais difícil de fazer as pessoas acreditarem. Pense nas Três Leis da Robótica de Asimov e em quantas das suas histórias se centravam na forma como as pessoas trabalhavam para as contornar. Há duas décadas, um laboratório de pesquisa realizou um experimento de colaboração por vídeo que envolveu uma pequena câmera em escritórios para que as pessoas pudessem se comunicar remotamente. Metade da força de trabalho cobriu a câmera quando entrou. Conheço pessoas que rotineiramente cobrem suas webcams quando não estão em um chat de vídeo ou reunião agendada, e você provavelmente também o faz. E daí se a luz não estiver acesa? Provavelmente alguém invadiu.

As preocupações sociais colidem inevitavelmente com as tentativas de integrar firmemente a tecnologia na forma como vivemos. Chegamos a um ponto em que lidar com essas preocupações de forma convincente é essencial para permitir que a tecnologia melhore ainda mais o nosso trabalho, as nossas vidas?

Temos vigilância por vídeo generalizada, se não universal. Durante uma caminhada esta semana, encontrei câmeras de campainha ou outras câmeras em cerca de um quarto das casas pelas quais passei, e aposto que há ainda mais em áreas comerciais. Eu me pergunto quantas pessoas se preocupam com o fato de as campainhas estarem vigiando-as enquanto estão no quintal. Aposto que menos do que se preocupar com a IA surgindo e matando-os, e ainda assim as campainhas são reais e a IA predatória não. É claro que podemos descartar esse tipo de pensamento e parar de cobrir nossas webcams. Poderíamos nos sentir confortáveis ​​com a supervisão universal de vídeo? Talvez, mas seria melhor se conseguíssemos encontrar uma solução para o dilema da governação.

O que pode ser possível, com IA, por dois motivos.

Quanto mais poderosa e mais ampla for a IA, mais difícil será restringir a forma como ela pode ser usada. Duvido que alguém discorde disso. Dado isso, seria verdade que agentes de IA especializados, contidos e focados em tópicos seriam mais fáceis de restringir. Você pode proteger e controlar uma API, mas como proteger e controlar um relacionamento conversacional? Voltamos às Três Leis de Asimov, a segunda das quais é a obediência. Dê autonomia a algo, incluindo IA, e você terá o potencial de se intrometer. No contexto da nossa observação de vídeos por IA, corremos um risco maior de pedir à IA que procure algo do que de criar um agente de IA que só possa procurar certas coisas.

Também poderíamos usar agentes especializados em IA para governar aplicações de IA. Já existe uma estratégia de “IA adversária” no aprendizado de máquina em geral, trabalhando para detectar manipulação de dados para enganar o modelo. A mesma abordagem poderia ser aplicada à governação da utilização da IA, especialmente se a IA for concebida para produzir apenas resultados específicos e não para responder a questões gerais. O reconhecimento facial, por exemplo, poderia ser limitado a rostos realmente inscritos em registros criminais do governo. Isso poderia ser hackeado? Claro, mas não por um perseguidor comum ou cônjuge suspeito.

Perceber a “Internet de Todas as Coisas” é fundamental se quisermos continuar a avançar na forma como a tecnologia capacita o nosso trabalho e melhora as nossas vidas. Controlar a forma como criamos um novo nível de proximidade com a tecnologia, evitando armadilhas de privacidade e segurança e, ao mesmo tempo, dando à tecnologia uma visão mais detalhada das nossas atividades, é fundamental para concretizar a Internet de Todas as Coisas, e a IA é quase certamente o único caminho para alcançar esse controlo. Essa missão da IA ​​é o que precisamos para formular políticas para governar. O risco de a IA vir levar-nos a todos à extinção é muito menor do que o risco de não vir em nosso socorro.

ASSINE NOSSA NEWSLETTER

Dos nossos editores direto para sua caixa de entrada

Comece inserindo seu endereço de e-mail abaixo.