IA terceirizada e aprendizagem profunda no setor de saúde - A privacidade de dados está em risco?

Jonathan Martin da Anomali
Como tecnologias emergentes, a inteligência artificial (IA) e o aprendizado profundo comprovadamente fornecem insights de negócios poderosos. Isso é especialmente verdadeiro para o setor de saúde, diz Jonathan Martin, diretor de operações EMEA da Anomali , onde Freemium AI e pacotes de software de aprendizado de máquina, como theano, torch, cntk e tensorflow podem prever com eficácia condições médicas, como câncer, ataques cardíacos e muitos outros diagnósticos baseados em imagens.

A integração da IA ​​e do aprendizado profundo nas práticas médicas é, portanto, uma próxima etapa inevitável e crítica para o setor de saúde, embora tal empreendimento tenha seus desafios.

Um dos problemas mais urgentes que impede as organizações de tirar o máximo proveito dessas tecnologias é a falta de pessoal tecnicamente treinado. Existem muitos profissionais de segurança cibernética que provavelmente poderiam atender à demanda por talento técnico, mas com uma oferta já limitada de profissionais no próprio setor de segurança cibernética, é improvável que a oferta atenda à demanda tão cedo.

Para complicar ainda mais as coisas para o setor de saúde, a implementação dessas tecnologias requer acesso a Informações de identificação pessoal (PII), que são alguns dos dados mais direcionados em ataques cibernéticos devido à sua natureza sensível e, portanto, lucrativa.

A Sociedade Nacional de Saúde (NHS) eleito para contornar questões de privacidade de pessoal e de dados em parceria com a Deepmind , uma empresa adquirida pela Alphabet / Google. Isso deu à Deepmind acesso a 1,6 milhão de registros médicos, que incluíam informações sobre exames de sangue, diagnósticos médicos, registros históricos de pacientes e dados ainda mais confidenciais, como diagnóstico de HIV e uso anterior de drogas. Se esse era um risco apropriado ou não, tem sido a fonte de alguma controvérsia no setor.

Como vimos no ataque WannaCry ao NHS, um ataque cibernético pode ter efeitos devastadores na indústria. No entanto, isso não deve impedir as organizações de compartilhar e fazer análises avançadas de informações. IA e outras tecnologias são essenciais para o progresso da saúde, e a contratação de talentos técnicos é essencial para aproveitar totalmente o poder que eles possuem de uma forma segura que elimina a necessidade de terceirizar. As organizações também devem manter a consistência das melhores práticas de esforço, a fim de minimizar o risco de uma organização.

Uma dessas práticas recomendadas inclui a edição de todas as informações de identificação pessoal. Qualquer organização que terceirize dados deve usar pseudônimos, em que o identificador exclusivo e as PII são mantidos apenas pela entidade confiável. As informações semissensíveis que teriam valor para o modelo de aprendizado de máquina também devem ser removidas. A localização geográfica de um paciente é um exemplo perfeito.

Esses dados podem ser um indicador poderoso de uma doença, mas os dados brutos podem ser usados ​​para fazer a engenharia reversa das PII de um determinado paciente. O descarte de tais informações é uma troca eficaz entre capacitar o poder de previsão da IA ​​e proteger a confidencialidade do paciente.

Essas estratégias de melhor esforço podem ajudar a mitigar a maioria das preocupações; no entanto, esse não é um método infalível de garantir a confidencialidade. No momento, não é possível garantir que a IA não possa reconstruir suas PII. Em um estudo da CMU, os pesquisadores descobriram que os números da previdência social eram surpreendentemente previsíveis e que o algoritmo de IA geralmente poderia reconstruir um número da previdência social a partir de informações como data de nascimento e sexo.

No futuro, as organizações podem buscar tecnologias mais avançadas para proteger os esforços de terceirização de dados privados. Desenvolvimentos recentes na aprendizagem federada podem aumentar a flexibilidade e permitir que os grupos armazenem dados no local. Outra tecnologia relacionada de criptografia homomórfica também está sendo desenvolvida. Com a criptografia homomórfica, os cálculos ocorrem em dados criptografados sem nunca ter que descriptografar os dados, o que reduz significativamente a preocupação com a segurança.

No momento, ainda estamos a anos de distância da tecnologia para resolver o problema da privacidade de dados diretamente. No entanto, a promessa dos benefícios da IA ​​é muito grande para o setor de saúde esperar. Em um futuro próximo, as indústrias devem encontrar um equilíbrio para proteger os cidadãos e prevenir vulnerabilidades desnecessárias.

O autor deste blog é Jonathan Martin, diretor de operações EMEA da Anomali