Dos óculos inteligentes à privacidade mental
Em Riade, a Presidente do Conselho Nacional de Ética para as Ciências da Vida (CNECV), Maria do Céu Patrão Neves, sublinhou que a proteção da privacidade já não se coloca apenas perante os dados neuronais, obtidos em contexto clínico, mas se estendem hoje aos não-neuronais obtidos através da multitude de gadgets que usamos no quotidiano. Todos estes dados permitem a inferência de estados mentais, emocionais e cognitivos das pessoas.
O debate ganha nova força com a apresentação esta semana, pela Snap, de novas funcionalidades de Inteligência Artificial para os seus óculos de realidade aumentada Specs, concebidas para aprender com os objetivos, prioridades, relações e rotinas dos utilizadores. Embora não sejam uma neurotecnologia de consumo, pois não procedem a leitura de sinais do sistema nervoso, estes dispositivos ilustram uma questão mais ampla: à medida que a tecnologia vai integrando cada vez mais na vida quotidiana, a privacidade individual torna-se mais difícil de proteger, mais exposta: os novos óculos podem ir gravando tudo e todos por quem passa o seu utilizador numa enorme invasão da esfera pessoal e sempre com uma recolha contínua de dados.
Foi sobre esta fronteira que Maria do Céu Patrão Neves, Presidente do CNECV, abordou na quinta-feira, 17 de setembro, no 4.º Fórum Global da UNESCO sobre a Ética da Inteligência Artificial, em Riade, na Arábia Saudita.
A intervenção teve lugar na sessão “Dados neurais e privacidade mental: desafios da Inteligência Artificial na utilização comercial das neurotecnologias”, dedicada à crescente convergência entre neurociências e Inteligência Artificial e aos desafios éticos e de direitos humanos associados à utilização comercial das neurotecnologias, nomeadamente à proteção dos dados neurais e da privacidade mental.
Na sessão, a Presidente apresentou também o Relatório sobre o Estado da Aplicação das Novas Tecnologias à Vida Humana- Neurotecnologias, desenvolvido pelo CNECV em 2024, levando ao debate internacional o contributo português para a reflexão sobre o desenvolvimento e utilização destas tecnologias.
Maria do Céu Patrão Neves chamou, em particular, a atenção para a crescente dificuldade em estabelecer uma fronteira clara entre dados neurais e não neurais. Ambos podem hoje servir de base à produção de informação sobre uma pessoa que não foi diretamente fornecida por ela.
“A fronteira entre dados neurais e não neurais está a tornar-se cada vez mais difusa e ambos podem servir de base a inferências sobre estados mentais.”
É precisamente esta capacidade de inferir estados mentais, emocionais e cognitivos que, segundo a Presidente do CNECV, deve estar no centro da discussão ética. Alguns autores utilizam já a expressão “biometria cognitiva” para abranger dados neurais e não neurais utilizados para produzir este tipo de inferências.
A informação disponível para recolha estende-se hoje das tecnologias clínicas, como o eletroencefalograma (EEG), aos dispositivos de uso quotidiano, como os smartwatches. A combinação de diferentes fontes de dados com a capacidade crescente da Inteligência Artificial para os analisar permite gerar sucessivas inferências sobre cada pessoa, com potenciais consequências a nível individual, social e político.
Neste contexto, Maria do Céu Patrão Neves defendeu uma abordagem mais exigente ao consentimento informado. No domínio das neurotecnologias de consumo, a simples aceitação de termos e condições não é suficiente.
O consentimento deve ser específico e assente em informação clara e compreensível, permitindo escolhas distintas quanto à recolha dos dados, à sua análise por Inteligência Artificial e à sua utilização comercial. Deve ainda ser dinâmico e revogável, acompanhando a evolução das tecnologias e das finalidades para que os dados são utilizados.
Um princípio assume, neste quadro, particular importância: consentir na recolha de dados não pode significar consentir automaticamente em todas as inferências que venham posteriormente a ser produzidas a partir deles.
“O consentimento informado, embora necessário, não é suficiente.”
Os riscos não terminam no momento da recolha. Podem surgir depois através da geração de inferências, da agregação de diferentes conjuntos de dados, da criação de perfis individuais e da utilização comercial de informação sensível sobre os estados mentais das pessoas. Por essa razão, a Presidente do CNECV defendeu a necessidade de regras específicas para a inferência e para a utilização comercial deste tipo de informação.
