Inteligência Artificial

A Transparência de Conteúdos Gerados por AI e Chatbots (Parte 2): Artigo 50.º do Regulamento de Inteligência Artificial (AI Act)

Doutrina

O Regulamento (EU) 2024/1689 (AI Act) é o principal diploma europeu que regula a disponibilização de sistemas de AI no mercado e a sua utilização. O regulamento segue uma abordagem baseada no risco, classificando os sistemas (e modelos de finalidade geral) de AI em diferentes categorias de risco, sendo que uma destas abrange precisamente os sistemas de AI que apresentem riscos de transparência, sujeitando-os às obrigações previstas no artigo 50.º do AI Act.

Conforme referem os considerandos 132 a 136, o objetivo é precisamente reduzir os riscos de personificação, engano, desinformação, manipulação em escala e fraude, bem como mitigar os potenciais impactos adversos nos processos democráticos e na confiança social.

O artigo 50.º é especialmente relevante pois avizinha-se a sua entrada em aplicação, a 2 de agosto. Com a exceção do art. 50.º-2, cuja aplicação foi adiada para o dezembro deste ano, com a aprovação (pelo Conselho e pelo Parlamento Europeu) e publicação (em breve) do AI Omnibus.

Para preparar a sua aplicação, a Comissão Europeia publicou Orientações sobre a implementação destas obrigações, além de ter promovido e adotado um Código de Conduta voluntário (este apenas sobre o 50.º-2 e 4).

O artigo 50.º do AI Act tem 4 obrigações distintas, sendo que as distribui por dois tipos de atores: os prestadores de sistemas (providers¸ isto é, quem desenvolve e coloca os sistemas de AI no mercado) e os responsáveis pela sua implantação (deployers, aqueles que utilizam os sistemas de AI).

As obrigações são as seguintes:

1. Artigo 50.º, n.º 1: Transparência para sistemas de AI interativos

A primeira obrigação dirige-se aos prestadores de sistemas de AI destinados a interagir diretamente com pessoas singulares. Estes devem garantir que as pessoas singulares em causa são informadas de que estão a interagir com um sistema de AI, de forma clara e distinguível, o mais tardar no momento da primeira interação, considerando também as características das pessoas pertencentes a grupos vulneráveis.

Chatbots de serviço ao cliente, assistentes de voz, agentes de AI, robôs humanoides, companheiros de AI e avatares de AI em ambientes de realidade virtual, devem assim cumprir com esta obrigação, recorrendo às técnicas que mais se adequarem ao meio em causa, seja com notificações escritas, meios visuais e ou auditivos, e identificadores de AI.

Como exemplos de conformidade com esta obrigação, temos as saudações iniciais de vários chatbots que lembram os utilizadores da sua natureza e (algumas) limitações. Em atendedores de chamadas (por exemplo, no apoio ao cliente), o sistema deverá identificar-se não só início da chamada, mas periodicamente relembrar a sua natureza, especialmente com a maior duração da chamada.

No caso específico dos agentes de AI, quando sejam capazes de interagir com pessoas singulares na execução de tarefas (por exemplo, fazer reservas, gerir correspondência, negociar contratos, executar compras), estes devem revelar a sua natureza artificial e a pessoa em nome de quem atuam, incluindo em arquiteturas multi-agente (quando interagem com outros agentes, que podem atuar em nome de outras pessoas e entidades). Quando o prestador não consegue determinar previamente se haverá interação direta com pessoas singulares, o agente deve ser concebido para se identificar como tal sempre que seja razoavelmente provável que esse tipo de interação ocorra, especialmente em momentos-chave (pedidos de autorização, fornecimento de relatórios de ações executadas, validação de decisões) e a cada nova interação.

Existem duas exceções expressas:

i. Caso seja óbvio do ponto de vista de uma pessoa singular razoavelmente bem informada, atenta e advertida (aqui o standard deve ser interpretado em linha com a figura do consumidor médio do Direito do Consumo), tendo em conta as circunstâncias e o contexto de utilização (como exemplo, chatbots em ferramentas de programação (IDEs como o Visual Studio Code) e NPCs em videojogos);

ii. Autorizado por lei para detetar, prevenir, investigar ou perseguir infrações penais, salvo se o sistema estiver disponível ao público para denunciar infrações (esta exceção aplica-se a todas as obrigações).

2. Artigo 50.º, n.º 2: Marcação e deteção de conteúdos sintéticos

Os prestadores de sistemas de AI que geram ou manipulam conteúdo sintético em áudio, imagem, vídeo ou texto, incluindo sistemas de AI de finalidade geral são obrigados a assegurar que os outputs são marcados num formato legível por máquina e detetáveis como artificialmente gerados ou manipulados, devendo fornecer os meios correspondentes de deteção.

Os prestadores vão ter de assegurar que as suas soluções técnicas são eficazes, interoperáveis, robustas e fiáveis, na medida em que tal seja tecnicamente viável, atendendo as especificidades e limitações dos vários tipos de conteúdo (excertos curtos de texto são praticamente impossíveis de detetar de forma viável), os custos de implementação e o estado da arte destas tecnologias e técnicas.

Atualmente muitos sistemas no mercado limitam-se a colocar watermarks simples (tipicamente apenas o nome da ferramenta) colocadas no canto de imagens, que podem ser facilmente cortadas/editadas para não serem visíveis ou detetáveis com ferramentas especializadas.

Esta é a obrigação mais difícil de operacionalizar, cujo cumprimento foi diferido para dezembro pelo AI Omnibus, existindo um grande debate sobre quais as melhores técnicas a considerar (como inserção de metadados no conteúdo gerado e a aplicação de watermarks avançadas), como foi observável no procedimento público de preparação do Código de Conduta e consta da sua versão final.

O estado-da-arte desta tecnologia está em constante evolução (como exemplo, ver o caso do SynthID da Google), entre sistemas de marcação e deteção de AI e formas de contornar a deteção/expurgar a assinatura. No caso de textos, a questão da fiabilidade destes sistemas é ainda mais problemática, não só devido a falsos-negativos, mas também falsos-positivos (engraçado quando acusa a Declaração de Independência de ter sido gerada com AI, altamente problemático no contexto do ensino, especialmente em universidades, onde as falsas acusações são endémicas e altamente danosas, pondo em causa a conduta académica de alunos, investigadores, professores).

Esta obrigação não se aplica quando os sistemas desempenhem uma função de mera assistência para edição e quando não alterem substancialmente os dados introduzidos.

3. Artigo 50.º, n.º 3: Sistemas de reconhecimento de emoções e categorização biométrica

Para este tipo de sistemas de alto-risco (conforme o art. 6.º e o anexo III.1), aplica-se uma obrigação similar aos chatbots, porém direcionada aos responsáveis pela implantação. Estes devem informar as pessoas singulares expostas a estes sistemas e tratar os seus dados pessoais em conformidade com o direito da UE em matéria de proteção de dados, incluindo o RGPD.

A forma como as pessoas devem ser informadas vai depender muito dos destinatários, do contexto e do local de implantação.

Por exemplo, um pop-up a indicar a captação do rosto para identificar as emoções será adequado no caso de videojogos de terror e outras experiências interativas. Caso o sistema esteja instalado num espaço, é possível cumprir este dever através de sinalética adequada na entrada do espaço, seguindo uma lógica similar (mas mais reforçada por ser substancialmente mais intrusiva) à videovigilância.

4. Artigo 50.º, n.º 4: Rotulagem de deep fakes e de textos publicados sobre assuntos de interesse público

Esta obrigação aplica-se aos responsáveis pela implantação e divide-se em duas vertentes.

Na primeira vertente, os responsáveis pela implantação são obrigados a “rotular” os deep fakes (em português, “falsificações profundas”) que produzirem, antes de os divulgarem.

Isto significa que os conteúdos de imagem, áudio ou vídeo (não inclui texto) gerados ou manipulados por AI que apresentem semelhanças com/representem pessoas, objetos, entidades, locais, ou acontecimentos reais, de tal forma que possam induzir pessoas em erro quanto à sua autenticidade ou veracidade, devem ser devidamente rotulados, podendo recorrer aos ícones fornecidos pela Comissão Europeia, preparados no âmbito do Código de Prática.

Os ícones são os seguintes (adaptáveis para diferentes fundos/cores/contexto):

Caso os conteúdos façam parte de uma obra compósita, de natureza artística, criativa, satírica, ficcional ou análoga, esta obrigação de transparência é adaptada, não sendo necessário que os ícones apareçam no momento exato do conteúdo gerado/modificado por AI. Assim, no caso de filmes, videojogos, etc., a obrigação de transparência pode ser feita no início e no fim, não tendo de prejudicar “a exibição ou a fruição da obra”.

Dado que a definição de deep fake do AI Act é particularmente exigente (é necessário que seja uma representação falsa de elementos reais, que aparenta ser autêntica para o destinatário médio[1]), isto significa que nem todos os conteúdos vão ter de passar a ter estes ícones, mesmo quando não seja óbvio que foram gerados por AI.

Embora próxima do art. 35.º-1-k) do DSA, estas obrigações não são idênticas. A medida do DSA tem um escopo material maior (não requer a utilização de AI) mas um escopo subjetivo substancialmente muito mais reduzido (só se aplica a VLOP e VLOSE, enquanto o art. 50.º-4 do AI Act se aplica a todos os deployers).

A segunda vertente é referente a um tipo de comunicações em texto, de aplicação mais restrita. Entidades (públicas e privadas) que publiquem comunicados ou outros textos sobre temas e questões de interesse público, com o objetivo de informar o público geral, devem assinalar caso o texto tenha sido artificialmente gerado ou manipulado. No entanto, caso os conteúdos tenham sido revistos num processo de análise humana, e que alguém (seja uma pessoa coletiva ou singular) assuma a responsabilidade editorial, deixa de ser necessário este “disclosure”.

Art. 50.º n.º 5 – Requisitos comuns a todas as obrigações de transparência

Existem dois requisitos comuns a todos estes deveres:

i. a informação deve ser transmitida de forma clara e percetível, devendo ser transmitida “o mais tardar” no momento da primeira exposição (ao chatbot/conteúdos gerados/sistemas de reconhecimento de emoções ou categorização biométrica), com avisos regulares em casos de exposição prolongada. Os avisos/ícones/rótulos têm de ser fáceis de identificar, não se podem confundir no ambiente nem com outros avisos, nem estar escondidos ou disfarçados (num menu pouco visível, por trás de várias opções);

ii. e, em conformidade com requisitos aplicáveis de acessibilidade, isto é, de percetibilidade, operabilidade, compreensibilidade e robustez, previstos na Diretiva (UE) 2016/2102 relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público e na Diretiva (UE) 2019/882 relativa aos requisitos de acessibilidade dos produtos e serviços.

Conclusão

O vídeo de Haaland referido no início do primeiro texto? Sim, era AI. Este é o vídeo verdadeiro, de um comediante chinês. Depois de 2 de agosto de 2026, se o vídeo com o “AI-Haaland” for novamente publicado pelo seu autor, o vídeo terá de incluir a rotulagem adequada, podendo recorrer aos ícones fornecidos pela Comissão Europeia.

Como analisado, as obrigações do art. 50.º do AI Act não são uma bala de prata que resolve todos os problemas e riscos de transparência dos conteúdos gerados e na interação com sistemas de AI.

Quanto aos chatbots (seja no atendimento telefónico/resposta a emails/chatbots integrados na interface), o AI Act assegura que haja um nível mínimo de transparência quanto à natureza do canal de comunicação, mas por si só não resolve a comum frustração de não conseguir/ser difícil chegar a um interlocutor humano.

Recentemente foi apresentada uma proposta visando a consagração do “direito ao interlocutor humano”, no Projeto de Lei 639/XVII/1 (PS), que propõe alterar a Lei de Defesa do Consumidor para que os consumidores possam diretamente requerer este tipo de interlocutor. Assim, o atendimento automatizado só pode ser um complemento, não podendo ser utilizado para “excluir, restringir, dificultar ou atrasar injustificadamente o acesso do consumidor a interlocutor humano”. Esta iniciativa ainda não foi à 1ª votação geral no plenário, pelo que ainda não é conhecido se terá sucesso.

Quanto à rotulagem/etiquetagem “Made by AI”, o conceito de deep fake não se aplica a todos os conteúdos gerados por AI, apenas os que representem falsamente elementos reais de tal forma que possam parecer autênticos. Assim, considerando estritamente o AI Act, isto não implica a aplicação transversal dos ícones para que os consumidores possam ser devidamente informados quanto à “verdadeira origem” de conteúdos e serviços digitais.

Finalmente, a fiscalização destas obrigações, em especial a “rotulagem”/marcação de deep fakes, será um grande desafio prático de proporções homéricas que irá requerer muita cooperação entre autoridades de diferentes sectores e jurisdições

[1] Atendendo a potenciais audiências mais suscetíveis, como crianças e pessoas mais velhas com índices mais baixos de literacia de AI.

Transparência de Conteúdos Gerados por AI e Chatbots (Parte 1): Informação Material para os Consumidores

Doutrina

Um curto vídeo de Haaland, o “grande” ponta-de-lança norueguês, a assustar-se com o seu próprio reflexo enquanto come num restaurante pode suscitar várias reações: risos, admiração e, claro, paranoia. Paranoia, como assim? Simples: “espera aí, será que isto é AI?”.

Estamos em julho de 2026 e as capacidades de geração de imagem, vídeo e áudio dos sistemas de inteligência artificial (AI) estão a atingir níveis de sofisticação e qualidade que começam a enganar até quem tenta estar mais atento. Um número crescente de pessoas consome e partilha “AI slop” mais ou menos inconscientemente, desde conteúdos “inofensivos” a deep fakes realistas que procuram ativamente distorcer a opinião (política, cultural, futebolística, etc.) de quem os visualiza. Inevitavelmente, isso cria noutra fatia da população a reação contrária: repulsa, nojo e até ódio pelo falso, postiço, oco, e uma perda de confiança generalizada.

Em diversos sectores, a utilização de AI generativa, especialmente nas indústrias criativas, pode resultar em graves danos reputacionais. Quando se descobre que alguma série/filme, obras de artistas utiliza/contém conteúdos gerados por AI, chove um coro de críticas, além de boicotes.

Quando o Duolingo anunciou que passaria a utilizar conteúdos gerados por AI, a reação do público foi imediata: milhares de contas e subscrições canceladas (com screenshots orgulhosamente partilhados nos comentários das publicações do Duolingo) e uma queda de 80% do valor das ações da empresa.

Outras empresas fazem anúncios precisamente do contrário: promessas de que nunca utilizarão AI generativa nos seus conteúdos, assegurando que os seus parceiros e fornecedores também não.

Diversas plataformas online têm implementado medidas e atualizado os seus T&C para combater a proliferação de contas que publiquem conteúdos gerados por AI em massa, assim como forçar a identificação do conteúdo gerado ou modificado com recurso a AI, como Youtube e Google).

A imposição desta transparência também já começa a ser a prática em alguns mercados em linha: o Steam, o maior marketplace online de videojogos, impõe a todos os profissionais que identifiquem os jogos que utilizam assets gerados por AI ou que incorporem sistemas de AI generativo, destacando essa informação na “montra” de cada produto. Este anúncio foi bastante bem recebido pelos seus utilizadores. No setor dos videojogos já houve demasiadas controvérsias, desde developers a serem apanhados a mentir sobre a utilização de AI, prémios de indústria a serem retirados e falsas acusações.

Estas medidas são assim motivadas por interesses comerciais (de preservação da reputação e qualidade do serviço), mas também por questões legais, seja quanto ao Regulamento dos Serviços Digitais (DSA), o Direito do Consumo e, claro, o Regulamento (EU) 2024/1689 de AI (AI Act).

A utilização de AI como requisito substancial no Direito do Consumo

No contexto de relações de consumo, a utilização de AI pode surgir em diversas dimensões:

a. AI pode ser utilizado na relação com os consumidores, seja na fase pré-contratual (no aliciamento de consumidores e na personalização das ofertas (seja no serviço/produto em si ou em elementos do contrato, como o preço), na celebração do contrato (automatizada por diversos meios, incluindo sistemas de AI agênticos), na execução e na fase pós-contratual (por exemplo se canais de contacto e sistemas de reclamação utilizarem meios automatizados);

b. AI pode ter sido utilizado na produção do conteúdo/serviço (seja enquanto auxiliar de produtividade (na programação) ou na própria produção (geração de imagens, texto, vídeo, áudio), como pode ser um componente do (ou o próprio) serviço/produto).

Neste sentido, e focando em especial na questão da transparência sobre AI na produção dos conteúdos e serviços e da utilização de chatbots pelo profissional na sua relação com o consumidor, o Direito do Consumo não tem uma resposta expressa sobre este tema.

Isto não significa que os consumidores fiquem completamente desamparados: dependendo do tipo de produto/serviço/conteúdo digital, é possível defender que a utilização/incorporação de conteúdos gerados e modificados por AI afeta as características principais do mesmo, sendo assim um requisito substancial (material Information) para o processo decisório, cuja omissão pode ser considerada uma prática comercial enganosa à luz do regime das práticas comerciais desleais e uma violação de deveres de transparência na contratação à distância.

Adicionalmente, um profissional não poderá expressamente incluir nas suas comunicações comerciais e marketing que os conteúdos e serviços digitais que fornece não têm conteúdos gerados/modificados por AI e depois incumprir esta indicação sem estar a incorrer numa prática comercial enganosa.

Transparência de AI no Regulamento dos Serviços Digitais (DSA)

O DSA, de 2022, aborda já o tema dos chatbots de forma expressa. Os serviços intermediários em linha podem utilizar chatbots no ponto de contacto com os destinatários do serviço, auxiliando os mesmos a retirar dúvidas e a submeter denúncias. No entanto, esta funcionalidade só pode ser um complemento de outras formas não automatizáveis de o destinatário contactar o prestador, sendo que a sua utilização tem de ser absolutamente transparente, conforme o art. 12.º e considerando 43.

O DSA também tem obrigações expressamente direcionadas aos deep fakes.

As plataformas em linha de muito grande dimensão (VLOP) e motores de pesquisa em linha de muito grande dimensão (VLOSE)[1] têm obrigações de mapeamento e mitigação ativa de riscos sistémicos para os direitos fundamentais (art. 34.º e 35.º). Neste âmbito, os prestadores destes serviços devem monitorizar ativamente a difusão de conteúdos ilegais e desinformação, a ocorrência de campanhas coordenadas de proliferação de conteúdos enganosos ou suscetíveis de induzir em erro, assim como a utilização não autêntica do serviço (como contas falsas controladas por redes de bots).

Assim, o art. 35.º-1-k) refere que os VLOP e os VLOSE devem assegurar que os conteúdos manipulados (ou gerados/modificados por AI) que falsamente representem pessoas, objetos, entidades, lugares ou acontecimentos de tal forma que pareçam autênticos, devem ter marcações visíveis que os distingam, revelando a sua verdadeira natureza. Adicionalmente, as próprias plataformas podem fornecer uma funcionalidade para que os destinatários possam facilmente assinalar esta questão em conteúdos que visualizem.

Conclusão

A análise desenvolvida ao longo deste texto – a primeira de duas partes – centrou-se nas obrigações de transparência relativas a conteúdos gerados por inteligência artificial (AI) e chatbots, à luz do Direito do Consumo e do Regulamento dos Serviços Digitais (DSA).

No próximo texto vamos analisar as obrigações de transparência do art. 50.º do AI Act e a forma como estas complementam (ou não) as respostas do Direito do Consumo e do DSA, além de responder à questão central: “mas o vídeo do Haaland, é AI ou não?”

[1] Os VLOP e VLOSE são designados pela Comissão Europeia, quando alcançam ou ultrapassam um número médio mensal de 45 milhões destinatários ativos do serviço (este número pode ser reajustado no futuro pela Comissão Europeia, para continuar a corresponder aproximadamente a 10% da população da União Europeia).

O ouriço, a raposa e a proteção do consumidor na era da agentic AI

Doutrina

Isaiah Berlin, no seu célebre ensaio The Hedgehog and the Fox, recorre a uma metáfora simples para descrever duas formas distintas de pensar o mundo. A do ouriço, que sabe “uma grande coisa” e organiza a realidade em torno de um princípio central, unificador e coerente; e a da raposa que, pelo contrário, sabe “muitas coisas” e aceita a fragmentação e a coexistência de múltiplas lógicas, sem as reduzir a uma explicação única.

Esta distinção, pensada originalmente no contexto da história das ideias, como instrumento de reflexão sobre a forma como os pensadores compreendem e explicam o mundo, revela-se surpreendentemente útil para refletir sobre um fenómeno contemporâneo que começa a desafiar silenciosamente os fundamentos do Direito do Consumo: a expansão dos agentes de inteligência artificial (ou agentic AI).

O Direito do Consumo tem sido, historicamente, um “ouriço”. Construiu-se em torno de alguns grandes princípios estruturantes, como a transparência, a lealdade, a reflexão e o equilíbrio, assentes na ideia de que o consumidor deve poder compreender, ponderar e controlar a decisão contratual. Decide se contrata, em que termos e em que momento aceita uma oferta ou exerce um direito de arrependimento. Mesmo quando influenciado por práticas comerciais desleais ou por assimetrias de informação, o consumidor permanece, em última instância, o decisor identificável da relação contratual.

A agentic AI introduz, porém, uma lógica distinta, mais próxima da raposa do que do ouriço. Em vez de decisões pontuais e facilmente identificáveis, passam a prevalecer processos decisórios contínuos, autonomamente executados por sistemas que atuam em nome do consumidor. Assistentes digitais que renovam subscrições, ajustam serviços, comparam preços, efetuam compras ou gerem contratos ao longo do tempo transformam a relação contratual numa sequência dinâmica de ações, muitas vezes invisíveis – e por vezes imprevisíveis – para quem as delegou.

Neste contexto, o consumidor não desaparece, mas afasta-se do centro da decisão. Já não é ele quem “clica”, escolhe ou aceita cada contrato em concreto. Limita-se a autorizar, de forma genérica e prolongada, que um sistema atue por si, confiando que este o fará no seu melhor interesse. O consentimento deixa de ser um ato pontual, específico e informado para se aproximar de uma autorização abstrata, cujo alcance real é difícil de antecipar.

É aqui que os mecanismos clássicos de proteção do consumidor começam a revelar fragilidades. O dever de informação, por exemplo, foi concebido para esclarecer o consumidor sobre as características essenciais de um bem ou serviço no momento prévio à contratação. Em contextos de agentic AI, porém, essa lógica mostra-se insuficiente, uma vez que muitas das decisões juridicamente relevantes ainda não existem nesse momento e só se irão materializar ao longo do tempo. A transparência contratual enfrenta desafios quando as cláusulas que regulam o funcionamento de sistemas autónomos recorrem inevitavelmente a formulações amplas e genéricas, difíceis de traduzir em consequências práticas compreensíveis.

Outro mecanismo cujos pressupostos enfrentam tensões semelhantes é o direito de arrependimento, que existe para proteger o consumidor em situações em que a decisão contratual é tomada sem contacto direto com o bem ou serviço, como sucede, classicamente, nos contratos celebrados à distância. O seu pressuposto não é o erro nem o defeito do bem, mas a falta de contacto direto com o mesmo que justifica a concessão de um período de reflexão posterior à contratação. No contexto da agentic AI, a esta falta de contacto prévio com o bem adquirido pode acrescer uma segunda forma de ausência de visibilidade: o consumidor pode não ter tido consciência da decisão concreta de contratar aquele bem em específico, tomada autonomamente por um sistema em seu nome. Nestas situações, embora o direito de arrependimento continue a permitir a desvinculação de contratos concretos, revela-se menos eficaz para proteger uma relação contratual estruturada como um processo contínuo de decisões delegadas.

A imputação de responsabilidade é outro ponto sensível. Na lógica tradicional do Direito do Consumo, o profissional, e eventualmente o produtor, respondem pelos defeitos do bem ou serviço que fornecem e o consumidor não deverá suportar esses riscos. Nos ecossistemas emergentes de agentic AI, começam a surgir modelos contratuais que tendem a deslocar o risco para o consumidor. Em particular, certos termos de utilização de serviços assentes em delegação autónoma recorrem a cláusulas de exclusão ou limitação de responsabilidade, imputando ao consumidor as consequências de decisões tomadas por sistemas que atuam em seu nome ao abrigo de autorizações genéricas, mas cujo comportamento concreto não controla nem consegue antecipar plenamente.

Perante este cenário, a tentação regulatória pode ser a da simplificação: autorizações mais genéricas, consentimentos mais amplos, categorias contratuais mais flexíveis. Essa resposta corre, porém, o risco de falhar, na medida em que a agentic AI não é complexa por acidente, mas por natureza, uma vez que assenta num modelo de funcionamento intrinsecamente dinâmico. Soluções excessivamente simplificadoras podem, por isso, enfraquecer a posição do consumidor, em vez de a reforçar.

Talvez o desafio que se coloca ao Direito do Consumo não seja o de abandonar os seus grandes princípios fundadores, mas o de reconhecer que estes foram pensados para um mundo mais “ouriço” do que aquele em que hoje vivemos. Num ecossistema cada vez mais povoado por “raposas” – sistemas autónomos, especializados e dinâmicos – a proteção do consumidor pode exigir abordagens mais diferenciadas, mecanismos de responsabilização reforçados e uma atenção acrescida à reversibilidade e ao controlo efetivo das decisões automatizadas.

Em última análise, a questão não é tecnológica, mas jurídica e antropológica. Se a decisão já não é plenamente humana, a proteção do consumidor também não pode continuar a ser pensada como se ainda fosse. Esta transformação aproxima a lógica da decisão contratual daquela que Isaiah Berlin atribuía à raposa: a de sistemas que “perseguem muitas pontas, frequentemente não relacionadas e até contraditórias”, resistindo a ser reconduzidos a um princípio único e estável.

O que LLM sabem sobre nós: memorização de dados e o RGPD

Doutrina

Por Beatriz Gonçalves Russell e Francisco Arga e Lima

Com o crescimento exponencial da Inteligência Artificial (“IA”) generativa, e, em especial, de Large Language Models (ou “LLMs”), levantam-se questões sobre a sua compatibilidade com os padrões regulamentares aplicáveis, nomeadamente no domínio da proteção de dados. Neste contexto, uma das principais preocupações prende-se com a dependência dos LLMs na ingestão de vastas quantidades de informação para o seu desenvolvimento, e a preocupação inerente em compreender se estes retêm os dados (pessoais) ingeridos durante o seu treino.

Treino dos LLMs

De modo a saber se há uma efetiva retenção de dados, é necessário compreender a forma como LLMs são, em geral, treinados. Uma das primeiras fases deste processo é a conversão de texto em tokens, ou seja, representações numéricas de elementos normalmente menores que palavras, mas maiores que letras isoladas, que o modelo possa processar, criando-se, assim, um vocabulário interpretável pelo algoritmo, embora não diretamente interpretável pelo indivíduo. Após esta conversão, o modelo é treinado, criando-se embeddings, ou seja, vetores que representam as relações contextuais entre tokens, estatisticamente abstraídas do treino, permitindo ao modelo distinguir o significado de, por exemplo, um banco enquanto instituição financeira e enquanto mobiliário doméstico.

À primeira vista, esta abstração parece levar à conclusão de que, caso haja treino com dados pessoais, os dados perdem a sua ligação com titulares de dados, uma vez que os modelos deixam de conter informação associável a indivíduos identificáveis. Assim sendo, os tokens e embeddings seriam considerados meros padrões linguísticos, desprovidos de ligação a pessoas concretas, de modo que não estariam abrangidos pelo escopo da definição de dados pessoais, prevista no Regulamento Geral de Proteção de Dados (“RGPD”).

Contudo, esta linha de raciocínio baseia-se numa compreensão incompleta acerca do funcionamento técnico do treino destes modelos.

A realidade técnica de retenção de informação

Embora a transformação de texto em tokens abstraia o conteúdo original, a informação subjacente não se perde totalmente. Por um lado, a tokenização moderna — como a byte-pair encoding — é frequentemente lossless, permitindo que os números codificados sejam reconvertidos em texto sem perda de informação substancial. Por outras palavras, mesmo que os dados sejam convertidos em números, isso não elimina necessariamente a possibilidade de identificação de titulares dos dados.

Além disso, os embeddings capturam o significado contextual e as relações entre palavras, espelhando os padrões e estruturas estatísticos abstraídos do treino, algo que poderá levar à memorização de dados. Para entender como isso pode ocorrer, é importante distinguir dois fenómenos que ocorrem durante o treino destes modelos:

1. Codificação (“Encoding”): Processo de abstração de padrões e relações estatísticas dos dados de treino em representações numéricas úteis, descartando detalhes menos significativos.

2. Memorização (“Memorization”): Ocorre quando partes específicas dos dados de treino são retidas quase na integralidade, permitindo a sua potencial reprodução.

Ora, a memorização difere da simples aprendizagem de padrões abstratos que ocorre na codificação, uma vez que leva à retenção de detalhes de dados de treino quase exatos das fontes. Isto pode dever-se a diferentes fatores, como a multiplicação dos dados de treino nos datasets utilizados, o que pode enviesar a sua relevância estatística. Por outras palavras, surgindo com maior frequência uma determinada sequência de tokens, o modelo irá adaptar o peso dessas relações de modo a reforçar essa sequência no seu output. Por isso, mais do que abstrair padrões, haverá uma retenção de sequências específicas de dados que poderão ser pessoais.

De qualquer forma, para que as informações incorporadas nos LLMs sejam consideradas dados pessoais, as mesmas devem, contudo, ser acessíveis. A este respeito, o nosso ponto de partida será o facto que, em regra, os dados estão dispersos pelos inúmeros parâmetros dos modelos e não estão armazenados como unidades discretas ou legíveis por humanos, ao contrário do que sucede, por exemplo, com um ficheiro .pdf. No entanto, há que se notar que a ausência da suscetibilidade de interpretação direta não é impeditiva de que a informação seja considerada dado pessoal: o que nos diz o art. 4.º, n. º1 do RGPD, é que qualquer informação relativa a uma pessoa identificada ou identificável é considerada dado pessoal, mesmo que careça de meios complementares para ser legível por humanos.

Por isso, se um modelo for capaz de reproduzir dados sobre uma pessoa, contidos nos datasets de treino, essa informação continua a ser pessoal, ainda que esteja codificada no modelo sob a forma de vetores numéricos. Desta forma, e pese embora a dispersão da informação pelos parâmetros torne a inspeção direta extremamente onerosa, entende-se que a acessibilidade pode ser feita através de meios indiretos, em particular prompting e ataques direcionados, onde essa memorização é confirmada por via do output consistente de informação contida nos datasets de treino.

Importa também perceber que a memorização não é uma falha de treino ou funcionamento destes modelos, mas sim uma característica inerente dos mesmos. Isto percebe-se facilmente quando constatamos que estes precisam de “memorizar” estruturas de palavras e regras gramaticais de modo a poderem criar construções frásicas corretas. Nesse sentido, a memorização é necessária, atendendo às finalidades destes modelos. Contudo, pode também revelar-se problemática, na medida em que essa capacidade pode conduzir à retenção – e posteriormente divulgação – de dados pessoais.

Assim, o erro está em assumir que a ausência de dados pessoais é garantida apenas pelo facto de tokens e parâmetros serem valores numéricos. Na verdade, é possível que esses números e relações estatísticas levem à retenção de dados (pessoais) contidos nos datasets de treino no próprio modelo.

Por isso, é possível tirar duas conclusões relevantes para a discussão sobre se LLMs memorizam dados pessoais. Em primeiro lugar, a memorização de dados de treino é uma característica essencial e não um bug dos LLMs. Isto significa que os desenvolvedores de LLMs são responsáveis não só pelo tratamento de dados na fase de treino, mas também pelo potencial armazenamento de dados pessoais no modelo, para assegurar a sua compatibilidade com o RGPD. Em segundo lugar, e não obstante a natureza black box dos LLMs conceder alguma margem para argumentar pela impossibilidade de acessibilidade aos dados eventualmente armazenados, a evolução tecnológica pode, no futuro, permitir que a informação armazenada seja reconstruída por meios que hoje desconhecemos, sendo uma questão de tempo até que os mecanismos atuais de mitigação se revelem insuficientes. Até lá, a possibilidade de extração destes dados por via de i.e. prompting é algo que confirma esta retenção, pelo que caberá também aos desenvolvedores destas tecnologias mitigarem tanto a retenção, como a possibilidade da sua extração.

O caso Schufa: credit scoring como decisão automatizada baseada no processamento de dados pessoais

Doutrina

No último texto, escrevi um texto introdutório sobre a avaliação da solvabilidade (credit scoring) na Diretiva 2025/2223, realçando que o regime se centra no interesse do consumidor.

A credit scoring também é, no entanto, uma atividade de tratamento de dados pessoais, o que torna aplicável o Regulamento Geral de Proteção de Dados (RGPD). Se a credit scoring for realizada através de ferramentas de IA, a classificação de crédito será uma decisão total ou parcialmente automatizada e, portanto, serão igualmente aplicáveis as disposições do artigo 22.º do RGPD. Além disso, e de um modo geral, qualquer atividade de tratamento de dados deve respeitar o princípio da privacidade desde a conceção (art. 25.º do RGPD), de acordo com o qual as empresas/organizações são incentivadas a implementar medidas técnicas e organizacionais, nas fases iniciais da conceção das operações de tratamento, de forma a salvaguardar os princípios da privacidade e da proteção de dados desde o início.

A avaliação da solvabilidade vista pelo RGPD tem três aspetos importantes: (1) quem é responsável pelo tratamento de dados quando a credit scoring é externalizada; (2) como distinguimos uma classificação totalmente automatizada de outra que não o é; (3) que informações devemos utilizar (e quais não devemos utilizar) para realizar a avaliação da solvabilidade.

As duas primeiras questões foram resolvidas ou esclarecidas pela conhecida Sentença Schufa do TJUE. A Sentença Schufa é a primeira sentença do TJUE que interpreta o art. 22.º do RGPD. Fá-lo num caso de crédito ao consumo, mas as suas considerações estendem-se a qualquer decisão total ou parcialmente automatizada. O conflito é fácil de explicar: um requerente de crédito junto de um banco médio na Alemanha vê o seu pedido recusado e, quando pede explicações ao banco, este escuda-se no facto de a Schufa (entidade de avaliação de crédito) lhe ter enviado uma pontuaçãonegativa; quando recorre à Schufa, esta escuda-se no facto de ter sido o banco a decidir recusar o crédito e de o seu algoritmo ser um segredo comercial que não tem a obrigação de partilhar.

Deste caso, podem extrair-se várias conclusões claras: em primeiro lugar, tanto a entidade credora como a entidade avaliadora são responsáveis pelo tratamento das atividades de tratamento que cada uma realiza. Consequentemente, devem responder ao requerente de crédito sem se escudarem na proteção de segredos comerciais, uma vez que uma explicação compreensível não tem de ser exaustiva nem pôr em risco o segredo algorítmico. Em segundo lugar, o TJUE reforça a ideia já exposta pelo Grupo de Trabalho do Artigo 29.º sobre as decisões automatizadas: se a intervenção humana é meramente simbólica, estamos perante uma decisão totalmente automatizada, na medida em que não há uma intervenção humana significativa. No entanto, reforça ainda mais este último critério: poderíamos dizer que, para evitar a qualificação de decisão automatizada, deve haver uma intervenção humana «verdadeiramente significativa» (Cotino Hueso). Por último, recorda o tribunal, embora isso já seja feito pelo próprio artigo 22.º do RGPD (com uma técnica melhorável), que uma decisão totalmente automatizada que viole os direitos e liberdades do titular dos dados pessoais não será conforme com o RGPD, por mais que sejam formalmente cumpridos os requisitos estabelecidos por essa disposição.

Quando é que uma intervenção humana é «verdadeiramente significativa»? Tendo em conta tanto o acórdão Schufa como as Orientações do Grupo de Trabalho do artigo 29.º e certos aspetos do Regulamento da IA, proponho a seguinte check-list para que um consumidor que solicita crédito possa avaliar se a decisão de crédito (e também a classificação de crédito) é uma decisão totalmente automatizada ou não:

– A pessoa que intervém no processo (por exemplo, o operador do banco) tem formação suficiente na matéria sobre a qual deve decidir?

– A pessoa envolvida no processo tem formação suficiente em IA (AI Literacy)? O artigo 4.º do Regulamento Inteligência Artifical (RIA) refere-se à formação em IA; este requisito não deve ser entendido como sinónimo de conhecimentos de programação, mas como conhecimentos suficientes para poder avaliar criticamente (e, se for caso disso, contradizer) as sugestões da IA. Portanto, isso irá variar de acordo com as circunstâncias: o operador do banco não deve ter o mesmo nível de formação em IA que o consumidor, por exemplo.

– A classificação de crédito é acompanhada de argumentos suficientes e compreensíveis? A transparência e a explicabilidade são um binómio muito interessante: a IA deve ser transparente, mas também compreensível. De nada serve fornecer o código-fonte de um programa a uma pessoa que não sabe programar. Este binómio permite traçar uma gama de informações: suficiente, e não excessiva; para que o destinatário possa compreendê-la sem grandes esforços ou conhecimentos especializados. No direito do consumo, as condições gerais devem ser transparentes e compreensíveis; e também pode ser considerado falta de transparência causar indigestão ou «intoxicação» ao consumidor, ou esconder entre uma longa lista de condições gerais aspetos essenciais do contrato.

– A pessoa tem autoridade formal e capacidade material (tempo disponível) para questionar e, se necessário, contradizer as sugestões da IA? É importante detectar o risco de preconceitos acomodatícios nas pessoas que lidam com essas sugestões automatizadas. Se elas podem intervir, mas não o fazem por preguiça ou sobrecarga de trabalho, é como se não interviessem.

– A empresa ou instituição está a tomar medidas formativas para que o seu pessoal tenha formação em IA e para prevenir preconceitos?

– O nível de seguimento das sugestões automatizadas por parte do pessoal é verificado periodicamente?

A última das questões indicada também é interessante em relação à evolução tecnológica: o que é informação relevante para avaliar a fiabilidade do requerente de crédito? Acima, mencionou-se como se passou da utilização de informação negativa de solvência (ficheiros de maus pagadores) para a utilização de informação tanto positiva como negativa (ficheiros mistos). No entanto, a crescente produção de dados pessoais, aliada à também crescente capacidade de análise de dados por parte dos sistemas de IA, permite que, através de técnicas de perfilagem e microsegmentação, se obtenha informação inferencial suficientemente fiável sobre o comportamento presumido ou futuro de um indivíduo. Isto permite que, hoje em dia, qualquer dado pessoal possa ser um dado relevante para a credit scoring (all data is credit data). Esta realidade obriga a uma interpretação restritiva do que entendemos por informação «relevante», pois, caso contrário, poderia ser admitida a utilização de dados de utilização de contas de plataformas (Netflix, Spotify e outras), o tempo de leitura das condições gerais online ou a rapidez com que os cookies são aceites como dados relevantes para introduzir numa ferramenta de IA para a pontuação de crédito. Não será considerada informação «relevante» a obtida a partir de redes sociais, nem as categorias especiais de dados do art. 9.º do RGPD, uma vez que o art. 18.3 DCCC/2023 proíbe o seu tratamento para efeitos de credit scoring. Serão considerados relevantes dados como os rendimentos e as despesas do consumidor e outras circunstâncias financeiras e económicas que sejam necessárias e proporcionais à natureza, à duração, ao valor e ao risco do crédito para o consumidor (art. 18.3 DCCC/2023).

O facto de todos os dados poderem ser potencialmente relevantes para a credit scoring representa um problema de privacidade coletiva: a nossa responsabilidade individual ao navegar, rejeitando cookies de navegação (ou superando a fadiga da «gestão de opções»), já não é tão determinante para nos proteger de eventuais invasões da nossa privacidade, na medida em que deve partilhar protagonismo com o perfil sintético e a microsegmentação a partir de metadados ou características externas da população. Imaginemos uma pessoa muito consciente da proteção da sua privacidade digital: rejeita cookies ou «gere opções» sempre que pode, não ativa a Internet nem a geolocalização no seu telemóvel, a menos que precise de fazer consultas pontuais, não descarrega aplicações desnecessárias… Mesmo assim, a contaminação de dados que milhares de pessoas semelhantes a essa pessoa realizam permite que uma ferramenta de IA de perfilagem infira como o requerente do crédito se comportará. Como salienta Diogo Morgado Rebelo, a padronização de padrões e hábitos de consumo levaria à imposição indireta de identidades heteroconstruídas ou expropriadas aos requerentes de crédito.Perante esta situação, podem ocorrer situações de discriminação indireta (ou discriminação proxy), que não só seriam contrárias ao direito à igualdade e à não discriminação, como também podem comprometer o acesso à habitação, por exemplo. Mencionei situações de discriminação proxy e de discriminação indireta. Não são exatamente a mesma coisa. Falamos de discriminação indireta quando uma norma (ou um critério de política de crédito) formalmente neutra acaba prejudicando sistematicamente grupos específicos da população. Não é uma situação nova nem associada à inovação tecnológica: nos testes de acesso à polícia ou ao corpo de bombeiros, as notas para homens e mulheres não são idênticas, assim como nas competições desportivas, precisamente para evitar situações de discriminação indireta. Um exemplo relacionado com algoritmos foi o tratado pelo Tribunal Ordinário de Bolonha na sua sentença de 27 de novembro de 2020, em relação ao algoritmo da Glovo para a pontuação dos entregadores, onde recordou que «una differenza di trattamento può consistere nell’effetto sproporzionatamente pregiudizievole di una politica o di una misura generale che, mesmo que formulada em termos neutros, produz uma discriminação em relação a um determinado grupo», utilizando jurisprudência do Tribunal Europeu dos Direitos Humanos (Acórdão de 13 de novembro de 2007, D.H. e a. c. República Checa [GC] (n.º 57325/00), ponto 184; Acórdão de 9 de junho de 2009, Opuz c. Turquia (n.º 33401/02), ponto 183. Acórdão de 20 de junho de 2006, Zarb Adami c. Malta (n.º 17209/02), ponto 80).

A discriminação proxy é uma forma de discriminação indireta, mas que tem alguns elementos diferenciadores: utiliza dados como proxy no âmbito de atividades de perfilagem algorítmica com a intenção sub-reptícia de avaliar negativamente ou excluir certos grupos populacionais ou indivíduos com características determinadas. Trata-se, portanto, de uma forma de discriminação próxima da fraude, na medida em que utiliza determinados dados como «dados de cobertura» (dados de cobertura ou proxy) para atingir fins não pretendidos ou mesmo proibidos pela atividade de tratamento de dados que está a ser realizada. Todo o tratamento de dados deve ser realizado com uma finalidade (art. 5.º-1-b) RGPD), e a expressão e descrição da finalidade do tratamento condiciona os restantes princípios do tratamento de dados do art. 5 RGPD. A finalidade do tratamento de dados para avaliação de solvabilidade consiste em determinar as capacidades de cumprimento do contrato de crédito do potencial mutuário, não excluir certos requerentes por razões alheias à sua capacidade de cumprimento. Por outro lado, a partir de 20 de novembro de 2026, a avaliação deverá ser realizada «no interesse do consumidor», e não parece que excluir certos consumidores do acesso ao mercado de crédito por razões diferentes das da sua capacidade de cumprimento favoreça «o interesse do consumidor».

Vejamos agora um exemplo de discriminação proxy, recordando um post de há pouco mais de um ano sobre o direito ao esquecimento oncológico: o Parlamento Europeu solicitou aos Estados-Membros que adotassem medidas tendentes a evitar a discriminação sofrida por doentes com cancro que tinham sobrevivido à doença no acesso aos mercados de crédito e de seguros. Estas medidas foram adotadas por vários países, entre os quais Portugal e Espanha, que foram dos primeiros a fazê-lo. Se uma entidade credora desejasse evadir a proibição desta norma, poderia sentir-se tentada a pontuar negativamente conjuntos de dados em princípio neutros, mas que permitissem inferir que o requerente do crédito tinha sofrido de cancro.

A melhor forma de prevenir situações de discriminação indireta e discriminação por procuração é promover uma formação adequada em IA, tanto do pessoal que trabalha nas instituições de crédito como dos requerentes de crédito, bem como a necessária transparência e explicabilidade das ferramentas de IA de credit scoring, em três momentos igualmente importantes: (1) a sua conceção e melhoria; (2) a sua aplicação; e (3) a explicação posterior que deve ser dada ao requerente, especialmente se o crédito lhe for recusado. Este último ponto é obrigatório nos termos do artigo 18.º-8 DCCC/2023 e poderá tornar-se um exemplo prático do efeito direto da norma se não for transposto atempadamente e as instituições de crédito não ajustarem a sua política interna a essa exigência.

Pesquisa Online na Era da IA Generativa: Transparência ou Ilusão?

Doutrina

As ferramentas de inteligência artificial generativa têm transformado a forma como os consumidores procuram informação online, nomeadamente quando querem contratar um serviço ou adquirir um produto. Já não é incomum colocar perguntas diretamente a estas ferramentas — como o ChatGPT ou o Gemini —, por exemplo: «Qual é o frigorífico com melhor relação custo-benefício no mercado?». A resposta surge em segundos, em linguagem natural, convincente e aparentemente neutra.

Além disso, mesmo nos motores de busca tradicionais, o consumidor pode já deparar-se com respostas geradas por IA apresentadas logo antes da lista de resultados — como sucede, por exemplo, no Google com os denominados AI Overviews. Essas mudanças alteram estruturalmente a experiência de pesquisa e colocam desafios relevantes para o Direito do Consumo.

Quanto aos motores de busca, até muito recentemente o resultado era sempre apresentado na forma de uma lista de páginas correspondentes à pesquisa realizada, com clara distinção entre resultados patrocinados e não patrocinados. Em grande parte das situações isso continua a verificar-se, ainda que já se notem alterações com a integração de respostas de IA nas páginas de resultados.

No modelo tradicional, sem IA incorporada, o facto de as hiperligações patrocinadas surgirem em posição de destaque, aliado à prática de alguns motores de busca de priorizar serviços próprios nas respostas – como o Google Flights e o Google Hotels – mostra que a ordenação e até a própria exibição dos resultados não são neutras.

Com a integração de IA, acrescenta-se ainda o risco de o consumidor interpretar a resposta sintetizada como suficiente ou mais fiável, desviando a atenção das alternativas exibidas. Mesmo quando se mantêm elementos complementares — como a secção «outras pessoas pesquisaram», presente no Google, que pode ampliar o horizonte informativo —, permanece a dúvida: em que medida a forma de apresentar resultados, tanto na modalidade tradicional como com IA integrada, afeta a perceção do consumidor sobre quais opções são mais relevantes ou vantajosas?

Já no caso de pesquisas feitas diretamente em ferramentas de IA, o modo de apresentação do resultado é substancialmente diferente. A resposta surge de forma unificada, convincente e aparentemente imparcial, sem clareza sobre as fontes utilizadas nem sobre os critérios que levaram a ferramenta a «optar» por determinado produto ou serviço. O consumidor pode perguntar ao sistema quais foram as fontes utilizadas e assim aprofundar a pesquisa, mas essa informação, em regra, não é dada automaticamente.

O risco agrava-se porque, se é certo que o consumidor consegue identificar se uma hiperligação exibida por um motor de busca é patrocinada, nas respostas geradas por IA essa distinção não é sinalizada. Assim, embora até ao momento não haja evidências conhecidas de que estas ferramentas priorizem publicidade, a opacidade dos seus modelos impede que se afirme com segurança que conteúdos patrocinados não tenham um peso desproporcionado na elaboração da resposta. Essa possibilidade de reapresentação de informação patrocinada como se fosse imparcial dilui fronteiras relevantes e pode influenciar a decisão de consumo de forma indesejada. A questão exige atenção, já que a forma natural e assertiva como estas ferramentas comunicam tende a reforçar a perceção de fiabilidade e aumentar o impacto de eventuais enviesamentos.

Convém notar ainda que esta distinção entre pesquisa tradicional e pesquisa feita em ferramentas de IA generativa tende a tornar-se menos clara. Como mencionado, já existem motores de busca que incorporam modelos de IA nas próprias páginas de resultados, apresentando, antes ou ao lado da lista de hiperligações, uma resposta sintetizada de imediato.

Portanto, o consumidor que recorre ao método «tradicional» de pesquisa pode, na prática, estar também a interagir com uma IA generativa, nem sempre com a devida sinalização e geralmente sem opção de ocultar essa camada de resposta. Neste caso, somam-se duas camadas de opacidade: a falta de transparência sobre os critérios de exibição dos resultados e a dificuldade acrescida de compreender como a resposta automatizada foi construída, sem que se saiba qual é o peso efetivo que essa síntese exerce nas decisões de consumo.

Do ponto de vista legislativo, os riscos não são inteiramente novos. O Código da Publicidade exige que a natureza comercial de uma mensagem seja claramente identificada e não oculta, enquanto o Regime das Práticas Comerciais Desleais proíbe condutas enganosas que possam comprometer a autonomia do consumidor. A Lei de Defesa do Consumidor também é relevante, ao consagrar o direito à informação e o direito à educação para o consumo. O Regulamento da Inteligência Artificial, por sua vez, estabelece obrigações de transparência para sistemas de IA, incluindo os generativos, impondo que os utilizadores sejam informados, de forma compreensível, de que estão a interagir com uma IA.

Quanto aos motores de busca tradicionais, o Regulamento dos Serviços Digitais impõe regras de transparência quanto à identificação da publicidade e à explicação dos principais critérios de ordenação dos resultados. Quando esses motores passam a incorporar respostas geradas por IA, mantêm-se essas obrigações, mas acrescem também, em princípio, os deveres de transparência previstos no Regulamento da Inteligência Artificial.

Já as ferramentas de IA generativa autónomas não se enquadram diretamente na categoria de motores de busca, pelo que o Regulamento dos Serviços Digitais é, em princípio, inaplicável. Ainda assim, o Regime das Práticas Comerciais Desleais, o Código da Publicidade, a Lei de Defesa do Consumidor e o próprio Regulamento da Inteligência Artificial podem ser invocados, por exemplo, quando a apresentação da informação não seja suficientemente clara, quando se diluam fronteiras entre conteúdos comerciais e não comerciais ou quando a forma de resposta limite a autonomia do consumidor.

Ainda que algumas ferramentas de IA generativa incluam avisos genéricos — como a mensagem «O ChatGPT pode cometer erros. Considere verificar informações importantes.» —, tais disclaimers podem não ser suficientes quando a pesquisa envolve bens ou serviços de consumo. Nestes casos, o risco não se limita a erros factuais ou desatualização, mas abrange também a possibilidade de conteúdos patrocinados ou enviesados serem apresentados como se fossem informação imparcial. Assim, torna-se necessário refletir sobre mecanismos de aviso mais específicos, que alertem para riscos económicos concretos e ajudem o consumidor a identificar a natureza comercial de determinadas respostas.

Neste contexto, a educação para o consumo assume um papel essencial: é preciso reforçar a literacia digital, ajudando os consumidores a compreender que uma resposta automatizada não equivale a uma síntese neutra. A legislação aplicável já oferece uma base sólida, ao exigir transparência e proibir determinadas práticas, mas persiste o desafio de aplicá-las de forma eficaz a este novo cenário. Mecanismos de aviso adaptativos — que hoje já surgem em contextos de saúde, por exemplo — poderiam também alertar para riscos em matéria de consumo, contribuindo para que o consumidor continue capaz de tomar decisões livres e informadas mesmo perante sistemas opacos.

Sistemas de Recomendação, nudging e o Direito do Consumo

Doutrina

Sistemas de recomendação estão largamente empregados na experiência digital cotidiana dos consumidores — seja ao navegar por redes sociais, escolher um filme, fazer compras online ou interagir com conteúdos selecionados algorítmica e continuamente para si. Esses sistemas, largamente utilizados por plataformas digitais, podem influenciar de forma significativa as escolhas dos consumidores. Uma das técnicas mais recorrentes nesse contexto é o nudging — estratégia de design que orienta o comportamento por meio da forma como as opções são organizadas, apresentadas ou destacadas, sem, entretanto, eliminar totalmente a liberdade de escolha.

Determinados casos de nudging, no entanto, podem configurar os chamados dark patterns — práticas de design que, em vez de facilitar escolhas conscientes, acabam por comprometer a autonomia do usuário ao interferir de forma opaca ou desproporcional no seu processo decisório. Essas práticas podem explorar vieses cognitivos, ocultar ou desvalorizar opções relevantes, induzindo assim decisões que favorecem os objetivos comerciais da plataforma, em detrimento dos melhores interesses do consumidor. Em sistemas de recomendação, isso ocorre, por exemplo, quando o design favorece conteúdos que maximizam o tempo de permanência ou o consumo impulsivo, induzindo o utilizador a certas escolhas à sombra da transparência sobre os critérios subjacentes à personalização das recomendações.

Essa influência, portanto, nem sempre ocorre de forma positiva: certos casos de nudging podem, na prática, produzir efeitos intrusivos e indesejáveis. No entanto, cabe notar que uma mesma estratégia pode ser percebida de forma distinta por diferentes usuários, o que evidencia o quanto a fronteira entre influência legítima e manipulação pode ser difícil de definir na prática.

Ao reduzir o ônus decisório que recai sobre os consumidores e destacar certos caminhos de ação, o nudging pode facilitar a navegação e ser benéfico na medida em que contribui para enfrentar o problema da sobrecarga informacional. Porém, ao fazê-lo, pode também comprometer a tomada de decisões informadas, sobretudo quando não há um nível adequado de conhecimento ou consentimento por parte do consumidor. O problema, portanto, não está na técnica em si, mas no modo como ela é implementada e nos efeitos que produz sobre a autonomia individual.

Embora o AI Act não seja, em essência, um diploma voltado à proteção do consumidor, pode contribuir para esse objetivo ao proibir determinados sistemas de IA e estabelecer obrigações de transparência proporcionais ao grau de risco de outros, de acordo com critérios definidos no próprio regime. No caso dos sistemas de recomendação, exigências rigorosas no sentido de que os utilizadores sejam informados de maneira compreensível sobre a lógica e os principais parâmetros por detrás da personalização das recomendações podem esbarrar na questão da opacidade ainda inerente a muitos desses sistemas. Trata-se do conhecido problema da black box, que pode ser entendido, de forma simples, como a impossibilidade de explicar de maneira eficaz e compreensível a lógica por detrás do funcionamento desses sistemas.

Além disso, não se deve perder de vista que exigências excessivamente técnicas ou densas em termos de transparência podem gerar um efeito contrário ao pretendido, ao sobrecarregar o utilizador com informações que dificultam — em vez de facilitar — a tomada de decisão. Trata-se, ironicamente, de um obstáculo que os próprios sistemas de recomendação — frequentemente por meio de técnicas de nudging — buscam (ou deveriam buscar) minimizar.

O conceito emergente de bright patterns — estratégias de design que priorizam os interesses e a autonomia do consumidor — oferece uma pista de como o design algorítmico pode evoluir num sentido mais ético. Uma questão crucial, nesse cenário, consiste em traçar parâmetros que garantam que o nudging seja utilizado de forma mais adequada à salvaguarda dos direitos dos consumidores — especialmente no que toca à sua autonomia decisória. O AI Act, mesmo não sendo destinado à proteção do consumidor, pode desempenhar um papel de relevo ao pressionar por arquiteturas de escolha mais transparentes e alinhadas com os direitos desses agentes.

Assim, embora outros instrumentos — como, por exemplo, o regime das práticas comerciais desleais — ofereçam salvaguardas mais evidentes no campo da proteção do consumidor, é importante reconhecer o contributo indireto que o AI Act pode oferecer quando aplicado a sistemas de recomendação baseados em IA. Ao lado de outros regimes normativos, o AI Act ajuda a compor um quadro regulatório que requer ser interpretado de forma integrada. Essa leitura sistémica do Direito é essencial para enfrentar assimetrias estruturais entre consumidores e plataformas digitais, promovendo escolhas mais informadas, transparentes e compatíveis com seus direitos e legítimos interesses.

O que podemos esperar da proposta do Digital Fairness Act?

Doutrina

No seguimento do texto anterior deste blog (“Que política para o Direito de Consumo Europeu no futuro? O novo foco na competitividade europeia”), pretendemos agora analisar, muito sucintamente, que expetativas podemos ter para a proposta do Digital Fairness Act (DFA), com base em tudo o que se sabe sobre este futuro procedimento legislativo europeu, em especial com o foco nos resultados e recomendações do Digital Fairness Fitness Check.

Esta análise é particularmente importante pois, quando consideramos os compromissos políticos dos comissários ao Parlamento Europeu, em especial  da Vice-Presidente  Henna Virkkunen e de Michael McGrath, Comissário para Democracia, Justiça, Estado de Direito e Proteção dos Consumidores, e os planos públicos da Comissão para 2025 no seu work programme, a proposta do DFA deverá ser a principal medida legislativa prevista em matéria de Direito do Consumo para os primeiros anos do mandato. Outra iniciativa, o “Digital package”, também será relevante, mas o seu objetivo será essencialmente de simplificação da legislação digital, como o RGPD, Data Act, Data Governance Act, etc..

Este texto pretende então sumária e criticamente analisar: 1) as principais recomendações dos dois documentos que serão fundacionais ao DFA: a resolução do Parlamento Europeu sobre addictive design online de 2023 e o Digital Fairness Fitness Check de 2024; 2) qual a timeline esperada para a proposta do DFA; 3) o que é que podemos esperar da proposta do DFA.

A resolução do Parlamento Europeu sobre conceção de serviços online para criar dependência dos consumidores (addictive design)

É inegável que o debate sobre a necessidade do DFA surgiu da publicação do Digital Fairness Fitness Checkem outubro de 2024, tendo a nova Comissão Von der Leyen incorporado então essa bandeira nos seus compromissos políticos.

Ainda assim, é necessário salientar que o debate público nas instituições europeias sobre os temas do DFA já tinha sido aberto pela  Resolução do Parlamento Europeu, de 12 de dezembro de 2023, sobre conceção dos serviços em linha de forma a criar dependência e proteção dos consumidores no mercado único da UE (2023/2043(INI)).

Nesta resolução, o Parlamento Europeu recomenda à Comissão que tome medidas legislativas e políticas para combater práticas de conceção de serviços digitais que tenham como objetivo criar dependência nesses serviços (o addictive design), devido aos danos que podem causar à saúde física e mental dos consumidores, especialmente de menores. O Parlamento pediu que se proíbam as práticas mais nocivas, que se promova a conceção ética e que se garanta a transparência, a escolha e a autonomia dos utilizadores, bem como a proteção dos consumidores mais vulneráveis.

Como exemplos de práticas digitais consideradas viciantes, a resolução refere o deslizar da página/feeds sem fim (infinite scroll),[1] a recarga de páginas (pull to refresh), as funcionalidades de vídeo de reprodução automática (never-ending autoplay), as recomendações personalizadas, as notificações de recuperação (recapture notifications), o jogo por marcação (playing by appointment) em determinados momentos do dia, o design de serviços que causa ‘time fog’ (perda da noção de passagem do tempo) e as notificações sociais falsas, assim como medidas que se aproveitem das vulnerabilidades psicológicas dos consumidores.

A resolução aponta como “alvos” de intervenção legislativa a Diretiva Práticas Comerciais Desleais (DPCD), a Diretiva Direitos dos Consumidores (DDC) e a Diretiva das Cláusulas Abusivas (DCA), que devem ser revistas para abordar estas práticas, referindo ainda o Regulamento dos Serviços Digitais (Digital Services Act, DSA, em especial quanto aos artigos 25.º (“Conceção e organização da interface em linha”) e 35.º (“Atenuação de riscos”), e o Regulamento da Inteligência Artificial (AI Act).

Esta resolução, aprovada por uma esmagadora maioria[2], teve como rapporteur Kim van Sparrentak, do grupo parlamentar Greens/EFA. Posteriormente, Kim van Sparrentak foi uma das eurodeputadas que mais questionou o Comissário McGrath na sua audição de confirmação no PE sobre a sua visão para o DFA. Tem sido apontada como possível futura shadow rapporteur para o DFA, mantendo-se bastante ativa nos debates relativos a Direito do Consumo e ao DFA.[3]

As conclusões do Digital Fairness Fitness Check

O Digital Fairness Fitness Check por si só, considerando apenas a sua dimensão (parte 1 com 350 págs., parte 2 com 78 págs. focado na Diretiva Omnibus, e os anexos de Use Cases com 428 págs.), mereceria vários textos neste blog. Para o presente, vamos apenas abordar muito sumariamente os principais resultados e recomendações.

Este estudo foi uma avaliação abrangente do Direito do Consumo Europeu, focada na equidade (fairness) digital, com o objetivo principal de determinar se as Diretivas core (DPCD, DDC e DCA) são adequadas para proteger os consumidores no ambiente digital, em especial considerando as alterações que já tinham recebido pela Diretiva Omnibus de Modernização do Direito Consumo (2019/2161).

O estudo focou-se numa seleção de práticas consideradas problemáticas em ambientes digitais (dark patterns, práticas agressivas, subscrições difíceis de cancelar, publicidade personalizada, preços personalizados, comércio social e marketing de influenciadores e vício digital), avaliando a eficácia, eficiência, aplicabilidade e coerência das diretivas de consumo para lhes dar resposta, assim como a sua coerência (overlaps e blind-spots, lacunas legais) com a restante legislação digital europeia, como o Regulamento Geral de Proteção de Dados (RGPD), o DSA, o Regulamento dos Mercados Digitais (DMA) e o AI Act.

O estudo identificou desafios significativos para a aplicabilidade destas normas de Direito do Consumo Europeu. A rápida evolução dos mercados de serviços digitais, juntamente com o surgimento de novas práticas comerciais, tem criado lacunas legais e incertezas regulatórias. Os princípios gerais das diretivas (nomeadamente da DPCD e DCA), embora flexíveis e adaptáveis, são dificilmente aplicáveis nos novos casos concretos, existindo muita incerteza jurídica para consumidores, empresas e autoridades mesmo quando sinalizados pelas comunicações da Comissão (como nas Orientações de Interpretação da DPCD). Devido a esta incerteza e a dificuldades no enforcement, práticas que estão teoricamente abrangidas (como dark patterns, armadilhas de subscrição e publicidade oculta) persistem, existindo a necessidade de normas mais específicas que, por exemplo, explicitamente proíbam dark patterns. Os anexos da DPCD e DCA devem assim ser modernizados.

Foram identificadas diversas lacunas legais e falhas de coerência entre os diplomas, especialmente com o RGPD e o DSA. O papel dos dados pessoais na economia digital e a personalização de serviços e do preço ainda não estão suficientemente concretizados na legislação de consumo. Várias das obrigações aplicáveis a plataformas em linha pelo DSA deveriam também aplicar-se a outros profissionais.

O principal entrave à aplicabilidade da DPCD, o conceito do consumidor médio (“average consumer”), assim como o de consumidor vulnerável, tem de ser revisto e novas definições incluídas, para incorporar as noções de vulnerabilidade digital e de vulnerabilidades situacionais. Estes novos conceitos são necessários pois a hiperpersonalização de serviços digitais baseada em perfis tem um impacto notório que já não se limita apenas aos grupos tipicamente considerados vulneráveis (em função da idade, doença mental ou física e credulidade).

Devem ser introduzidas normas específicas para os contratos digitais, para combater práticas específicas deste domínio, por exemplo quanto aos free-trials, subscription trap, botões para cancelamento, etc.

O relatório recomenda ainda que as normas sobre deveres de informação e transparência sejam melhoradas, atendendo aos overlaps entre diretivas e aos riscos de excesso de informação (“information overload”). O valor opaco das moedas virtuais nos videojogos é especialmente visado, devendo passar a ser acompanhados do seu valor real (que entretanto a Comissão e a Rede de Autoridades de Consumo já começaram a adotar), e as loot-boxes também devem ter normas específicas. A personalização dos preços (como é que foram calculados) e dos serviços e o marketing de influencers online são também abordados.

O relatório recomenda também a inversão do ónus da prova face a tecnologias opacas e algoritmos e o reforço da proteção e dos direitos dos menores pelo Direito do Consumo Europeu, com a incorporação da proibição de uso de dados pessoais destes para publicidade personalizada (não apenas pelas plataformas em linha como já contemplado pelo DSA) e do princípio de conceção adequada à idade (“age-appropriate design”) dos serviços digitais.

Finalmente, o relatório inclui uma série de recomendações para reforçar o enforcement e a cooperação pelas autoridades nacionais, assim como o seu papel ativo no mercado.

Depois de muita antecipação, a publicação deste este relatório em outubro de 2024 foi um marco que salientou a necessidade de revisão do Direito do Consumo Europeu.

Qual a timeline para a proposta do Digital Fairness Act (DFA)?

Além das declarações do Comissário McGrath na sua audição no Parlamento Europeu (em novembro 2024) e no World Economic Forum em Davos (final de janeiro 2025), Maria-Myrto Kanellopoulou, a Chefe de Unidade em matéria de Direito do Consumo, na Direção-Geral da Justiça e dos Consumidores da Comissão Europeia (Directorate-General for Justice and Consumers (DG JUST)), afirmou numa audição no Parlamento Europeu promovida pelo Partido Popular Europeu (PPE) sobre a proteção de menores online, que a proposta do DFA não deverá estar pronta antes de 2026, devendo ser apresentada no início desse ano. Em março, num evento em Washington DC sobre o futuro da cooperação transatlântica entre a UE e os EUA, McGrath forneceu mais pormenores e apontou que a proposta do DFA deveria ocorrer a meio de 2026.

Considerando as Better Regulation Guidelines de 2021 e a Better Regulation Toolbox de 2023 da Comissão Europeia e o Acordo Interinstitucional entre as instituições europeias Legislar Melhor de 2016,  ainda antes de a proposta do DFA ser publicada, deverá ainda ser aberta uma consulta pública no portal “Have your say”, que terá de ficar aberta durante um período de 12 semanas.

A timeline para a proposta do DFA fica assim um pouco mais clara. Se o objetivo for a sua apresentação até ao final da primeira metade de 2026, é possível que ocorra uma consulta pública sobre o DFA entre o segundo e o terceiro trimestres de 2025. A análise de impacto que acompanha a proposta legislativa deverá ser realizada também nesta janela temporal. O tema deverá ainda ser discutido e trabalhado no European Consumer Summit, previsto para o final de maio. Finalmente, no final do ano, o Consumer Policy Advisory Group (CPAG) irá analisar os resultados recolhidos para considerar na preparação final da proposta. Esta timeline parece consistente com as declarações de Maria-Myrto Kanellopoulou, e tem sido avançada por várias fontes. Porém… além de não ter sido explicitamente e firmemente prevista, nem colocada por escrito no work programme de 2025 (embora exista a justificação de que é uma proposta para 2026, ao contrário da 2030 Consumer Agenda), há sinais de algumas reticências dentro da Comissão (e mesmo no Parlamento Europeu), que podem levar ao atraso da proposta. 

Então, o que é que devemos esperar da proposta do Digital Fairness Act?

Em primeiro lugar, é necessário relembrar o novo foco da Comissão Europeia na competitividade da economia da União Europeia. Neste prisma, medidas como um DFA muito “forte” podem ser consideradas contraproducentes, por criarem ou exacerbarem custos para os operadores económicos e/ou forçarem alterações nos seus modelos de negócios que levem a perdas de receitas. É ainda mais um diploma a considerar, quando o mote atual é “simplificar”. Estas preocupações têm sido apontadas como motivos para os adiamentos da proposta do DFA, podendo também ter o efeito de que as suas medidas fiquem aquém do esperado e/ou que a proposta não saia da gaveta, como alguns defendem.

Em segundo lugar, temos de considerar as propostas de atuação da resolução do PE e do Fitness Check. Ambos os documentos tecem recomendações que visam diplomas existentes, nomeadamente as diretivas de consumo e a sua relação com o DSA, o RGPD e o AI Act. 

Quando consideramos estes dois fatores, podemos descartar o cenário de que o DFA seja um novo diploma radical que irá revogar diplomas antigos em bloco e substituí-los por um novo diploma paradigmático que vem revolucionar o Direito do Consumo Europeu. O objetivo é simplificar e apenas corrigir/modernizar os conceitos e normas existentes.

Aliás, quando consideramos todos estes fatores, também podemos considerar o seguinte: o cenário mais provável é que o Digital Fairness Act acabe por não ser um “Act”, ou seja, um regulamento europeu.

A abordagem mais provável é que o DFA seja ou um pacote legislativo ou um diploma semelhante à Diretiva Omnibus, contendo alterações (mais ou menos cirúrgicas) a outros diplomas existentes, nomeadamente às 3 diretivas core de consumo (DPCD, DDC e DCA) e possivelmente ao DSA.

Este método tem sido defendido por vários atores políticos. A nuance entra na extensão da intervenção. O DFA deve ser só um “patch” que corrige “bugs” singulares na legislação existente ou deve ir mais além na sua intervenção?

O Professor Christoph Busch (aqui, aqui), após ter participado na reunião do Consumer Policy Advisory Group da Comissão, onde apresentou o relatório do CERRE (“Shaping the Future of European Consumer Protection: Towards A Digital Fairness Act?”), alertou para estas preocupações e tem defendido que o DFA deve ser um regulamento europeu (e não uma diretiva), que altere as diretivas de consumo: a) adicionando novas práticas comerciais ao anexo I da DPCD e cláusulas absolutamente proibidas à DCA, b) estabelecendo normas de antievasão (“anti-circumvention rule”) das proibições (como no artigo 13 do Digital Markets Act), c) torne obrigatórias medidas que facilitem a automação da fiscalização e supervisão pelas autoridades, d) simplifique os deveres de informação, e) estabelecendo um princípio de conceção (“by design”), pois, para proteger eficazmente os consumidores no ambiente digital, não é suficiente consagrar os direitos dos consumidores na legislação e informá-los dos seus direitos, é necessário que estes consigam facilmente exercer os seus direitos, por exemplo, através das interfaces do serviço do profissional (exemplo: botões de cancelamento). Estas medidas parecem bastante interessantes, mas é muito incerto se estão a ser bem acolhidas pela Comissão.

A BEUC também tem avançado com várias recomendações para o DFA, em especial na proteção de menores online, com o seu position paper (“Better Safe than Sorry”).

Por enquanto, a Comissão mantém-se muito vaga neste tema, não abrindo o jogo nem sobre o formato do DFA nem sobre o seu conteúdo. Recentemente, no European Retail Innovation Summit, o Comissário McGrath voltou a pronunciar-se sobre o DFA, assegurando que o diploma seria tanto pró-consumidores como pró-empresas, que não pretende criar mais entraves administrativos às empresas, que pretende abordar as práticas manipulativas e viciantes. Marketing por influencers, preços personalizados, moedas virtuais em videojogos mantêm-se na mira da Comissão.

Conclusões e uma ideia para reflexão – Atos delegados para editar as blacklists das práticas e cláusulas proibidas

Como referido, a consulta pública para preparar a proposta do DFA deverá ser publicada nas próximas semanas. Por agora, ainda sabemos muito pouco sobre os conteúdos e medidas que a proposta pode conter, tendo apenas acesso a algumas “pistas” sobre a forma do diploma. As recomendações que têm sido feitas, seja pelo Parlamento, no Fitness Check, por associações ou por académicos são apenas isso, recomendações, que podem sempre ser acolhidas, rejeitadas, modificadas e ou ignoradas.

Até termos mais informações concretas estamos, portanto, no terreno da especulação.

Assumindo esta realidade, podemos olhar criticamente para as medidas que estão a ser propostas.

Neste sentido, damos destaque a uma recomendação, particularmente inventiva e potencialmente controversa, para resolver o problema da morosidade e complexidade dos procedimentos legislativos europeus face à evolução das práticas no mercado e evolução tecnológica: o DFA alterar a DPCD e DCA para incluírem artigos que permitam à Comissão Europeia, por atos delegados, “editar” as blacklists nos anexos, de forma a acrescentar novas práticas comerciais desleais/cláusulas contratuais absolutamente proibidas.

Este tipo de delegação de poderes, previsto nos Tratados e amplamente utilizado em diversas áreas, como na fixação de requisitos de sustentabilidade (Ecodesign) para diferentes gamas de produtos e no AI Act (para a Comissão alterar os critérios de classificação de sistemas de IA de alto risco e a lista do anexo III, entre vários exemplos), poderia ser uma forma eficaz de permitir que a Comissão fosse colmatando a lista de práticas comerciais absolutamente proibidas com diferentes dark patterns, à medida que fosse recolhendo evidências científicas da sua nocividade, mantendo o PE e o Conselho a prerrogativa de se oporem, formulando objeções.

A maleabilidade destes anexos pode reduzir a segurança jurídica dos operadores económicos, mas pode contribuir para reduzir a fragmentação regulatória entre Estados Membros, especialmente quanto à DCA. No plano nacional, mesmo com atrasos na transposição, o efeito conforme poderia contribuir para uma melhor atuação de todos os stakeholders.

Existe um outro obstáculo bastante mais difícil de transpor: não é exatamente claro se este tipo de delegação de poderes é válida à luz do artigo 190.º do Tratado sobre o Funcionamento da União Europeia. Os atos delegados são atos não legislativos de alcance geral que só podem completar ou alterar elementos não essenciais do ato legislativo.

Enfim, é apenas (mais) uma ideia a considerar.

[1] Os sistemas de recomendação de várias plataformas já estão a ser investigados à luz do DSA pela Comissão. https://www.euronews.com/next/2024/10/02/tiktok-youtube-snapchats-video-recommendations-probed-by-eu-commission, Commission addresses additional investigatory measures to X in the ongoing proceedings under the Digital Services Act | Shaping Europe’s digital future

[2] 545 votos a favor, 12 contra e 61 abstenções.

[3] Como se viu no debate do EU Consumers Day no plenário do PE a 12 de março.

Dados intra commercium e extra commercium – A propósito do tema da Worldcoin

Doutrina

A CNPD decidiu, a 26 de março, suspender a recolha de dados biométricos faciais e da íris que a empresa Worldcoin recolhe há vários meses. A decisão surge na sequência de uma avalanche de denúncias recebidas pela CNPD, denunciando a recolha de dados biométricos de menores sem autorização dos pais ou representantes legais, bem como deficiências na informação prestada para a recolha desses dados, e na sequência de uma recomendação de prudência da própria CNPD aos cidadãos relativamente ao fornecimento desses dados, encorajando “as pessoas a refletirem sobre a sensibilidade dos dados que pretendem fornecer, que são únicos e fazem parte da sua identidade, e os riscos que tal implica, e a ponderarem o significado de a cedência dos seus dados biométricos envolver, em contraprestação, um eventual pagamento”. É preciso ainda ter em conta que, em troca dos dados, a empresa entregou criptomoedas cuja existência tem sido reportada como duvidosa (já para não falar da sua elevadíssima volatilidade em geral).

Em Espanha, no início de março, a AEPD ordenou a suspensão cautelar da atividade da Worldcoin pelos mesmos motivos que a CNPD hoje apresenta. A medida foi objeto de recurso pela Worldcoin. Porém, a Audiencia Nacional considerou que a atuação da AEPD foi correta, porque a salvaguarda do interesse geral, que consiste na garantia do direito à proteção dos dados pessoais dos seus titulares, deve prevalecer sobre o interesse particular da empresa recorrente, de conteúdo fundamentalmente económico. A Audiencia Nacional argumenta que, se se verificasse que a Worldcoin cumpre o RGPD, poderia solicitar uma compensação financeira baseada na medida cautelar, estando reunidos os respetivos requisitos. Não parece muito provável, uma vez que a medida cumpre os três requisitos fundamentais: fumus boni iuris, periculum in mora e proporcionalidade.

O caso, como se pode ver, deu origem a um intenso debate em Espanha e em Portugal, bem como noutros países da União Europeia. A conduta da empresa é duvidosa – e não só devido às deficiências na informação contratual fornecida ou às características da contraprestação oferecida. São também utilizadas práticas questionáveis nos stands de informação e venda da Worldcoin para convencer as pessoas (muitas delas menores de idade) a vender os seus dados biométricos.

Há, no entanto, outro aspeto que importa analisar. Estamos a falar da natureza intra commercium dos dados pessoais.

Há alguns meses, neste blog, discuti os requisitos do pagamento com dados, partindo do princípio de que esta realidade é legalmente possível, e até aconselhável, apesar das reticências expressas na altura pelo EDPS e pelo EDPB, recentemente atualizadas em relação ao debate em torno do modelo “pay or ok”. Isto implica também que a lei deve encarar os dados pessoais não só como parte de um direito fundamental (art. 8.º da Carta Europeia de Direitos Fundamentais; art. 18.º, n.º 4, da Constituição Espanhola; art. 26.º da Constituição Portuguesa), mas também como um ativo económico, ou seja, como bens num sentido patrimonial, que podem ser transacionados e, por conseguinte, utilizados como contraprestação. Se os dados podem constituir uma contraprestação, devem também poder ser uma prestação principal. Por outras palavras, se uma pessoa pode pagar certos bens e serviços digitais com os seus dados pessoais, nada deve impedi-la, pela mesma razão, mas em sentido inverso, de entregar os seus dados pessoais em troca de pagamento (seja em moeda com curso legal, criptomoeda ou qualquer outro tipo de contraprestação).

De acordo com esta lógica, não deveria haver qualquer impedimento à comercialização de dados pessoais, apesar de o direito à proteção de dados ser um direito fundamental; tal como o direito à vida privada e familiar (art. 7.º da Carta Europeia de Direitos Fundamentais; art. 18.º, n.º 1, da Constituição Espanhola; art. 26.º da Constituição Portuguesa), o que não impede que sejam objeto de comercialização através da venda de direitos de imagem a marcas comerciais, da venda de exclusivos de pessoas conhecidas, ou da própria atividade de alguns influencers e youtubers, que claramente comercializam tanto a sua imagem como a sua privacidade.

O caso Worldcoin sugere uma reflexão mais aprofundada sobre o carácter intra commercium dos dados pessoais: será que todos os dados pessoais devem ser comercializáveis e, portanto, servir de contraprestação para o pagamento de certos bens e serviços digitais (ou vice-versa)?

Uma primeira resposta a esta questão pode ser afirmativa: todos os dados pessoais devem ser comercializáveis porque o direito fundamental à proteção de dados pode ser comercializável na mesma medida que outros direitos fundamentais que lhe são próximos, como o direito à privacidade pessoal ou familiar ou o direito à própria imagem. A comercialidade do direito à própria imagem não difere em função do conteúdo da imagem pessoal que é objeto de comércio: é tão comercial posar para uma marca como ser filmado nu para um filme. Será diferente a questão das regras específicas aplicáveis a cada atividade, além da comercialização do direito à própria imagem. Pensemos, por exemplo, na atuação de menores em filmes.

A segunda resposta que pode ser dada é não. Esta resposta, formulada em termos absolutos, já foi partilhada pelo EDPS e pelo EDPB, e já foi respondida em várias ocasiões, em relação à desproporcionalidade da posição e do argumento. Resta, portanto, optar por uma resposta à moda galega: depende. Segundo esta opção (a nosso ver mais precisa e proporcionada), os dados pessoais não devem ser considerados comercializáveis ou não pelo simples facto de serem dados pessoais, mas em função do tipo de informação a que se referem. Deve estabelecer-se uma presunção geral iuris tantum de comercialidade e prever-se restritivamente as categorias de dados pessoais que devem ser excluídas do comércio. Uma primeira tentativa de situar este “depende” seria a grande divisão traçada pelo RGPD entre dados pessoais comuns e categorias especiais de dados pessoais. É claro que os dados pessoais “comuns” seriam totalmente comercializáveis.

O RGPD define dados pessoais como “qualquer informação relativa a uma pessoa identificada ou identificável” (art. 4.1) e distingue duas grandes categorias de dados pessoais: dados pessoais comuns e categorias especiais de dados pessoais. Os dados pessoais comuns são definidos por exclusão: todos os dados que não são considerados categorias especiais de dados pessoais. As categorias especiais de dados pessoais são os dados que revelam a origem racial ou étnica, as opiniões políticas, as convicções religiosas ou filosóficas ou a filiação sindical; e os dados genéticos, os dados biométricos, os dados relativos à saúde, à vida sexual e à orientação sexual de uma pessoa singular (art. 9.1 RGPD).

As categorias especiais de dados pessoais representam um risco mais elevado para os direitos e liberdades fundamentais (Cons. 51 RGPD), razão pela qual o art. 9.1 RGPD prevê uma proibição geral de tratamento destas categorias de dados. Na prática, este sistema bipartido implica o seguinte: (1) em princípio, todo o tratamento de dados deve ser efetuado de acordo com uma base legítima, tal como estabelecido no art. 6 RGPD. No caso de categorias especiais de dados, não só deve ser selecionado pelo menos um fundamento de legitimação do art. 6 RGPD, como também deve ser encontrada uma exceção à proibição geral de tratamento de categorias especiais de dados (art. 9.1 e 9.2 RGPD).

Embora seja verdade que, em geral, o tratamento de categorias especiais de dados implica um risco maior para os direitos e liberdades das pessoas em causa, nem todos eles devem ser excluídos do comércio, mas apenas aqueles cujo tratamento não está sujeito a um controlo ou regulamento específico e que, por si só, implica um risco ainda maior para os direitos e liberdades não só das pessoas em causa, mas da população em geral. Recordemos que partimos da presunção iuris tantum de que os dados pessoais são bens intra commercium e que, por conseguinte, a exclusão do comércio de certas categorias de dados deve encontrar uma razão justificada que permita destruir a presunção e que mesmo essa razão deve ser interpretada de forma restritiva.

Que dados pessoais devem então ser excluídos do comércio?

Entendemos que a exclusão deve estender-se principalmente a três categorias de dados pessoais, tal como definidas no RGPD: (1) dados genéticos, (2) dados biométricos e (3) dados relativos à saúde:

– Os dados genéticos são “dados pessoais relativos às características genéticas herdadas ou adquiridas de uma pessoa singular que fornecem informações únicas sobre a fisiologia ou a saúde dessa pessoa, obtidas, nomeadamente, a partir da análise de uma amostra biológica dessa pessoa” (art. 4.13 RGPD);

– Os dados biométricos são “dados pessoais obtidos a partir de um tratamento técnico específico, relativos às características físicas, fisiológicas ou comportamentais de uma pessoa singular, que permitem ou confirmam a identificação única dessa pessoa, tais como imagens faciais ou dados dactiloscópicos” (art. 4.14 RGPD);

– E os dados relativos à saúde são “dados pessoais relativos à saúde física ou mental de uma pessoa singular, incluindo a prestação de serviços de saúde, que revelem informações sobre o seu estado de saúde” (art. 4.15 RGPD).

As interfaces cérebro-computador (ICC) permitem medir e registar a atividade gerada pelo cérebro, que servirá de identificador biométrico. As ondas cerebrais registadas por uma BCI são traduzidas em dados fisiológicos depois de processadas e descodificadas. Aplicando ferramentas avançadas de análise de dados e sistemas de IA, é possível inferir pensamentos, sentimentos, estados de saúde, traçar o perfil do indivíduo e fazer inferências sobre o seu passado, presente e futuro. Por outro lado, o cérebro é um identificador único, tal como a impressão digital ou o genoma. Além disso, a neurotecnologia permite não só recolher informações neurológicas em tempo real, mas também gerar estímulos que alteram a atividade cerebral e modificam o comportamento da pessoa a curto e a longo prazo. Em última análise, esta tecnologia e a utilização de dados neurológicos apresentam sérios riscos para os direitos e liberdades fundamentais dos indivíduos. Isto levou alguns Estados, como o espanhol, a começar a propor a elaboração de direitos dos cidadãos em relação à utilização das neurotecnologias, embora, por enquanto, apenas como propostas regulamentares sujeitas a debate (Artigo XXVI Carta dos Direitos Digitais). No que nos diz respeito, os neurodados devem ser entendidos como uma subcategoria dos dados biométricos.

Os dados genéticos, os dados biométricos e os dados relativos à saúde são as únicas três categorias especiais de dados pessoais definidas no art. 4 RGPD e as únicas para as quais o RGPD permite que os Estados-Membros introduzam restrições ao tratamento, desde que não constituam um obstáculo à sua livre circulação (art. 9.4 RGPD). Estas circunstâncias demonstram a importância destas três categorias de dados pessoais, além de serem categorias especiais de dados.

O tráfico de dados genéticos, biométricos e relativos à saúde deve ser objeto de uma regulamentação específica, de modo a que a sua circulação constitua um “tráfico regulamentado”, devido à natureza especial das informações a que se referem. Esta é a razão das possíveis restrições nacionais que o RGPD permite que os Estados-Membros imponham e, sobretudo, a razão da atual construção do Espaço Europeu de Dados de Saúde (EEDS). No âmbito do EEDS, foi publicada uma Proposta de Regulamento sobre o Espaço Europeu de Dados de Saúde, relativa à utilização de dados de saúde, ou seja, dados de saúde e dados genéticos (art. 2.2, alíneas a), b) e c)). No que diz respeito aos dados biométricos, o seu impacto particular nos direitos e liberdades fundamentais refletiu-se no Regulamento relativo à Inteligência Artificial, que classifica os sistemas de identificação biométrica como de alto risco (Anexo III, nº 1, e Cons. 44 e 54).

Uma questão discutível é a de saber onde termina a fronteira dos dados biométricos ou relacionados com a saúde ou, por outras palavras, como lidar com a vis expansiva destas categorias de dados. Um exemplo desta vis expansiva é o facto de uma fotografia de uma pessoa poder ser considerada um dado biométrico se permitir a identificação unívoca ou de uma pessoa (Cons. 51 RGPD), ou o facto de, por vezes, a mera consulta de determinados sítios web também poder ser considerada um dado relativo à saúde (Cons. 68 a 73 da Sentença do TJUE, de 4 de julho de 2023).

Em suma, o princípio da livre circulação de dados pessoais protegido e promovido pelo RGPD (e anteriormente pela Diretiva 95/46/CE) deve levar ao entendimento de que o tráfego económico de dados pessoais é legal, desde que os requisitos para qualquer troca de serviços onerosos sejam cumpridos de acordo com as regras dos Estados-Membros em matéria de obrigações e contratos. Isto implica que o pagamento com dados pessoais para determinados bens e serviços deve ser entendido como possível, por exemplo, escolhendo entre o pagamento com dados de modo a permitir uma navegação personalizada com base em perfis (ver o art. 38 do Digital Services Act) ou pagamento monetário pelo mismo serviço, como recentemente recordado pelo TJUE, na Sentença de 4 de julho de 2023 (Cons. 150 em particular). Do que precede deve resultar que é igualmente lícito vender os próprios dados pessoais em troca de uma contraprestação.

No entanto, embora se deva partir do princípio de que todos os dados pessoais são comercializáveis, devem ser excluídos do comércio os dados pessoais cujo tratamento (e especialmente cujo tráfico não está sujeito a regulamentação específica) tem um maior impacto nos direitos e liberdades fundamentais. Estes dados são, a nosso ver, os dados biométricos (incluindo os neurodados), os dados genéticos e os dados relativos à saúde.

Considerar certas categorias de dados como dados fora do comércio não implica que essas categorias de dados não sejam objeto de análise, nem exclui o desenvolvimento de perfis com base nessa análise de dados. Trata-se apenas de fazer avançar a barreira da proteção, não no final da cadeia de valor dos dados (ou seja, proteção contra atividades de definição de perfis de indivíduos específicos), mas no início (recolha e tráfico livres dos dados que alimentam os perfis). A livre circulação destas categorias de dados também não seria impedida: trata-se apenas de submeter essa circulação a um controlo público no interesse de uma melhor proteção dos direitos e liberdades afetados pela informação a que estas categorias de dados se referem. Aliás, isto já está no espírito do Regulamento europeu relativo ao espaço de dados de saúde.

De acordo com isto, a atividade desenvolvida pela Worldcoin não só constituiria um tratamento de dados questionável pelas razões já invocadas por autoridades nacionais como a AEPD ou a CNPD, mas também por se tratar de um tráfego oneroso de dados pessoais extra commercium.

Outro artigo sobre o ChatGPT? O possível futuro dos modelos fundacionais no Regulamento sobre Inteligência Artificial

Doutrina

Tanto o (ainda) futuro Regulamento sobre Inteligência Artificial (IA) como as ferramentas de Inteligência Artificial Generativa (ChatGPT ou Dall-e, entre outros) foram objeto de ampla discussão ao longo de 2023. As ferramentas de IA generativa, que explodiram em termos de popularidade no início do ano passado, suscitaram propostas de alterações significativas ao texto da Proposta de Regulamento de IA e debates entre Estados. Algumas dessas alterações podem ser encontradas nas Emendas à Proposta de Regulamento sobre IA apresentadas pelo Parlamento Europeu em 14 de junho de 2023. No final de 2023, ainda durante a presidência espanhola da UE, existiam duas posições opostas sobre a regulamentação dos modelos fundacionais: (1) fazê-lo através de códigos de conduta sem um regime de sanções por incumprimento; ou (2) a inclusão de certas obrigações no próprio Regulamento IA, referindo-se principalmente à transparência, embora também relacionadas com os direitos de autor.

Nesta publicação do blog, vamos centrar a nossa atenção em algumas das alterações do Parlamento Europeu sobre modelos fundacionais e na forma como isso afeta a IA generativa.

Para começar, convém esclarecer brevemente três conceitos: IA de objetivo geral, modelos fundacionais e Chat GPT.

Considera-se que os sistemas de IA de uso geral são os concebidos para desempenhar funções de uso geral, como o reconhecimento de texto, imagem e voz, a geração de texto, áudio, imagem ou vídeo, a deteção de padrões, a resposta a perguntas ou a tradução. Estes sistemas não teriam sido possíveis sem a redução dos custos de armazenamento e processamento de grandes quantidades de dados (big data).

Os modelos fundacionais, por outro lado, são modelos de inteligência artificial treinados em grandes quantidades de dados e concebidos para produzir informações gerais de saída capazes de ser adaptados a uma grande variedade de tarefas. Não devemos relacionar os modelos fundacionais exclusivamente com a IA de objetivo geral: um modelo fundacional pode servir tanto para sistemas de IA de objetivo específico como para sistemas de IA de objetivo geral. No entanto, os modelos fundacionais que não sirvam para ferramentas de IA para fins gerais não seriam abrangidos pelo futuro Regulamento relativo à IA (alteração 101 do PE e considerando 60-G).

O ChatGPT colocou desafios sociais e jurídicos significativos, não só em termos de direitos de autor, mas também em termos de cibersegurança e proteção de dados pessoais. Este tema será, no entanto, discutido num texto separado. Por enquanto, vejamos o que o futuro do Regulamento IA pode reservar para os modelos fundacionais, se as alterações do Parlamento Europeu forem aceites.

Os princípios gerais dos sistemas de IA

A alteração 213 do Parlamento Europeu propõe a introdução de um novo artigo 4º-A relativo aos princípios gerais aplicáveis a todos os sistemas de IA. Trata-se, de certa forma, de um equivalente ao artigo 5.º do Regulamento Geral sobre a Proteção de Dados, relativo aos princípios aplicáveis ao tratamento de dados pessoais.

Nos termos do artigo 4.º-A, todos os operadores abrangidos pelo âmbito de aplicação do Regulamento IA devem envidar todos os esforços para desenvolver e utilizar sistemas ou modelos fundacionais em conformidade com os seguintes princípios, destinados a promover uma abordagem europeia coerente, centrada no ser humano, de uma IA ética e fiável:

– Intervenção humana e vigilância

– Robustez técnica e segurança

– Privacidade e governação dos dados

– Transparência (e explicabilidade)

– Diversidade, não discriminação e equidade

– Bem-estar social e ambiental

Estes seis princípios serão aplicáveis tanto aos sistemas de IA como aos modelos fundacionais. No entanto, no caso dos modelos fundacionais, devem ser cumpridos pelos fornecedores ou responsáveis pela aplicação em conformidade com os requisitos estabelecidos nos artigos 28.-B. Note-se que os artigos 28.º a 28.º-B fazem parte do Título III relativo aos sistemas de alto risco. Já salientámos no início que as últimas discussões na negociação do Regulamento no que se refere aos modelos fundacionais não os consideram sistemas de alto risco. O mesmo não parece resultar das alterações do Parlamento. Por conseguinte, deve entender-se que os modelos fundacionais serão regulados nas disposições que os mencionam expressamente, como é o caso do artigo 4º-A ou dos artigos 28º a 28º-B, mas não no Título III do RIA no seu conjunto.

O artigo 28.º do PRIA diz respeito às obrigações dos distribuidores, importadores, utilizadores e terceiros. As alterações do Parlamento propõem a substituição do título por “Responsabilidades ao longo da cadeia de valor da IA dos fornecedores, distribuidores, importadores, responsáveis pela aplicação ou terceiros”.  A referência a toda a cadeia de valor da IA é, na minha opinião, uma boa medida, uma vez que sublinha a importância de todo o processo de IA: não só o seu desenvolvimento, mas também a sua utilização. Tenho mais dúvidas em substituir a palavra “obrigações” por “responsabilidades” ou em incluir no título uma lista pormenorizada de todas as partes envolvidas.

A maior parte das obrigações relativas aos modelos fundacionais encontra-se no n.º 3 do artigo 28.º (novo, alteração 399), que se intitula “Obrigações do fornecedor de um modelo fundacional” (o termo “obrigações” é retomado aqui).

Podemos agrupar as obrigações do fornecedor de modelos fundacionais em três grupos:

– Obrigações anteriores à comercialização de modelos fundacionais (n.ºs 1 e 2). Estas obrigações aplicam-se ao fornecedor, independentemente de o modelo ser fornecido autonomamente ou integrado num sistema de IA ou noutro produto ou de ser fornecido ao abrigo de licenças gratuitas e de fonte aberta.

– Obrigações pós-comercialização (n.º 3), e

– Obrigações específicas relativas aos sistemas de IA generativa, ou seja, especificamente destinados a gerar conteúdos, como texto, imagem, áudio ou vídeo complexos (secção 4).

Obrigações anteriores à comercialização do modelo fundacional

De acordo com o art. 28.ter.2, o fornecedor de um modelo fundacional, antes de comercializar ou colocar o modelo em funcionamento, deve (tendo em conta o estado da arte num dado momento):

– Demonstrar a deteção, redução e mitigação de riscos razoavelmente previsíveis para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia ou o Estado de direito.

o Tal deve ser demonstrado através de uma conceção, testes e análises adequados e com a participação de peritos independentes.

o Deve também fornecer documentação sobre os riscos não mitigáveis remanescentes após o desenvolvimento.

– Só deve processar e incorporar conjuntos de dados sujeitos a medidas de governação adequadas para modelos fundacionais.

o Em particular: adequação das fontes, enviesamentos e atenuação adequada.

– Deve conceber e desenvolver o modelo

o de modo a atingir, ao longo do seu ciclo de vida, níveis adequados de desempenho, previsibilidade, interpretabilidade, correção, segurança e cibersegurança, avaliados por métodos adequados;

o utilizando as normas aplicáveis para reduzir o consumo de energia, a utilização de recursos e os resíduos, bem como para aumentar a eficiência energética e a eficiência global do sistema. A este respeito, devem ser desenvolvidos modelos fundacionais com capacidades para medir e registar o consumo de energia e de recursos e o impacto ambiental.

– Desenvolverá uma documentação técnica exaustiva e instruções de utilização inteligíveis.

– Estabelecer um sistema de gestão da qualidade para garantir e documentar a conformidade com todos os elementos acima referidos (responsabilidade proactiva).

– Registar o modelo básico na base de dados da UE para sistemas independentes de alto risco.

Obrigações pós-comercialização do modelo básico

Durante dez anos após o sistema de IA ter sido colocado no mercado ou em serviço, os fornecedores de modelos fundacionais devem manter a documentação técnica à disposição das autoridades nacionais competentes (Agência de Controlo da IA).

Obrigações específicas para os modelos de IA generativa

Para além das obrigações gerais estabelecidas no ponto 28.ter.2, os fornecedores de sistemas de IA generativa devem:

– Cumprir as obrigações de transparência do artigo 52.º, n.º 1 (obrigação de informar as pessoas que interagem com estes sistemas de que estão a interagir com um sistema de IA).

– Conceber e desenvolver o modelo de forma a garantir salvaguardas adequadas contra a produção de conteúdos que infrinjam a legislação da UE.

– Sem prejuízo da legislação em matéria de direitos de autor, devem documentar e disponibilizar publicamente um resumo suficientemente pormenorizado da utilização de dados de formação protegidos por direitos de autor.

Bónus: dois desafios colocados pela IA generativa

Termino este post partilhando duas preocupações (às quais os nossos leitores poderão responder): os desafios em matéria de propriedade intelectual colocados pela IA generativa e a possibilidade de considerar os modelos fundacionais como de alto risco.

Começo pela primeira, porque é mais ousada da minha parte: quando é que eu, uma pessoa singular, posso ser considerado autor de uma obra literária gerada através de IA generativa (Chat GPT, por exemplo)? Desenvolvo um pouco mais a minha preocupação: não é (ou não deveria ser) a mesma coisa para mim introduzir uma simples pergunta no Chat GPT, como “escreva a oitava parte do Harry Potter”, do que introduzir várias perguntas com um certo nível de complexidade (quanto?), nas quais introduzo certas características específicas do romance. Se aceitarmos que as ferramentas de IA não deixam de ser ferramentas tecnológicas (muito complexas, mas tecnológicas), talvez possamos concordar que se trata de um debate semelhante ao que surgiu na altura em torno da fotografia, que permite distinguir legalmente entre “fotografia (artística)” e “mera fotografia (carregar no botão da câmara)”. Outra questão, mais difícil, seria distinguir, em cada caso, quando as instruções introduzidas numa ferramenta de IA generativa nos permitem falar de utilização artística da IA generativa ou de “mera utilização” da IA generativa.

O segundo desafio é, de facto, abrangido pelo Regulamento IA, mas é importante referi-lo. Consiste na consideração dos modelos fundacionais como sendo de alto risco. O anexo III da proposta de Regulamento IA contém uma lista não fechada de sistemas de IA de alto risco. No entanto, não se deve esquecer que a Comissão teria (na proposta de Regulamento relativo à IA, artigo 7.º) teria poderes para adotar atos delegados que alterem o anexo III para acrescentar sistemas de IA que satisfaçam duas condições: destinar-se a ser utilizados em qualquer dos domínios enumerados nos pontos 1 a 8 do anexo (ou seja, identificação biométrica e categorização de pessoas singulares; gestão e funcionamento de infra-estruturas críticas; educação e formação profissional, emprego, gestão de trabalhadores e acesso ao trabalho independente; acesso e usufruto de serviços públicos e privados essenciais e seus benefícios; questões de aplicação da lei; gestão das migrações; asilo e controlo financeiro; administração da justiça e processos democráticos); comportar um risco de danos para a saúde e a segurança ou um risco de consequências negativas para os direitos fundamentais que seja equivalente ou superior aos riscos de danos associados aos sistemas de IA de alto risco já mencionados no Anexo III, tendo em conta vários critérios, tais como, entre outros, o objetivo pretendido do sistema de IA ou a probabilidade de este ser utilizado de uma determinada forma.

Deve uma IA generativa (que é um exemplo de um modelo fundamental) capaz de produzir vídeos destinados a perturbar os processos democráticos ser considerada de alto risco? Parece claro que sim, uma vez que estas utilizações estão enumeradas no ponto 8 do anexo III, quer se destinem especificamente a perturbar os processos democráticos quer sejam suscetíveis de ser utilizadas para o efeito. O que não é claro neste momento (teremos de aguardar a redação final do texto) é se será considerado de alto risco desde o início, ou apenas depois de a Comissão adotar o ato delegado correspondente para alargar o Anexo III. Por outras palavras, se este ato delegado da Comissão seria constitutivo ou meramente declarativo de que um sistema de AI é de alto risco.