Comércio a Retalho, E-commerce e Centros de Atendimento — Conformidade com o EU AI Act

Obrigações do EU AI Act para o comércio a retalho e centros de atendimento: divulgação de chatbots, transparência no reconhecimento de emoções, monitorização de colaboradores e IA orientada ao cliente. Cobre o Art. 50 e o Anexo III.

Comércio a Retalho, E-commerce e Centros de Atendimento ao abrigo do EU AI Act

O setor do comércio a retalho e do e-commerce é um utilizador de inteligência artificial de elevada intensidade. Desde o momento em que um cliente acede a um website, a IA determina quais os produtos apresentados, o preço praticado, as promoções destacadas e como são tratadas as consultas ao serviço de apoio ao cliente. Nos centros de atendimento, a IA orienta os agentes em tempo real, pontua as conversas e infere a emoção do cliente a partir de sinais de voz. O EU AI Act, em vigor desde 1 de agosto de 2024, com as principais obrigações de transparência aplicáveis a partir de 2 de fevereiro de 2025 e as obrigações de alto risco a partir de 2 de agosto de 2026, impõe um quadro de conformidade estruturado a este setor.

É fundamental que o AI Act não trate toda a IA do retalho de forma equivalente. O Regulamento estabelece uma distinção precisa entre sistemas sujeitos apenas a obrigações de transparência — a maioria da IA de retalho orientada ao consumidor — e sistemas classificados como de alto risco, que comportam o conjunto integral de obrigações: avaliação de conformidade, documentação técnica, sistemas de gestão de qualidade e requisitos de supervisão humana. Determinar qual a categoria aplicável a cada sistema implantado é a tarefa de conformidade fundamental para os operadores de retalho e centros de atendimento.

O setor é simultaneamente regido pelo RGPD, pela Diretiva dos Direitos dos Consumidores (2011/83/UE), pela Diretiva relativa às Práticas Comerciais Desleais (2005/29/CE), pelo Regulamento P2B (UE 2019/1150) e, para os centros de atendimento, pelos regimes nacionais de direito do trabalho em matéria de monitorização de trabalhadores. O AI Act acrescenta uma camada, mas não substitui estes quadros normativos existentes.

Obrigações de Transparência do Art. 50 — O Principal Nível de Conformidade

Para a maioria das implantações de IA no retalho e e-commerce, o Art. 50 do EU AI Act é a disposição operativa. As suas obrigações aplicam-se a partir de 2 de fevereiro de 2025 e não dependem de classificação de alto risco. O incumprimento pode ser sancionado independentemente do calendário de alto risco.

Divulgação de Chatbots e IA Conversacional — Art. 50(1)

O Art. 50(1) impõe uma obrigação de divulgação obrigatória a qualquer operador de um sistema de IA conversacional — um sistema concebido para interagir com seres humanos através de linguagem natural — para informar os utilizadores de que estão a interagir com uma IA, salvo se tal for evidente pelas circunstâncias.

No contexto do retalho, esta obrigação aplica-se a:

• Chatbots de website e bots de chat ao vivo — incluindo widgets de chat alimentados por modelos de linguagem de grande dimensão, chatbots baseados em regras com compreensão melhorada por IA e sistemas híbridos.
• Voicebots e IVR com IA — sistemas telefónicos automatizados que tratam consultas de entrada de clientes através de IA baseada em voz, incluindo sistemas de resposta vocal interativa melhorados por IA.
• Assistentes virtuais em aplicações — funções de ajuda alimentadas por IA integradas em aplicações de retalho, aplicações de programas de fidelização ou aplicações adjacentes à banca oferecidas por retalhistas.
• Bots de atendimento ao cliente em redes sociais — agentes de IA que respondem a mensagens no WhatsApp, Instagram ou Messenger em nome de um retalhista.

A isenção por «obviedade pelas circunstâncias» é restrita. Um chatbot com o nome «Emma» ou descrito como «assistente virtual» não satisfaz o limiar exigido. Um cabeçalho que indique «Está agora a falar com um sistema de IA automatizado — não existe nenhum agente humano envolvido» seria suficiente. Os retalhistas não podem basear-se na inferência do consumidor — a divulgação deve ser explícita, efetuada no momento da primeira interação ou antes dela, e apresentada de forma compreensível para o consumidor comum.

A obrigação recai sobre o operador — o retalhista ou operador do centro de atendimento — e não exclusivamente sobre o fornecedor de tecnologia. As disposições contratuais que transferem a responsabilidade de divulgação para o fornecedor não isentam o operador da sua obrigação regulatória.

Divulgação do Reconhecimento de Emoções — Art. 50(2)

O Art. 50(2) exige que qualquer pessoa exposta a um sistema de reconhecimento de emoções seja informada do seu funcionamento. Um sistema de reconhecimento de emoções é um sistema de IA que infere estados emocionais a partir de sinais fisiológicos ou comportamentais — expressões faciais, tom de voz, ritmo de fala, escolha de palavras ou micro-expressões.

No setor do retalho e dos centros de atendimento, esta obrigação aplica-se a:

• Análise de sentimento dos clientes em chamadas — IA que analisa as características acústicas ou linguísticas da voz de um cliente para inferir frustração, satisfação ou estado emocional durante uma interação com o centro de atendimento. O cliente deve ser informado de que esta análise está a ocorrer.
• Análise de clientes em loja — sistemas de câmaras com IA que tentam inferir a emoção ou atenção do comprador a partir de expressões faciais. Quando o sistema corresponde à definição de reconhecimento de emoções, é exigida divulgação em loja.
• Análise de voz dos agentes — análise de sentimento ou emoção aplicada à própria voz do agente do centro de atendimento (abordada mais adiante na secção de monitorização de trabalhadores).

A divulgação deve ser efetuada antes de o sistema de reconhecimento de emoções começar a processar. Nos canais telefónicos, tal exige tipicamente um anúncio por IVR ou notificação verbal no início da chamada. O silêncio — incluindo mensagens áudio que apenas façam referência à gravação de chamadas sem mencionar a análise de emoções por IA — não satisfaz a obrigação do Art. 50(2).

Meios de Comunicação Sintéticos Gerados por IA — Art. 50(4)

O Art. 50(4) exige que os meios de comunicação gerados por IA ou manipulados por IA — imagens, vídeo e áudio — sejam identificados como artificialmente gerados ou manipulados quando existe o risco de os utilizadores os considerarem autênticos.

As aplicações específicas do retalho abrangidas incluem:

• Imagens de produtos geradas por IA: imagens de produtos, divisões ou cenários de estilo de vida produzidas por IA generativa e apresentadas como fotografia autêntica em listagens de produtos ou publicidade.
• Vídeo promocional gerado por IA: vídeos de marca, conteúdo em estilo de testemunho ou materiais de marketing cujo conteúdo visual ou áudio é substancialmente gerado por IA.
• Narração de voz gerada por IA ou clonada por IA utilizada em demonstrações de produtos, conteúdo de marca ou comunicações com clientes.
• IA de experimentação virtual que gera imagens sintéticas de um cliente a usar ou a utilizar um produto — quando o resultado é apresentado como uma representação fiel.

A obrigação de identificação não exige que a origem na IA seja dissimulada para acionar a conformidade — o critério é se um consumidor poderia razoavelmente confundir o conteúdo com fotografia ou vídeo autêntico. A omissão da identificação cria também exposição ao abrigo da Diretiva relativa às Práticas Comerciais Desleais (2005/29/CE), que proíbe a utilização de conteúdo editorial para promover produtos sem indicar claramente que se trata de conteúdo pago ou produzido artificialmente.

IA de Monitorização de Trabalhadores em Centros de Atendimento — Classificação de Alto Risco

Os centros de atendimento implantam habitualmente IA para monitorizar, pontuar, avaliar e orientar os agentes em tempo real. Quando estes sistemas entram no âmbito da categoria 4 do Anexo III, aplicam-se integralmente as obrigações de alto risco.

IA de Coaching de Agentes e Orientação em Tempo Real

A IA de coaching de agentes em tempo real — sistemas que monitorizam chamadas ao vivo e fornecem aos agentes orientação durante a chamada, guiões, avisos de conformidade ou feedback sobre o estado emocional — situa-se na interseção das cat 4(b) e cat 4(c). Quando o sistema monitoriza o cumprimento pelo agente das suas obrigações contratuais (normas de tratamento de chamadas, guiões regulatórios), aplica-se a cat 4(b). Quando infere o estado emocional ou comportamental do agente e gera alertas ou sinalizações de desempenho a partir dessa inferência, aplica-se a cat 4(c).

Ambas as subcategorias acionam o conjunto integral de obrigações de alto risco:

• Sistema de gestão de riscos nos termos do Art. 9: identificação, avaliação e mitigação contínuas dos riscos para os agentes e para os clientes que interagem com o sistema.
• Governação de dados nos termos do Art. 10: os conjuntos de dados de treino devem ser pertinentes, representativos e geridos de forma a minimizar o viés discriminatório.
• Documentação técnica nos termos do Art. 11 e Anexo IV: documentação abrangente do design do sistema, finalidade prevista, limitações, métricas de desempenho e resultados de testes.
• Transparência perante os operadores nos termos do Art. 13: os fornecedores devem fornecer instruções de utilização que incluam informações sobre as limitações do sistema, condições de operação e riscos previsíveis.
• Supervisão humana nos termos do Art. 14: os operadores devem designar indivíduos com autoridade, competência e disponibilidade para intervir ou substituir os resultados do sistema.
• Precisão e robustez nos termos do Art. 15: os sistemas devem funcionar de forma fiável dentro dos parâmetros declarados.

IA de Pontuação de Qualidade e Avaliação de Desempenho

Os sistemas de IA que atribuem pontuações de qualidade às chamadas, geram classificações de desempenho dos agentes ou produzem resultados utilizados em processos de avaliação, determinação de bónus ou de despedimento enquadram-se na cat 4(b) do Anexo III enquanto sistemas utilizados para decisões sobre promoção, afetação de tarefas ou monitorização de obrigações contratuais. As obrigações de alto risco aplicam-se integralmente.

Os operadores devem adicionalmente cumprir o requisito de divulgação do Art. 50(2) para os agentes sujeitos a componentes de reconhecimento de emoções nesses sistemas — independentemente do calendário de conformidade de alto risco.

Obrigações de Direito do Trabalho Nacional

A IA de monitorização de trabalhadores em centros de atendimento aciona direitos nacionais de cogestão e de consulta de forma independente do AI Act. Na Alemanha, o §87(1) n.º 6 da Betriebsverfassungsgesetz confere aos conselhos de trabalhadores direitos vinculativos de cogestão sobre dispositivos técnicos de monitorização; os sistemas de monitorização por IA requerem acordo do conselho de trabalhadores antes da implantação. Direitos equivalentes aplicam-se nos Países Baixos (WOR Art. 27), na Áustria (ArbVG §96) e em França (Code du Travail L. 2312-38). Estas obrigações não podem ser adiadas até ao prazo de 2026 do AI Act para sistemas de alto risco.

IA Orientada ao Cliente Que Não É de Alto Risco

Uma parte significativa da IA do retalho não é classificada como de alto risco ao abrigo do Anexo III. As seguintes categorias não estão expressamente enumeradas no Anexo III e não requerem avaliação de conformidade ao abrigo do AI Act:

• Motores de recomendação de produtos — IA que personaliza sugestões de produtos com base no histórico de navegação, padrões de compra ou filtragem colaborativa.
• Sistemas de preços dinâmicos — IA que ajusta os preços em tempo real com base na procura, inventário, preços da concorrência ou segmentos de consumidores.
• Previsão de procura para gestão de inventário — IA que prevê necessidades de stock ao nível de SKU ou categoria.
• Modelos de previsão de abandono de clientes — IA que pontua a probabilidade de abandono de clientes para orientação de campanhas de retenção.
• Personalização de pesquisa — IA que reordena os resultados de pesquisa em websites de retalho com base em sinais individuais ou de grupo.
• Deteção de fraude em devoluções — IA que pontua os pedidos de devolução quanto a potencial fraude, quando o resultado alimenta um processo de decisão sujeito a revisão humana.

Estes sistemas ficam não obstante sujeitos ao RGPD quando envolvem a criação de perfis individuais de clientes. A análise comportamental, a agregação do histórico de compras e o rastreio entre sites requerem uma base jurídica ao abrigo do Art. 6.º do RGPD — tipicamente interesse legítimo (exigindo um teste de ponderação documentado) ou consentimento. Quando a criação de perfis produz decisões com efeitos significativos para os consumidores individuais — por exemplo, a suspensão de uma conta de cliente com base numa pontuação de fraude — pode aplicar-se o Art. 22.º do RGPD, exigindo revisão humana das decisões automatizadas.

O Regulamento P2B (UE 2019/1150) impõe requisitos de transparência aos algoritmos de classificação utilizados em mercados em linha e ferramentas de comparação — os operadores devem divulgar os principais parâmetros que determinam a classificação e a importância relativa desses parâmetros. A classificação baseada em IA não está isenta.

Defesa do Consumidor e a Diretiva relativa às Práticas Comerciais Desleais

As práticas comerciais impulsionadas por IA no retalho criam exposição adicional ao abrigo da Diretiva relativa às Práticas Comerciais Desleais (2005/29/CE), em particular na sequência das alterações introduzidas pela Diretiva Omnibus, em vigor nos Estados-Membros a partir de 2022:

• Avaliações falsas geradas por IA: a UCPD, tal como alterada, proíbe expressamente a submissão de avaliações falsas de consumidores e a utilização de serviços de curadoria de avaliações que não divulguem o envolvimento de IA. As avaliações de produtos geradas por IA submetidas como avaliações autênticas de consumidores são ilícitas.
• Preços personalizados sem divulgação: quando um retalhista utiliza IA para apresentar preços individualmente adaptados a consumidores específicos com base em perfis, a UCPD alterada exige a divulgação do facto da personalização quando um consumidor se depara com um preço personalizado.
• Personalização manipuladora: o Art. 5.º do EU AI Act proíbe os sistemas de IA que utilizem técnicas subliminares ou explorem vulnerabilidades para distorcer o comportamento dos consumidores. A personalização agressiva que visa consumidores em momentos de vulnerabilidade cognitiva ou que explora estados emocionais inferidos a partir de dados de interações anteriores pode constituir uma prática proibida.
• Descrições enganosas geradas por IA: descrições de produtos, especificações ou alegações comparativas geradas por IA que sejam imprecisas ou fabricadas — incluindo especificações alucinadas em conteúdo de produtos gerado por LLM — podem constituir práticas comerciais enganosas ao abrigo da UCPD.

Autoridades de Fiscalização e Sanções

A aplicação das obrigações do AI Act no setor do retalho é distribuída por várias autoridades competentes:

• Autoridades nacionais de supervisão da IA: designadas ao abrigo da legislação de implementação do AI Act de cada Estado-Membro. São as autoridades primárias para violações de transparência do Art. 50 e para infrações à conformidade de alto risco.
• Autoridades de defesa do consumidor: as agências nacionais de defesa do consumidor e a rede BEUC serão particularmente ativas na monitorização da divulgação de chatbots, identificação de conteúdo gerado por IA e práticas de IA adjacentes à UCPD. A Rede de Cooperação para a Defesa do Consumidor (CPC) permite a aplicação coordenada entre Estados-Membros.
• Autoridades de Proteção de Dados: mantêm competência de fiscalização concorrente ao abrigo do RGPD para a criação de perfis de clientes, tomada de decisões automatizadas e incidentes de tratamento de dados biométricos.
• Inspeções do trabalho: nos Estados-Membros com regimes de inspeção laboral robustos — França (DREETS), Alemanha (Gewerbeaufsicht) e Espanha (Inspección de Trabajo) — a monitorização de trabalhadores por IA que viole o direito laboral ou as obrigações de cogestão está sujeita a investigação independente dos procedimentos do AI Act.

Exposição a sanções ao abrigo do AI Act: as violações das obrigações de transparência do Art. 50 acarretam coimas até 15 milhões de euros ou 3% do volume de negócios anual global, consoante o valor mais elevado. As violações de práticas proibidas (Art. 5.º) acarretam coimas até 35 milhões de euros ou 7% do volume de negócios anual global. As coimas do RGPD aplicam-se cumulativamente. Para os grandes operadores de e-commerce com receitas globais, o limite de 7% representa uma exposição financeira substancial.

Roteiro de Conformidade para Retalhistas e Operadores de Centros de Atendimento

Um programa estruturado de conformidade com o AI Act para o setor do retalho deve abordar os seguintes pontos por ordem sequencial:

1. Inventário de sistemas de IA: catalogar todas as ferramentas de IA em utilização nos canais orientados ao cliente (website, aplicação, telefone, redes sociais), nas funções de marketing e merchandising (preços, recomendações, geração de conteúdo) e nas operações dos centros de atendimento (coaching, pontuação, monitorização). Para cada sistema, determinar se se trata de uma ferramenta de uso geral, um sistema sujeito a obrigação de transparência ou potencialmente de alto risco.

2. Auditoria de divulgação de chatbots e voicebots: rever todas as implantações de IA conversacional quanto à conformidade com o Art. 50(1). Verificar se a divulgação é explícita, efetuada na primeira interação e não assenta na inferência do consumidor. Atualizar o texto da interface de chat, os guiões de IVR e a linguagem do centro de ajuda em conformidade.

3. Mapeamento do reconhecimento de emoções: identificar todos os sistemas — orientados ao cliente e ao agente — que inferem estados emocionais ou afetivos. Implementar as notificações do Art. 50(2) para todos os sistemas abrangidos. Para os sistemas orientados ao agente, avaliar a classificação cat 4 do Anexo III e iniciar o planeamento da conformidade de alto risco.

4. Auditoria de meios de comunicação sintéticos: auditar todos os ativos de marketing, imagens de produtos e conteúdo de marca quanto a componentes gerados por IA. Implementar um fluxo de trabalho de identificação ao abrigo do Art. 50(4) — assegurando que o conteúdo gerado ou manipulado é identificado antes da publicação.

5. Diligência devida sobre IA nos centros de atendimento: para cada fornecedor de IA que preste ferramentas de coaching, pontuação ou monitorização, solicitar confirmação da classificação ao abrigo do Anexo III, do estatuto de marcação CE (a partir de 2 de agosto de 2026) e das instruções de utilização. Iniciar a consulta do conselho de trabalhadores ou os procedimentos de cogestão ao abrigo da legislação nacional aplicável.

6. Revisão da criação de perfis ao abrigo do RGPD: realizar uma auditoria da base jurídica ao abrigo do RGPD para as atividades de criação de perfis de clientes. Quando se invoca o interesse legítimo, documentar e manter registos do teste de ponderação. Atualizar os avisos de privacidade para refletir as práticas de criação de perfis baseadas em IA.

7. Verificação de conformidade com a UCPD: rever a divulgação de preços personalizados, as práticas de geração de avaliações e os fluxos de trabalho de conteúdo gerado por IA em função dos requisitos da UCPD, incluindo as alterações da Diretiva Omnibus tal como transpostas nos Estados-Membros relevantes.

8. Resposta a incidentes e governação: estabelecer a propriedade da governação da IA — tipicamente abrangendo as funções jurídica, DPO, de conformidade e digital/tecnológica — com procedimentos de escalada documentados para incidentes que envolvam violações do Art. 50 ou reclamações de trabalhadores relacionadas com a monitorização por IA.

Os retalhistas e operadores de centros de atendimento que integraram cedo a IA nos seus fluxos de trabalho orientados ao cliente e operacionais enfrentam a maior superfície de conformidade. As obrigações de transparência do Art. 50 já são aplicáveis; as obrigações de alto risco para a IA de monitorização de trabalhadores requerem uma preparação ao nível do programa antes de 2 de agosto de 2026.