UE alerta para os riscos de priorizar a velocidade em vez da segurança

A União Europeia (UE) demonstrou preocupação com a pressão competitiva no mercado de inteligência artificial e seus possíveis impactos na segurança. Em uma cúpula internacional realizada em Dublin, a comissária europeia para o Digital, Henna Virkkunen, alertou que a disputa entre empresas pode comprometer o tempo e os recursos destinados aos testes dos modelos e à avaliação de seus riscos.

Imagem/reprodução: divulgação

A Comissão Europeia também solicitou informações a empresas do setor sobre suas medidas de segurança, proteção e avaliação externa. A preocupação está relacionada ao AI Act, legislação europeia que estabelece obrigações para diferentes agentes da cadeia de inteligência artificial, conforme o tipo de sistema e os riscos envolvidos.

A preocupação europeia com a segurança da inteligência artificial

A rápida evolução da inteligência artificial tem intensificado a concorrência entre empresas que desenvolvem modelos e sistemas cada vez mais avançados. Nesse cenário, autoridades europeias passaram a chamar atenção para um possível desequilíbrio entre a velocidade de lançamento das tecnologias e o tempo necessário para testar seus comportamentos, identificar vulnerabilidades e avaliar riscos.

Durante uma cúpula internacional de inteligência artificial realizada em Dublin, a vice-presidente da Comissão Europeia e comissária para o Digital, Henna Virkkunen, afirmou que a concorrência global pode levar empresas a dedicar recursos insuficientes à avaliação de seus modelos. Ela também destacou a preocupação com incidentes nos quais sistemas com agentes de IA teriam realizado ações que seus próprios desenvolvedores não conseguiam compreender ou controlar plenamente.

A discussão não significa que todo sistema de inteligência artificial seja necessariamente inseguro. O ponto central é que, à medida que as ferramentas se tornam mais complexas e passam a executar tarefas com maior autonomia, torna-se essencial avaliar não apenas seu desempenho, mas também suas limitações, os efeitos de erros e os mecanismos de supervisão disponíveis.

A Comissão Europeia informou ter solicitado esclarecimentos a empresas do setor sobre as medidas de segurança e proteção adotadas e sobre os procedimentos de avaliação externa. A iniciativa se insere no contexto da implementação do Regulamento Europeu de Inteligência Artificial, conhecido como AI Act, que estabelece obrigações para diferentes participantes do ecossistema de IA.

O que é o AI Act e por que ele importa?

O AI Act é o regulamento da União Europeia criado para estabelecer um quadro jurídico comum para o desenvolvimento, a disponibilização e a utilização de inteligência artificial. Seu modelo regulatório considera os riscos associados aos sistemas e prevê obrigações distintas de acordo com sua natureza e finalidade.

Isso significa que não existe uma única obrigação indistintamente aplicável a todas as ferramentas de IA. Os deveres variam conforme fatores como o papel desempenhado pela organização, a categoria do sistema e os riscos envolvidos. Algumas utilizações estão sujeitas a exigências específicas, enquanto determinadas práticas são proibidas e outras seguem obrigações de transparência, documentação ou supervisão.

O regulamento também trata dos modelos de inteligência artificial de propósito geral, que podem ser integrados a diferentes aplicações. Para esses modelos, há exigências relacionadas à documentação técnica, à política de conformidade com as normas europeias de direitos autorais e à publicação de um resumo suficientemente detalhado dos conteúdos utilizados no treinamento. Modelos classificados como de risco sistêmico estão sujeitos a obrigações adicionais, incluindo avaliação e mitigação de riscos, comunicação de incidentes graves e medidas de cibersegurança.

Essas regras são particularmente relevantes porque muitos sistemas utilizados pelas empresas não são desenvolvidos integralmente por elas. Uma marca pode contratar uma plataforma externa para criar imagens, automatizar tarefas, organizar estoques ou personalizar ofertas. Nesse caso, é necessário compreender quais responsabilidades pertencem ao fornecedor e quais permanecem com a empresa que integra ou utiliza a tecnologia.

A aplicação do AI Act depende dos critérios previstos no próprio regulamento, inclusive de seu alcance territorial e da função desempenhada por cada agente. Portanto, uma empresa brasileira não deve presumir que todas as disposições europeias se aplicam automaticamente a qualquer utilização de IA. É preciso analisar as atividades concretas, a relação com o mercado europeu e as demais circunstâncias relevantes.

Como a inteligência artificial está transformando a indústria da moda?

A inteligência artificial vem sendo utilizada em diversas etapas do negócio da moda. Na criação, ferramentas generativas podem auxiliar no desenvolvimento de referências visuais, estampas, conceitos de coleção e protótipos. No marketing, podem apoiar a produção de imagens, vídeos, textos e campanhas. No varejo, podem contribuir para previsões de demanda, recomendações de produtos e atendimento ao consumidor.

Essas aplicações podem ampliar a produtividade e oferecer novas possibilidades criativas, especialmente para marcas que precisam desenvolver conteúdo com rapidez. Entretanto, a facilidade de gerar materiais não elimina as questões jurídicas relacionadas à sua origem, utilização e divulgação.

Uma campanha produzida com auxílio de IA pode envolver fotografias de referência, ilustrações, obras protegidas, marcas de terceiros ou características identificáveis de pessoas. O resultado final deve ser analisado considerando os direitos envolvidos e a forma como o material será utilizado comercialmente.

Também é importante diferenciar o uso de uma ferramenta como apoio criativo da delegação de decisões relevantes a um sistema automatizado. Quanto maior a autonomia da tecnologia e o impacto de suas decisões, mais importante se torna compreender suas limitações, definir mecanismos de supervisão e estabelecer procedimentos para identificar e corrigir falhas.

Para o Direito da Moda, o desafio está em permitir que a inovação seja aproveitada sem ignorar os direitos dos criadores, dos profissionais retratados, dos consumidores e dos demais participantes da cadeia produtiva.

Direitos autorais: quem pode ser afetado por imagens geradas por IA?

Um dos principais pontos de atenção é a relação entre inteligência artificial e propriedade intelectual. Sistemas generativos podem produzir imagens, estampas, textos e outros conteúdos com base em padrões aprendidos durante seu treinamento. Isso levanta discussões sobre a utilização de obras protegidas no desenvolvimento dos modelos e sobre possíveis conflitos envolvendo os resultados gerados.

Na União Europeia, o AI Act prevê obrigações de conformidade com a legislação de direitos autorais para fornecedores de modelos de IA de propósito geral, incluindo a adoção de políticas específicas e a publicação de resumos dos conteúdos utilizados no treinamento. Essas exigências não resolvem, por si só, todas as controvérsias sobre direitos autorais, mas fazem parte do esforço regulatório para ampliar a transparência e a responsabilidade dos fornecedores.

No setor da moda, a questão pode surgir quando uma empresa utiliza IA para criar uma estampa semelhante à obra de um artista, desenvolver uma campanha que reproduz elementos distintivos de uma criação preexistente ou produzir imagens com referências visuais muito próximas às de uma marca concorrente.

A semelhança estética, isoladamente, não permite concluir automaticamente que houve infração. A análise depende dos elementos reproduzidos, dos direitos existentes, das circunstâncias da criação e do uso comercial do resultado. Ainda assim, a utilização de ferramentas generativas não elimina a necessidade de avaliar os riscos de violação de direitos de terceiros.

Marcas e agências podem adotar procedimentos preventivos, como documentar o processo criativo, verificar a origem dos materiais fornecidos às ferramentas, revisar os resultados antes da publicação e estabelecer regras internas para o uso de conteúdos de terceiros. Essas medidas ajudam a reduzir riscos, embora não garantam, por si só, que toda utilização seja juridicamente válida.

Direito de imagem e campanhas produzidas com inteligência artificial

Outra questão importante é a utilização da aparência de modelos, influenciadores e outras pessoas em conteúdos criados ou modificados por IA. A tecnologia permite produzir imagens sintéticas, alterar fotografias e gerar representações realistas de indivíduos, inclusive em situações nas quais eles não participaram de uma sessão fotográfica.

Na indústria da moda, em que a imagem tem valor comercial significativo, essas possibilidades exigem atenção especial. O fato de uma imagem ser produzida digitalmente não significa que o uso da aparência de uma pessoa esteja automaticamente autorizado.

No Brasil, o direito à imagem é protegido pela Constituição Federal e pelo Código Civil. A utilização comercial da imagem de alguém deve ser avaliada à luz das normas aplicáveis, das autorizações concedidas e das circunstâncias concretas. A autorização para participar de uma campanha tradicional, por exemplo, não deve ser presumida como uma permissão irrestrita para criar versões sintéticas da pessoa ou utilizar sua aparência em contextos diferentes daqueles negociados.

Os contratos entre marcas, modelos, influenciadores, fotógrafos e agências precisam acompanhar essas transformações. Quando houver utilização de IA, pode ser necessário definir se a tecnologia poderá modificar imagens, gerar versões alternativas, criar representações digitais ou reutilizar materiais em campanhas futuras.

Também convém esclarecer quem aprova o conteúdo final, quais usos estão autorizados, por quanto tempo os materiais poderão ser explorados e quais procedimentos serão adotados caso surja uma utilização não autorizada. Essas definições ajudam a evitar conflitos e a proteger os interesses de todos os envolvidos.

Segurança, dados pessoais e responsabilidade das marcas

A preocupação europeia com a segurança da IA também tem reflexos para as empresas que utilizam essas ferramentas, mesmo quando não desenvolvem seus próprios modelos. Aplicativos de atendimento, sistemas de recomendação e plataformas de análise de comportamento podem processar informações sobre clientes, empregados e fornecedores.

Antes de adotar uma ferramenta, a empresa precisa compreender quais dados serão coletados, para quais finalidades serão utilizados, onde serão armazenados e com quem poderão ser compartilhados. Também é necessário avaliar as medidas de segurança oferecidas pelo fornecedor e os riscos decorrentes de acessos indevidos, vazamentos ou utilização incompatível com a finalidade informada.

No Brasil, a Lei Geral de Proteção de Dados Pessoais (LGPD) estabelece regras para o tratamento de dados pessoais e exige medidas de segurança compatíveis com os riscos. A utilização de inteligência artificial não afasta essas obrigações. Se uma marca utiliza informações de consumidores para personalizar ofertas, por exemplo, deve avaliar a base legal do tratamento, a transparência das práticas e os direitos dos titulares.

Além disso, quando uma ferramenta pode gerar recomendações ou decisões que afetem pessoas, a empresa deve compreender como o sistema funciona e quais mecanismos existem para identificar resultados inadequados. O grau de supervisão necessário depende da aplicação e dos riscos envolvidos, mas a contratação de um fornecedor externo não elimina automaticamente as responsabilidades que cabem à organização usuária.

Na prática, isso reforça a importância de políticas internas para utilização de IA, avaliação de fornecedores, controle de acessos e resposta a incidentes. A governança tecnológica precisa estar alinhada às obrigações jurídicas da empresa e à natureza dos dados e das atividades envolvidas.

O que marcas e profissionais da moda devem fazer?

O debate europeu evidencia a importância de incorporar a análise jurídica ao processo de adoção da inteligência artificial. Não basta verificar se uma ferramenta produz resultados visualmente atraentes ou reduz custos. Também é necessário compreender seus limites, as condições de utilização, os direitos envolvidos e os riscos que podem surgir durante a operação.

Para marcas e agências, uma política interna de IA pode estabelecer quais ferramentas estão autorizadas, que tipos de informação podem ser inseridos nelas e quais materiais precisam de revisão antes de serem publicados. O documento também pode definir procedimentos para verificar direitos autorais e de imagem, preservar informações confidenciais e registrar a participação de profissionais humanos nos processos criativos.

Os contratos com fornecedores de tecnologia devem ser examinados com o mesmo cuidado. É importante compreender como os dados serão tratados, quais garantias de segurança são oferecidas, quem será responsável por corrigir falhas e quais condições se aplicam ao uso dos resultados gerados. Em projetos criativos, a titularidade e as permissões de exploração comercial também devem ser definidas de acordo com a legislação e os termos negociados.

A revisão humana é outro elemento relevante. Em campanhas e materiais comerciais, profissionais responsáveis devem avaliar se o conteúdo final contém erros, informações enganosas, representações indevidas ou elementos que possam violar direitos de terceiros. A rapidez da geração automatizada não substitui a necessidade de análise crítica.

Essas medidas não significam que as empresas devam evitar a inteligência artificial. O objetivo é permitir que a tecnologia seja utilizada de maneira responsável, com critérios proporcionais aos riscos e compatíveis com a realidade de cada negócio.

O papel do Fashion Law na era da inteligência artificial

O Direito da Moda acompanha as transformações da indústria e as relações jurídicas que surgem com novas formas de criar, produzir, divulgar e comercializar produtos. Com a expansão da inteligência artificial, esse campo passa a dialogar cada vez mais com a propriedade intelectual, o direito de imagem, a proteção de dados, os contratos de tecnologia e a responsabilidade na comunicação comercial.

A preocupação da União Europeia mostra que a segurança e a supervisão dos sistemas de IA se tornaram temas centrais para empresas e autoridades. Na moda, essas discussões aparecem de maneira concreta quando uma marca utiliza imagens geradas artificialmente, contrata uma plataforma automatizada ou incorpora dados de consumidores a sistemas de recomendação.

O desafio é equilibrar inovação e responsabilidade. Uma estratégia jurídica bem estruturada permite avaliar riscos antes que eles se transformem em conflitos, esclarecer obrigações entre parceiros e estabelecer critérios para o uso comercial de conteúdos e tecnologias.

A inteligência artificial pode abrir novas possibilidades para designers, marcas, agências e profissionais criativos. Para que esses benefícios sejam sustentáveis, porém, a velocidade da inovação precisa estar acompanhada de segurança, transparência e respeito aos direitos envolvidos.

Se você ou a sua marca está enfrentando situações relacionadas à propriedade intelectual, contratos, cópia de produtos, concorrência desleal ou demais questões envolvendo a indústria da moda, entre em contato com o Carolina Lago Advocacia através do link: https://wa.me/message/NEZI63N53Y5UK1 e fale com um especialista.

Para acompanhar matérias como esta, assine a nossa newsletter e receba diariamente notícias e atualizações exclusivas sobre Fashion Law: https://www.juridicofashion.com/newsletter-jurídico-fashion