Não se brinca com a saúde das crianças e adolescentes. Não é uma expressão “para o púlpito”, outro aviso típico do nosso tempo, quando toleramos passivamente que milhões de menores sejam expostos a plataformas digitais concebidas para capturar a sua vontade, manipular o seu comportamento e monetizar a sua fragilidade emocional na chamada “economia da atenção”.“.
Eu avisei sobre isso em um artigo de 2008 em um editorial jurídico intitulado “A geração Facebook»O que começou como uma ferramenta de interação social acabaria por se tornar um mecanismo de condicionamento comportamental em escala global. Ninguém ouviu, mais uma vez.
Atualmente, em particular, Instagram e Facebook estão de mãos dadas com outras redes sociais, eles agem como janelas do ego com falsa felicidade, enquanto falso), um afastamento assustador daquilo que outrora chamamos de “revolução horizontal” que prometia democratizar o mundo; todos os emissores, todos os heróis. Esse ideal é colonizado em seu pedigree por algoritmos que recompensam a agressão, a exposição extrema e a polarização. O resultado é um ecossistema que, longe de suscitar o debate público, se assemelha a um verdadeiro caixote do lixo digital.
Nesta contexto, no dia 25 de março, o Supremo Tribunal da RA O estado da Califórnia emitiu uma decisão histórica condenando a Meta Platforms Inc. e o YouTube por prejudicarem a saúde mental de uma jovem de 20 anos publicamente identificada como Kaylee, provando que ambas as empresas conceberam e operaram as suas plataformas para criar padrões de uso compulsivo desde tenra idade, com consequências diretas para a saúde mental da jovem.
A ação argumentou que algoritmos de recomendação, notificações Sistemas de reforço persistentes e intermitentes (gostos, visualizações, recompensas variáveis) foram deliberadamente concebidos para maximizar o tempo de ecrã, mesmo ao custo do vício, e o tribunal concluiu que esta não era apenas uma intervenção tecnológica, mas sim um design activo para atrair e reter utilizadores.
O acórdão, cuja análise técnica foge ao âmbito deste artigo, concluiu que, no caso em apreço, existe um nexo de causalidade suficiente entre o funcionamento das plataformas e os danos psicológicos sofridos, incluindo ansiedade grave, perturbações do sono e episódios depressivos. Em particular, foi sublinhado que as empresas têm provas internas dos efeitos nocivos dos seus produtos sobre os adolescentes e, apesar disso, continuaram a optimizar os seus sistemas de segurança. noivado sem aplicar salvaguardas eficazes. A sentença ordenou o pagamento de indemnizações substanciais e obrigou à adoção de medidas de transformação estrutural destinadas a mitigar a dependência digital.
Enquanto isso, um júri do Novo México indiciou Meta em 24 de março são responsáveis por enganar os usuários sobre a segurança de suas plataformas e colocar menores em risco. A decisão veio no caso Estado do Novo México v. Meta Platforms, Inc..– impôs uma multa legal máxima de US$ 5.000 por violação, arrecadando um total de US$ 375 milhões em violações de proteção ao consumidor. O veredicto não apenas reconhece os danos causados, mas também abre um precedente ao responsabilizar diretamente uma grande empresa de tecnologia pelo impacto de suas plataformas sobre crianças e adolescentes.
Nesta Neste cenário, o princípio do interesse superior da criança assume especial importânciaconsagrado no artigo 3.º da Convenção sobre os Direitos da Criança, que exige que qualquer decisão que os afecte deve ter como consideração principal a sua protecção abrangente.
Como argumenta Laura Victoria Bonhot num artigo recente, este princípio Não deve ser entendido apenas como um guia hermenêutico ou uma decisão judicial, mas como um verdadeiro critério norteador do design em ambientes digitais, obrigando as plataformas a anteciparem, avaliarem e mitigarem os riscos que sua arquitetura tecnológica representa para crianças e adolescentes. Nesta perspetiva, o interesse superior da criança deixa de ser uma declaração abstrata e passa a ser um padrão operacional que exige repensar a lógica dos algoritmos para incluir salvaguardas eficazes que priorizem o desenvolvimento, a saúde mental e a dignidade dos menores em detrimento do objetivo de maximização. noivado.
Destes considerações e do ponto de vista técnico-jurídico, ambos são precedentes são particularmente relevantes porque atribuem responsabilidade direta às plataformas, afastando-se da doutrina tradicional violação favorável ou responsabilidade indireta (indireta). Ou seja, eles são julgados não pelo que terceiros publicam, mas pela forma como projetam, constroem e operam seus sistemas.
Isto implica uma reinterpretação essencialmente restritiva Seção 230 (c)(1) da Lei de Decência nas Comunicações dos Estados Unidos de 1996, que historicamente concedeu imunidade aos provedores de serviços de informática (ISPs) contra conteúdo gerado pelo usuário. A mensagem é clara. quando o dano não decorre do conteúdo, mas do design algorítmico que o amplifica e direciona, a imunidade não existe.
Agora, por que a mídia social é viciante? A resposta não é intuitivaé científico. As razões sugerem. atuam nos circuitos dopaminérgicos do cérebro por meio de recompensas variáveis; cada “gosto” ou interação causa uma liberação de dopamina semelhante à produzida por certas substâncias como a cocaína. eles especulam os chamados medo de perder (medo de ficar de fora), por meio de notificações constantes que causam ansiedade antecipatória; eles usam torção infinito, eliminando pontos naturais de desconexão que permitiriam ao usuário se desconectar; promover uma “cultura de comparação” ter efeito permanente e imediato na autoestima, principalmente nos adolescentes; Eles personalizam o conteúdo com algoritmos que reforçam o preconceito e mantêm o usuário em uma bolha de incentivos altamente recompensadores, e introduzem elementos de validação social quantificáveis – seguidores, visualizações, métricas – que transformam a interação humana em competição constante.
Diante deste panorama, diversos países começaram a reagir. estados A Flórida desenvolveu regulamentos que restringem o acesso de menores às redes sociais sem o consentimento dos pais. Na Europa, o Regulamento Geral de Proteção de Dados (RGPD) estabelece padrões mais rigorosos para o tratamento de dados de menores, e países como a Austrália e a França exigem uma idade mínima para utilizar as redes sociais.
As conclusões não aceitam ambiguidades no nosso país neste momento. Por um lado, devemos ter uma política activa de consciência social que nos permita compreender a essência do problema, a par de reformas educativas que incluam necessariamente a literacia digital crítica, não como disciplina técnica, mas como ferramenta de autodefesa, para concluir com uma resposta legislativa concreta que defina responsabilidades claras, padrões de design seguros e mecanismos de reparação eficazes. É urgente que os legisladores tomem medidas sobre esta questão face a um problema que afecta o nosso tesouro mais precioso: os nossos filhos.
Porque o dano é visível. Redes sociais em sua configuração atualcausam transtornos de ansiedade, depressão, distúrbios do sono, déficits de atenção, isolamento social, distorções da imagem corporal, comportamento autolesivo e, nos casos mais extremos, suicídio. Estas não são hipóteses acadêmicas, mas realidades clínicas documentadas por psiquiatras e psicólogos de todo o mundo.
A história julgará esta época com severidade. E também aqueles que, podendo fazer alguma coisa, optaram por olhar para o outro lado porque o assunto “não estava na ordem do dia” ou porque praticaram o slogan “Avançar” em silêncio cúmplice, de mãos dadas com a advertência do direito romano.quem permanece em silêncio parece concordar”, que conclui que o silêncio não é neutro, mas se traduz na forma mais conveniente de covardia.
Advogado e Consultor de Direito Digital e Privacidade de Dados, Professor da UBA e da Faculdade de Direito da Universidade Australiana; Diretor do programa “Deepfakes and IGA” (Direito, UBA)
