As principais empresas de tecnologia de hoje exercem enorme influência social e política em todo o mundo, a ponto de suas ações e o conteúdo que hospedam serem frequentemente vistos como um desafio direto à soberania nacional e às normas e estruturas de poder que sustentam os estados. Em regiões e países tão variados como Europa , China , Estados Unidos , Austrália e Rússia , os governos estão propondo e – no caso da China, Rússia e Austrália – implementando regulamentos que pretendem proteger o interesse nacional impondo novas taxas sobre o maiores jogadores online. Sua eficácia em termos econômicos ou sociais é incerta, e seu impacto sobre os direitos tem sido fortemente criticado pela sociedade civil.
As revoluções industriais de qualquer tipo têm implicações reais e graves para o desenvolvimento econômico, a segurança nacional, a coesão social e os direitos humanos, e a que estamos vivenciando agora – apelidada de “ a Quarta Revolução Industrial ” pelo Fórum Econômico Mundial – apresenta riscos ainda maiores nesse sentido, dada a velocidade e a escala em que aplicativos e sistemas digitais podem ser implantados além das fronteiras tradicionais. O domínio das empresas digitais e os usos que seus serviços estão sendo feitos também estão criando riscos que vão desde fomentar o extremismo na Síria , até mudar a participação democrática no Quênia , incitar a violência genocida em Mianmar e a disseminação global de desinformação sobre saúde .
Como apontamos em nosso relatório recente , “Interoperável, ágil e equilibrado: repensando a política tecnológica e a governança para o século 21”, mudanças estruturais nas fontes e detentores do poder econômico, social e político — e as ameaças urgentes que acompanham essas mudanças — sugere a necessidade de novas formas de regulamentação e governança que garantam que valores sociais comuns sobrevivam e prosperem. Mais importante ainda, valores como justiça, inclusão e responsabilidade precisam ser consciente e cuidadosamente construídos em nossos sistemas de governança e nas próprias tecnologias para garantir que seus riscos diretos para os usuários e externalidades negativas para outros sejam bem administrados.
No passado, os governos levaram décadas após a adoção popular de novas tecnologias para avaliar as externalidades associadas e desenvolver e aplicar políticas apropriadas para mitigá-las. O automóvel tinha quase 100 anos e era responsável pela morte de mais de 50.000 americanos um ano antes de a segurança no trânsito ser levada a sério no nível federal nos Estados Unidos em 1970. No entanto, os formuladores de políticas hoje enfrentam desafios maiores do que seus antecessores, pois procuram gerenciar os impactos de tecnologias complexas e em rápida evolução que tendem a ser desenvolvidas e cuidadosamente guardadas por empreendedores. Como a ex-secretária de Estado dos EUA, Madeline Albright , coloca, “os cidadãos estão falando com seus governos usando tecnologias do século 21, os governos estão ouvindo a tecnologia do século 20 e fornecendo soluções do século 19”.
Essa lacuna geracional é difícil de superar porque três desafios críticos bloqueiam aqueles que buscam fazer políticas hoje. Uma infinidade de jurisdições e abordagens levou à fragmentação regulatória entre cidades, regiões e países, o que reduz drasticamente a utilidade da ação, ao mesmo tempo em que cria ônus para possíveis concorrentes de plataformas digitais. Os dados necessários para entender completamente a extensão dos problemas sociais são controlados pelas próprias empresas suspeitas de criá-los, deixando os formuladores de políticas com falta de dados para informar suas ações. E a confiança dos países e seus cidadãos nos serviços das mesmas empresas de tecnologia que eles gostariam de influenciar levou a menos graus de liberdade.
Como é, então, a política e a governança tecnológica do século 21 ?Essencialmente, os formuladores de políticas precisam estar equipados com um novo conjunto de ferramentas que ajudem a enfrentar esses desafios.
Primeiro, precisamos de abordagens de formulação de políticas mais transparentes e holísticas que comuniquem claramente os objetivos da política de tecnologia e identifiquem compensações nos níveis nacional, internacional e subnacional, bem como entre os grupos de partes interessadas. A penetração dos sistemas digitais em nossas vidas significa que a política de tecnologia está rapidamente se tornando “política de tudo”, com implicações críticas e diferentes para áreas tão diversas quanto resiliência de infraestrutura, segurança nacional, competitividade de mercados, coesão social, relacionamento entre cidadãos e o estado, e mesmo – como vimos recentemente – quão bem os sistemas de saúde funcionam. Diante disso, os formuladores de políticas precisam de abordagens fundamentadas e estruturadas que evitem as armadilhas gêmeas da pressa,
Dados seus prazos razoáveis para consulta e sua interação com um amplo conjunto de grupos de partes interessadas, a abordagem abrangente e ponderada da Comissão Europeia para a construção da Lei de Serviços Digitais (DSA) é um passo na direção certa. Mas mais trabalho precisa ser feito na identificação e resolução de conflitos críticos e compensações que estão surgindo em propostas e emendas. Por exemplo, o Regulamento Geral de Proteção de Dados da UE afirma o direito de não estar sujeito à tomada de decisão automatizada , mas as atuais propostas de DSA sobre a remoção de conteúdo censurável criarão fortes incentivos para que as plataformas digitais monitorem e avaliem continuamente o material de maneiras que muito provavelmente infringirão sobre a liberdade de expressão.
Em segundo lugar, embora seja difícil trabalhar com outras pessoas, uma política de tecnologia eficaz requer uma estreita colaboração entre as jurisdições. Os países precisam coletar e compartilhar sistematicamente as evidências de eficácia ou fracasso de diversas abordagens de políticas de tecnologia em todas as jurisdições. Para superar o desafio da falta de evidências, os países podem precisar apoiar novos processos de compartilhamento de insights sobre os algoritmos e conjuntos de dados de empresas digitais estruturalmente importantes. Investir pesadamente em padrões de tecnologia abertos e internacionais focados em questões atuais pagará o capital muitas vezes.
Aqui, é encorajador ver redes de políticas, como a rede de Centros para a Quarta Revolução Industrial do Fórum Econômico Mundial, criando espaços para que os formuladores de políticas colaborem em pilotos além das fronteiras jurisdicionais, compartilhem estruturas e dados e se baseiem em exemplos de sucesso e fracasso. Essas redes também contribuíram para o desenvolvimento de estruturas e padrões informais, como as diretrizes para aquisição de IA por autoridades públicas .
Por fim, gerenciar o impacto das tecnologias produzidas com processos de desenvolvimento ágeis requer uma mudança em direção à governança ágile. Acreditamos que uma representação mais ampla dos interesses das partes interessadas, combinada com uma dança agradável entre exploração e decisões baseadas em evidências, pode levar a uma governança mais pró-ativa e empreendedora adequada ao século XXI.
Os processos ágeis de governança vêm surgindo há algum tempo em departamentos governamentais voltados para o futuro, criando espaços para experimentação e aprendizado de políticas. Por exemplo, sandboxes regulatórios têm sido usados para testar regras sobre drones e serviços financeiros inovadores . Enquanto isso, abordagens regulatórias baseadas em risco – que permitem nuances consideráveis na aplicação de leis, bem como encorajam avaliações contextualmente sensíveis – estão no centro da recente proposta de regulamentação da UE que estabelece regras harmonizadas sobre inteligência artificial.
Tudo isso representa uma oportunidade, e não um fardo. A oportunidade é reformar a governança de uma forma que nos permita incorporar justiça, inclusão e responsabilidade dentro dos sistemas tecnológicos que moldam cada vez mais nossas economias e sociedades. Investir e ter sucesso nessa área pode significar que a próxima década de governança política integrará diversos valores em sistemas interoperáveis, com reguladores e cidadãos trabalhando lado a lado como parceiros recíprocos, em vez de antagonistas.
