4/02/2019 p. A13
E se não precisássemos mais de leis? Se a conduta a ser adotada pelos indivíduos, pelas empresas e pelos governos estivesse codificada em aplicativos em cujo funcionamento não podemos interferir? Quando o automóvel autônomo estiver em circulação, é bem provável que ele elimine a possibilidade de transgredirmos as leis de trânsito. Já há condomínios em que, ao passar o cartão de identificação na catraca de entrada, o elevador só autoriza que o indivíduo vá ao andar a que declarou destinar-se. Em alguns anos, ao encomendar uma pizza de calabresa, o robô que o atende poderá ponderar que seu colesterol está alto e que esta encomenda poderá lhe trazer problemas com seu plano de saúde…
Isso altera de forma substantiva nossa relação com as leis. Até aqui, a cidadania consiste no estabelecimento de regras, cuja desobediência implica punições. Naquilo que Karl Popper chamou de sociedades abertas, estas regras são estabelecidas com base no debate público, submetem-se a críticas vindas dos mais diversos setores e exigem uma instância que as legitime, para que sejam incorporadas aos costumes cotidianos. Mas mesmo normas não consolidadas em leis e que permitem nossa vida comum podem não ser cumpridas e serão objeto de punição a quem não as obedece.
A internet e sobretudo a Internet das Coisas estão abrindo caminho a um mundo em que, cada vez mais, as leis serão convertidas em códigos embutidos nos próprios objetos que usamos. Em alguns aspectos, isso pode até ser positivo para a ordem pública. O condomínio será mais seguro. Os acidentes de carro e os congestionamentos serão reduzidos. Se não paguei o aluguel, o cartão que abre a porta de minha casa não vai funcionar e assim não será necessário toda a parafernália jurídica hoje existente para lidar com a inadimplência.
Mas uma vez que nossa sociabilidade, nossa relação com os outros e com as coisas é crescentemente determinada pelos códigos inscritos nos objetos que compõem nosso cotidiano (e não só os celulares e os computadores), estes ganhos de eficiência correm fortemente o risco de sacrificar os valores centrais da vida democrática, a começar pelas liberdades e pela dignidade das pessoas. Em vez de o comportamento ser pautado por regras sociais estabelecidas pela comunidade ou pela exigência de respeito àquilo que o Estado legitimamente estabelece por meio de leis, são nossos aplicativos que dirão o que podemos fazer. A regulação será perfeita, matematicamente determinada e consolidada em algoritmos.
O WhatsApp, por exemplo, acaba de limitar o poder multiplicador daquele que se transformou num dos principais instrumentos de influência política em diversos países do hemisfério sul, reduzindo para cinco o número de mensagens que cada pessoa pode reenviar. Isso ocorreu na Índia, ano passado, primeiramente, em caráter experimental, após onda de linchamentos contra indivíduos acusados de abduzir crianças. Na Malásia, no Quênia e evidentemente, no Brasil, o WhatsApp tornou-se vetor de difusão de informações absurdas, mas verossímeis por serem mandadas por pessoas da confiança de quem as recebe. Na verdade, como mostram os trabalhos recentes do Tactical Technology Collective, o que foi criado como forma de comunicação entre pessoas converteu-se num dos principais mecanismos de influência sobre a opinião pública.
Esta influência mostrou-se tão perigosa que o próprio WhatsApp decidiu limitar o alcance de seu dispositivo. A limitação é certamente positiva. No entanto, o que chama a atenção é que a gestão de um tema tão crucial para o futuro da democracia (como se formam as opiniões das pessoas? Que curadoria existe para estimular o espírito crítico da população e sua capacidade de checar as informações que recebe?) vem de uma esfera estritamente privada. Pior: como o Facebook controla o WhatsApp e o Instagram, esta esfera privada funciona na prática como monopólio. E como mostra o excelente e recém publicado livro de Jamie Susskind (Future Politics) as tecnologias digitais tornaram-se hiperpolíticas por atingirem dois ingredientes fundamentais da vida pública, a informação e a comunicação.
As mensagens de ódio e a desinformação adquiriram tal dimensão que o Facebook contratou 15 mil pessoas para filtrá-las. O New York Times publicou em sua edição de 28/12/2018 o resumo de um relatório de 1.400 páginas (vazado por um funcionário da empresa sob condição de anonimato) mostrando um dos maiores paradoxos da vida política atual: com 510 mil posts em mais de cem idiomas e 136 mil fotos por minuto, postados por seus 2,3 bilhões de usuários ativos mensais, o Facebook teve que contratar pessoas que têm de cinco a dez segundos por post para determinar se mensagens suspeitas devem ou não ser transmitidas.
O contraste entre a sofisticação tecnológica da plataforma e o caráter rudimentar dos métodos de controle às mensagens de ódio mostra, na opinião de John Naughton, professor de Cambridge e articulista do diário britânico The Guardian, que o Facebook já não é capaz de gerir o sistema complexo cuja emergência ele propiciou. E a resposta a esta incapacidade é autoritária: o Facebook acabou convertendo-se em árbitro do que pode ou não passar pelo discurso da sociedade global. Automatizar esta arbitragem, incorporá-la a códigos de funcionamento dos aplicativos em que estamos imersos no cotidiano é tanto mais grave que os algoritmos a partir dos quais eles funcionam não são discutidos com a sociedade e são controlados de forma monopolista. Substituir as virtudes da cidadania pela eficiência dos algoritmos é bloquear o caminho pelo qual passa a democracia.
