Esta semana tive o prazer de ler um livro chamado "Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy" de Cathy O’Neil, uma matemática americana. Numa economia cada vez mais digitalizada como a nossa, este livro deveria ser de leitura obrigatória para qualquer cidadão que queira perceber como funciona esta nova era da Inteligência Artificial.

A autora teve o privilégio de testemunhar história à frente dos seus olhos. Matemática de formação (especialista em teoria dos números) mudou da academia para a banca de investimento em 2007, com o objetivo de aplicar os seus conhecimentos a algo mais tangível. Mal esperaria no decorrer do seu trabalho observar o desenrolar da maior crise financeira de sempre e ver, diante dos seus olhos, os modelos matemáticos a ruírem.

Nesse trabalho, Cathy teve contacto com modelos matemáticos de qualidade duvidosa e, no decorrer da sua profissão, percebeu que era só o início. Após a crise financeira várias companhias de dados começaram a ganhar dimensão, quer pelo avanço tecnológico, quer pelo aumento da capacidade de coletar dados.

Olhando para a primeira metade do título, este livro explica-nos como a utilização de muitos dados pode fomentar desigualdades. Um exemplo utilizado é o uso de publicidade direcionada especialmente para cidadãos economicamente desfavorecidos, incentivando-os a inscreverem-se em instituições de ensino superior de qualidade duvidosa, com propinas bastante elevadas (pense-se que nos Estados Unidos uma licenciatura chega facilmente a valores superiores a cem mil euros). Neste país, considerado o país da meritocracia, descobriu-se que algumas universidades foram criadas com o propósito de explorar o desejo dessas pessoas de ascender socialmente. Prometendo que a educação abriria portas para melhores oportunidades profissionais, estes anúncios visavam aqueles cujos comportamentos online sugeriam rendimentos mais baixos. Com o objetivo de lucrar, não haveria problema algum se a educação oferecida fosse de qualidade, mas muitas destas universidades possuíam departamentos de marketing mais desenvolvidos do que os próprios departamentos de ensino. Resumindo, estas pessoas desfavorecidas acabavam um curso com o mesmo nível de educação na prática e com uma dívida de milhares de euros no bolso.

Outro exemplo também muito interessante era como havia bancos chegavam a estas pessoas em situações financeiras mais desesperadas de uma forma milimétrica, prometendo empréstimos fáceis com juros altíssimos. Isto é só mais um exemplo de como os dados podem ser utilizados sem escrúpulos, com o único objetivo de usar a informação para extorquir de melhor maneira o utilizador. Resumindo, a pobreza das pessoas pode ser usada como uma arma contra elas, aumentando as desigualdades.

Na segunda metade do livro, a autora explora como os dados de navegação foram muito utilizados na campanha de Obama (e depois com o escândalo da Cambridge Analytica) para desenhar anúncios destinados a eleitores específicos. És fã de surf? Então prepara-te para teres a tua surfista favorita a apoiar um candidato eleitoral. És mais fã de gaming? Então de certeza que receberás um jogador de esports a apoiar algum candidato. Mas pior que isso, além deste direcionamento, isto aplica-se de uma forma mais dramática quando um candidato consegue dizer tudo e o seu contrário, mas cada informação só chegar a quem concorda com a mensagem. Por exemplo, suponhamos que um candidato profere declarações contra e a favor do subsídio de desemprego. É possível determinar quem é a favor e contra esta mensagem através da monitorização dos dados. Assim, é possível fazer com que nos feeds de quem é a favor apareçam mensagens a defender o subsídio de desemprego e quem é contra receber no seu feed o mesmo candidato a defender a abolição deste subsídio. Este exemplo, embora exagerado, não foge da realidade. Portanto, quando vires algum anúncio político nas redes sociais, pensa outra vez porque é que aquilo está lá.

A autora, após apresentar os problemas, aponta também soluções. Ela demonstra que como o início da era digital, na qual vivemos, tem paralelos com a era da industrialização. Quando as indústrias apareceram, muitas pessoas morreram vítimas de acidente de trabalho (apanhados por máquinas defeituosas) ou vítimas dos fumos inalados pelas indústrias pesadas. Após o início tumultuoso, quer o avanço tecnológico, quer a luta pelos direitos dos trabalhadores, melhoraram as condições de trabalho e hoje as vítimas da industrialização são cada vez menos. Assim, a luta pelos direitos da proteção de dados deveria ser hoje uma prioridade. Aliás, neste livro ouço o primeiro elogio à liderança europeia neste sentido. Por último, esta autora fala da criação de um juramento de Hipócrates para quem trabalha com dados. Sublinho umas das coisas que ela diz que quem faz modelos deveria jurar "Eu relembrar-me-ei que não fiz o mundo e que ele não satisfaz as minhas equações.".

Este juramento deveria fazer-te pensar desse lado. É verdade que ainda não sabemos se o matematismo universal de Descartes é uma realidade. Porém, quando se trabalha com dados, e com a quantidade de dados que está disponível nos dias de hoje, existe uma tendência para sobrestimar a sua fiabilidade e subestimar o seu impacto. Se queremos deixar de ter armas de destruição matemática e passar a ter instrumentos de salvação da humanidade, está na hora de perceber o poder da ciência de dados e da inteligência artificial e não deixar o feitiço virar-se contra o feiticeiro.

Recomendação: "Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy" de Cathy O’Neil

Gostaste do artigo? Então houve o episódio do mão visível aqui.