About data

I have recently watched the documentary The Great Hack, which explains the Cambridge Analytica scandal: how they used a great amount of data from facebook to spread biased and fake messages and influence the outcome of Brexit and the US presidential election of 2016. The film focuses a lot on the role of big data-owning corporations such as facebook, google, or amazon (the usual suspects). It hints towards holding these companies responsible for what people do with the data they collect, and sort of portraits them as “evil”, but perhaps too much [1]. It also blames the technology and the “algorithms”, whatever those are. In my opinion, this is a very shallow analysis of what is actually going on, and I think they got it all upside down. Let me break down this problem into three parts.

The technique

People that do not understand what is going on behind the curtains of recommendation algorithms tend to see the spread of targeted manipulative information as an extremely bad thing (which it is), and how music streaming services that suggest music that you like as an extremely good thing (which it is). I am no expert in recommendation systems myself, but I know enough to know that the principles behind these two tasks are basically the same. So blaming and prohibiting the technique itself will mean that a lot of wonderful things we have today will no longer be available. And a huge field of research, which can be used for good, will go away. I don’t think this is a good direction to follow…

The data

Our data is being collected all the time. I know that, you know that, everyone knows that. It is because of this data, and the techniques, that we can talk to our phones, that we can search for a photo by a keyword, that our watches can measure our steps, and many other conveniences that make our lives today very comfortable. The corporations that collect and use the data to develop these wonderful things know how this is sensitive information, and how everything should be super anonymized if it is supposed to go into the hands of others (such as researchers).

In the case of Cambridge Analytica in particular, I think Facebook has actually little blame on this [1]. The story plays out like this. A researcher at Cambridge University developed an app and provided it to Cambridge Analytica. The company, in turn, used this app to do a survey and people had to agree that their data was going to be used for academic purposes. It turns out that, because of the way facebook was designed, the app also collected data from all the friends of the person taking the survey. Now, I think this is a serious design flaw, and whoever saw that, the researcher or whoever was working on this at Cambridge Analytica, should have at least informed facebook about it. Instead, they have exploited this to get all the data, and kept quiet. Needless to say, there was no “academic purpose” there. So facebook’s fault is this design flaw. They have openly apologized for that, and implemented more strict privacy rules (GDPR) since then. However, it is not fair to place the responsibility of how others used this data solely on them.

These big data companies tend to be already protective enough of their data. Ask any researcher that needs data how hard it is to get a fraction of what they have. So it is not like facebook is completely irresponsible and is just allowing anyone to tap into their pool. By the way, the researcher who developed the app was actually a consultant for facebook. Which makes me even more suspicious why he wouldn’t report such a breach in the first place.

The use

This is the crucial point in my opinion, and the point that is most overlooked. The problem, in the end, was not the existence of data or fancy techniques to process it. The problem is how this framework was used. And it is not like it was used for a super novel thing. The data was used for propaganda, and propaganda has been around for centuries. And people warning about the dangers of propaganda have also been around for a while now. For example, this quote from Everett Dean Martin: “Propaganda is making puppets of us. We are moved by hidden strings which the propagandist manipulates.” is from 1929. 1929!

The problem this time is that we had propaganda on steroids. Because of the amount of data Cambridge Analytica had, and the ability to quickly analyse it, they could provide the most targeted and efficient advertisements. If you think about it, this is the dream of *every* advertisement agency. Now, does that mean we should forbid propaganda? Well, I lean towards yes, but I also admit that there is a thing such as good propaganda [2]. So we should not discard it as an activity altogether. One could say propaganda/advertisement [3] should not be biased, but isn’t that an inherent characteristic of it? When people are trying to sell something (a product, an idea, an image), they kind of have to be biased towards that thing.

So what is it about the Cambridge Analytica case that bothered so many people (myself included)? I have had this lingering feeling that it crossed a line. But which line? After thinking a lot about it, I suspect this line is ethics.
First of all, these people were using exaggerated messages, sometimes blatant lies, to attack the opposition. Attacking the opposition is a low blow of desperate people, specially in politics [4]. This is a dirty move which I find disgusting. You want to advertise yourself? Fine. Show off your advantages, don’t hit the adversary. That makes me very angry.
Secondly, this was targeted to influence people on important decisions, which ideally should be taken with the minimum amount of bias. The only way people are going to start to think critically, is if they have to in order to form an opinion. If they are bombarded with information from only one side, it is brainwashing. I can see why a politician or government would think this is a good thing (“I know what is best for the people, I am just making them realize faster”). However, if you stop to really think about it, this is a disservice for the society as a whole. It simply creates citizens that follow the herd, and are lazy to think for themselves [5].
At this point, one possible solution would be to forbid advertisement related to elections and any issue that would affect society as a whole. Honestly, I think this would be a good thing, and it could solve many problems we face today in a democratic process (not only the one presented here). But I need to think more about this one.

Ultimately, this whole situation is much more complicated than portrayed in “The Great Hack”. There are fundamental problems that we have been facing for many years now, it is simply exacerbated by the effectiveness of a new method. The issue, as I see, is not the method in itself, but the fundamental problem of advertising/propaganda. Where do we draw the line of good/acceptable propaganda, and unacceptable one? Who should be responsible for regulating this? As usual, there is a whole area of study about persuasion, advertisement, etc. As usual, we will only pay attention and try to solve it when things explode and it becomes obvious that this is the problem. We never learn…

[1] And I hate Facebook…
[2] Government funded campaigns for vaccination, anti-tobacco, more exercises, etc.
[3] I am using the two words interchangeably, since it is quite debatable what distinguishes one from the other. In Portuguese, for example, there is only one word to describe what would be two different things for an English speaking person.
[4] 11 years ago, this was an issue in the election of a mayor where I come from. I wrote about here (in Portuguese), after hearing an admission that, still today, makes me furious.
[5] For example, do you think I just thought about all of these things at once? It took me weeks thinking about the documentary, discussing it with other people, and researching, until I formed this opinion (which could be changed in light of new information).

About confirmation bias

It’s been a long time since I don’t write here. The year has started with my new job and the many many paper deadlines. It has kept me busy enough not to follow the news a lot, which is generally a good thing, because seeing what is happening in the world is usually a source of depression and disappointment for me.

Nevertheless I am Brazilian, and the latest protests in the country could not have passed by unnoticed. Specially because my parents, the most apolitical people I know, participated on it.

But this will not be yet another text on the political situation in Brazil, no no. We have plenty of that. What is most interesting, for me at least, is to observe people and their reaction. Since the elections in November I realised how irrational this opinion business can get. People immersed in the situation do not seem to realize it, but they do get really closed-minded and irrational when they decide on an opinion, no matter how rational they think their opinion might be. Everybody thinks “I cannot believe they can’t see it clearly like I do!”. But there is the paradox right there: *everybody* thinks that, no matter how different their “clear” thoughts are. And since a discussion between irrationals is a lot of work, they group together with people of the same opinion. They refuse to see (or listen, or try to understand) the “others”, and suddenly everyone around them agree, which makes them think they are even “more right”. That is the pitfall…

This phenomenon is crystal clear on social networks. There are extremist posts pro-government, with many likes and supportive comments. There are also extremist posts against government, with many likes and supportive comments. Why don’t these people talk? I am sure they are all intelligent and reasonable, and they can both find the strong and weak points of each side (or a third and better side). But they just don’t. On a failed attempt to make two opposing party relatives talk during the elections last year, I ended up as being the one bringing adversity, trying to turn them against each other. I honestly just wanted to see the beliefs questioned and put to test. (Something at which political debates failed horribly).

Confirmation bias is a real thing, but it’s a shame to see it preventing a discussion which could be otherwise very fruitful and informative.

About researchers and politicians

These days I’ve been thinking a lot about politics… I realized this is a problem around the world, and politicians are usually seen by non-politicians as bad people. Non-politicians usually think that politicians are greedy, selfish, lazy and that, in the end, they are not interested in helping society whatsoever. Of course most non-politicians have their exceptions, that one or two politicians that they really believe in, and if they are not doing enough, it’s because the system does not let him. I started thinking if it was possible that so many people in politics really did not care about doing some good for society. I mean, this should be their main motivation for getting a job there in the first place, no? So what happens??

There is an interesting experiment in psychology called the Milgram experiment, where some people, test subjects, are told to give electric shocks on another person if they do not memorize some words correctly. Although the learning person is already screaming in pain, most participants do not stop giving the shocks, since they were told so. At a first analysis, the results of this experiment seem quite disturbing… How can people be so mean? It was just a stupid experiment, they could have stopped once they realized the other person was in pain, right? Well… not really. I mean, yes, they could have stopped, but a deeper (and less sad) analysis of the whole thing takes into account the environment in which this test subject was. And you have to keep in mind that you might just as well be one of the people that continues to give shocks.
Yes, yes… but what does this have to do with the politicians?

The point is that, it’s very easy to judge from the outside. “He should have done this, he shouldn’t have voted for that, he shouldn’t have accepted that money, how can he be so unethical??” But we don’t really know the point of view of somebody who is on the inside. It is actually easier to follow the rules as they are posed then to try to fight them… Even if you think that they are wrong.

As I thought about this, I realized that it happens to me, and most researchers and PhD students I know. We are all very aware of the way universities decide which people to hire: they check our publication list. Of course they don’t read all of them, and I doubt if they actually read the titles carefully… They check how many there are and in which conferences/journals they were published. There is a huge discussion on whether this is the right thing to do, and most researchers I know, young or old, agree that this is not a very good system, and the relevance of the publications should be taken into account, no matter where they are published. But as we go into this academia field, we are pulled by the current and we believe the only way to survive is publishing… So we become one of those people that try to publish no matter what. We behave as if we accept the system, even though we disagree with it. And we think: “but what can *I* do? I am just a PhD student…” Everyone knows that it’s up to us to end this journal industry and to change how we are evaluated, but who’s brave enough to start this? If this person is alone (or only a few), she’ll certainly perish… It’s a high risk to take. So no one takes it, and we are swallowed by the system, just like the politicians we so much condemn. 

Rede Sustentabilidade, assinaturas e a luta pelo poder

Semana passada vimos a tentativa de registro do partido da Marina Silva ser barrada pela justiça eleitoral. O resumo da história é que 95 mil assinaturas foram invalidadas pelos cartórios eleitorais sem justificativa, e essa quantidade seria mais do que suficiente para atingir o número exigido pela lei. Enfim, a rede Sustentabilidade entrou na justiça para tentar validar essas assinaturas ou obter as justificativas dos cartórios (que aparentemente também não fizeram o dever de casa a tempo), e perdeu.

Ok, vamos dizer que as assinaturas eram de fato inválidas… O que ficou estranho é que nesse meio tempo, dois outros partidos conseguiram seu registro. Só que eu nunca tinha ouvido falar destes outros partidos… de onde é que eles conseguiram 500 mil assinaturas?? Existem indícios de que essas assinaturas também foram (grossamente) falsificadas. Por que a lei se aplica tão direitinho ao partido da Marina Silva e faz vista grossa a esses outros partidos? Ninguém diz com todas as palavras, mas todo mundo sabe que a Rede Sustentabilidade seria a competição mais forte contra o PT nas próximas eleições. Então eles ficam nessa preocupação toda e sendo super cuidadosos no processo de criação desse partido em especial, até encontrar alguma coisa que deixem eles fora das eleições ano que vem.

Se você for pensar bem, isso tudo é meio non-sense. Olha só, o PT tá no governo, certo? Tudo que seus adversários da próxima eleição podem fazer nesse momento é promessas, o PT pode de fato *fazer* as coisas!! Já pensou nisso? Se eles estão no poder e fizerem seu trabalho direitinho…. fizerem as coisas que tudo mundo sabe que tem que fazer… porque não votar neles de novo? A campanha pra reeleição vira justamente o que foi conseguido durante o governo, uma coisa muito mais concreta do que qualquer promessa (que todo brasileiro já olha com descrença mesmo). Eu sei que são coisas difíceis, como a reforma política e a reforma tributária, mas o governo que der o primeiro passo pra isso já vai ser um super governo nos olhos dos brasileiros. E daí a reeleição vem de graça. Mas parece que esse pessoal que tá no poder não pensa nisso… eles se preocupam em estar no poder, sejá lá o que isso signifique, e ameaças são cortadas a todo custo. E todo mundo se esquece que é possível permanecer no poder por mérito próprio. E os interesses sociais ficam aí, jogados as traças…

Meio triste né?

Sobre a Marina Silva e Marco Feliciano

Ok… Eu andei defendendo a Marina Silva por aí, e não é a toa que essa notícia veio parar na minha mão. Mas como uma boa brasileira, eu já aprendi a desconfiar de repórteres e jornalistas, e procurar informações de fontes mais confiáveis.

Já haviam me falado a respeito do fato dela ter “virado” evangélica, e quando eu pesquisei direito descobri que na verdade ela é evangélica desde 1997. Ou seja, quando concorreu às eleições em 2010 já tinha sua religião, e isso nunca foi motivo pra ela ter posições polêmicas e extremistas a respeito de assuntos complicados como aborto e casamento gay. Aliás, ela tem uma posição incrivelmente sensata, e a fonte dessa informação é essa entrevista aqui. Portanto, a crítica da notícia do Estado de Minas, parágrafo 4, não procede.

Quanto à chamada da notícia, sobre o fato dela ter “defendido” Marco Feliciano, não poderia ter sido mais sensacionalista. Eu desconfiei porque já tinha visto a opinião dela sobre o Marco Feliciano aqui. Tudo que ela disse era que o Marco Feliciano deveria ser criticado sobre suas posições e afirmações, e não pelo fato dele ser evangélico. Afinal de contas, existem muitos evangélicos (e católicos, e ateus, e budistas, e etc) capacitados para exercer essa função. A opinião dela sobre o assunto pode ser vista aqui, e também foi postado um esclarecimento na página do Facebook deles:

Marina Silva sempre foi contra os posicionamentos de Marco Feliciano e sua presença na comissão de direitos humanos http://ow.ly/l3FUZ 

Veja também o vídeo em que ela comenta sobre escolha de Feliciano para presidir a CDHM http://ow.ly/l3GSv 

Além disso, a Rede Sustentabilidade também já se posicionou sobre o tema: http://ow.ly/l3IoD

Ela está no momento dando uma entrevista a CBN Recife sobre o fato. Colocarei o link aqui quando estiver disponível.
Ou seja, a crítica da notícia não procede. Espero que vocês também consigam ver isso.

EDIT: O vídeo com o que ela realmente disse.

Sobre a política brasileira

Recentemente a Marina Silva decidiu juntar esforços para criar um novo partido político no Brasil. Eu li sobre ele, seu estatuto, vi algumas entrevistas e resolvi apoiá-lo. Eu não sou o tipo de pessoa politicamente engajada, mas ultimamente eu tenho prestado atenção na política do Brasil. A visão que eu tive, de fato, não é bela. A governança é muito complicada, e as boas intenções ficam perdidas em um processo longo, burocrático e muito dependente de troca de favores. Eu fico triste em ver como uma coisa tão importante para o desenvolvimento e organização de um país, quando visto de perto, pode se reduzir a um processo tão mesquinho. Mas é melhor eu explicar o que eu vejo, porque a gente tem olhos diferentes.

O trabalho de um político é discutir e propor leis (projetos de lei, medidas provisórias, emendas na constituição, etc.) com o objetivo de melhorar o país. Isso é um processo democrático, e os políticos votam nas leis uns dos outros e elas só são aprovadas se obtiverem uma certa porcentagem dos votos. Até que não parece tão mal, certo? Mas aí eu comecei a acompanhar notícias, ler sobre a tramitação (uma palavra elegante para o vai e vem que uma proposta sofre antes de ser definitivamente aprovada ou reprovada) dessas leis e entender realmente como isso funciona.

Pra começar, não existe essa coisa de discutir antes de elaborar uma lei. Cada um trabalha mais ou menos independente, e propõe leis ao seu bel prazer. Às vezes acontece de um grupo elaborar alguma lei, mas em geral, as leis têm como autor uma pessoa só. Bom, vamos supor que todos estejam interessados no bem comum (e ignorar projetos propostos para benefício próprio ou irrelevantes). Hoje o Brasil tem 513 deputados (mais o Senado, câmaras, comissões, presidente, tribunais, etc.) que podem propor leis. Então a gente tem um monte de propostas por aí, e os políticos devem ler essas propostas, sugerir mudanças (emendas), revisar as mudanças, revisar as emendas sugeridas para as suas próprias propostas e votar. Só que é muita coisa! Só em 2012, foram 1841 propostas, em 2013 já são 638, e isso são só projetos de lei. Existem quase 400 propostas em regime de urgência. O Brasil vive um momento relativamente estável, será que esse tanto de lei é necessário? Será que não existe um monte de assuntos com vários projetos de leis diferentes?? Por que as pessoas interessadas no mesmo assunto não se reuniram antes pra discutir como (e se) deveria ter uma lei pra isso? O processo pelo qual passa uma proposta é longo e burocrático, e se as propostas forem menos e mais coesas, tudo ficaria mais fácil pra todos.

Então, no meio desse mar de sugestões, como é que um deputado vota? Ele é afiliado a um partido político, então ele vota a favor de propostas de pessoas do seu partido e de partidos aliados. E ele vota contra propostas de partidos aos quais o partido dele faz oposição. Por que? Porque essas pessoas depois vão votar nas propostas dele, independente delas serem boas ou ruins para os eleitores, porque elas também querem o voto dele em alguma coisa. Ao meu ver, isso é uma luta cega por aprovação de propostas e parece que quem aprova mais, ganha. Mas ninguém está realmente prestando atenção se as coisas votadas são coerentes e de acordo com seus princípios ou não. Daí acontecem coisas do tipo a reforma do código florestal ser aprovada e o Marco Feliciano ser eleito presidente da comissão de direitos humanos… (o que não é uma lei per se, mas também depende de votações). Me parece que os políticos estão tão preocupados com a rede de favores que vai fazer com que eles consigam votos que, na hora de votar, pensam somente em quem vão agradar ou desagradar com seu voto (lá dentro, não a gente) e não em que se está votando realmente.

Entre o caos, surge a Marina Silva como candidata a presidente em 2010, dizendo que não vai fazer alianças ou prometer cargos, e sim chamar as pessoas mais competentes para cada trabalho. Ou seja, ela queria fazer o que é certo. O partido que ela quer criar agora não é diferente. Ela se recusa a assumir uma posição cega de apoio ou oposição ao governo e afirma que vai apoiar o que é bom e criticar o que é ruim. Diz também que não vai fazer alianças com partidos políticos, mas pode apoiar candidatos de outros partidos que tenham uma causa compatível com os ideais do novo partido. No meu ponto de vista ela está tentando acabar com o jogo de interesses e focar novamente na qualidade das propostas, e não em quem está por trás delas.

Ao perguntar a algumas pessoas o que elas achavam, fiquei surpresa ao descobrir que a maior crítica é exatamente a que, na minha opinião, são seus pontos fortes. As pessoas dizem que existe uma falta de posicionamento porque a Marina não adotou um rótulo direita/esquerda ou pró/contra o governo. Mas na verdade ela está disposta a apoiar o que é bom em todos os lados. O problema em escolher lados é que você acaba ficando preso a uma filosofia ou pensamento, e quando vê algo bom em outro lado, ou você não apoia por teimosia, ou apoia e corre o risco de ser chamado de hipócrita e perder a credibilidade. Qual o problema em não tomar lados e analisar, o mais imparcialmente possível, as ações de todos os lados e decidir qual é a melhor no momento?
As pessoas dizem também que ela não consegue ganhar uma eleição ou governar sem fazer alianças porque “é assim que o sistema funciona”. Pra mim é muito claro como essas alianças atrapalham o poder de julgamento dos deputados, e mesmo que alguém me diga que o projeto X só foi aprovado por causa de alianças, eu digo que se os políticos analisassem objetivamente e X fosse um bom projeto, ele seria aprovado de todo jeito. É óbvio, pelo menos pra mim, que quanto menos interesses estiverem envolvidos na votação de um projeto, mais objetiva será sua análise. Então por que não acabar com as alianças políticas? “Porque é assim que o sistema funciona” é uma desculpa muito ruim. Tantas coisas já mudaram! Eu não sei que incredibilidade é essa. Afinal de contas, quem vota é a gente, e se quisermos eleger só candidatos sem alianças, dispostos a lutar pelo bem coletivo (seja lá qual seja sua definição de bem coletivo, existem várias delas e várias ideologias defendendo cada uma), basta votar neles. Eles são poucos, mas eu finalmente acredito que eles existem.

Deixo aqui meu apelo por eleitores, candidatos e políticos mais transparentes, simples, objetivos e unidos pelo bem de todos.