A conspiração do algoritmo

Quando um leão mata uma gazela não classificamos o evento como bom ou mau, desejável ou evitável. Já quando olho para o desempenho de uma organização costumo usar uma imagem: o sistema conspira.

Por exemplo, aqui:

"Temos então de mergulhar e perceber o que na realidade actual conspira para que tenhamos o desempenho actual e não o desempenho futuro desejado."

Ou aqui:

"o sistema de relações de causa-efeito que conspira para termos os resultados actuais e não os resultados futuros desejados" 

Terminada a leitura de livro "Unreasonable hospitality: the remarkable power of giving people more than they expect" de Will Guidara (ainda tenho mais comentários a fazer acerca do que li), iniciei a leitura de "The Unaccountability Machine" de Dan Davies. Hoje, no capítulo 3 sublinhei:

"An organisation does things, and it systematically does some things rather than others. But that’s as far as it goes. Systems don’t make mistakes – if they do something, that’s their purpose. But it also works the other way round. Systems don’t have inner desires, so they don’t do things intentionally either. There’s just a network of cause and effect. We might think they’re conspiring, but they’re working within structures that made the outcome inevitable. Or we might see everything as a terrible cock-up, but we don’t understand that the outcome was the inevitable result of the way the system works."

E recordo daqui:

"Olhar para a evolução do desempenho ao longo de um período, olhar para o somatório de ocorrências. Será que faz sentido olhar para os eventos como azares que ocorrem, ou como produtos naturais, expectáveis, previsíveis, decorrentes da forma como uma empresa planeia e desenvolve a produção, compra, trata os seus trabalhadores e cuida dos seus equipamentos.

É nestas circunstâncias que falo da conspiração da realidade"

Para nós humanos que fazemos julgamentos sobre os resultados da empresa parece uma conspiração, mas é um produto perfeitamente normal, daí a referência a Artur Jorge como treinador do Benfica.

E recuo a 2006 aqui:

"Porque não ver estes desperdícios como manifestações visíveis, de um sistema de causas interrelacionadas que conspiram para gerar o desempenho actual."

Por isso, chamar a esta realidade de "conspiração do algoritmo" não é apenas uma metáfora. É uma forma de dizer que o sistema, como um algoritmo bem treinado, gera os resultados que foram programados pelas nossas decisões anteriores. Tal como Artur Jorge justificava os empates e derrotas do Benfica como "perfeitamente normais", nós também devemos entender que muitos dos resultados da organização são consequências lógicas do que se colocou em marcha. A questão não é se o sistema conspirou contra nós; é percebermos que ele apenas cumpriu o seu papel, seguindo o que nele foi inscrito, sem intenções nem desejos próprios. E se não gostamos dos resultados, temos de mudar de sistema.