Bom algoritmo, mau algoritmo

Os algoritmos estão determinando a nossa vida. Eles são uma ajuda ou um perigo? A mais importante perita em informática da Alemanha explica isso.

A inteligência artificial soluciona os nossos problemas?
A inteligência artificial soluciona os nossos problemas? phonlamaiphoto - stock.adobe.com

Senhora Dra. Zweig, a senhora trabalha no campo da socioinformática, lidando com algoritmos. A senhora poderia nos explicar o que os algoritmos são?

Algoritmos são ações executáveis gerais que visam a solução de problemas. Um bom exemplo é a multiplicação por escrito. A sua professora lhe explicou antes as bases gerais da multiplicação, independentemente de quais números devem ser multiplicados ou de quantas casas decimais eles têm. Essa generalidade caracteriza um bom algoritmo.

Katharina Zweig, docente de Informática na universidade TU Kaiserslautern
Katharina Zweig, docente de Informática na universidade TU Kaiserslautern TU Kaiserslautern

Onde os algoritmos são aplicados de maneira útil e significativa?

O que se entende hoje sob “algoritmo” não é, na maioria das vezes, nenhum algoritmo. Algoritmos, propriamente ditos, são úteis e significativos, pois, comprovadamente, eles sempre encontram uma solução. Essa garantia é intrínseca à definição de algoritmo. Mas hoje em dia, a palavra “algoritmo” é muitas vezes usada para indicar os processos do aprendizado de máquina. Apoiando-se na ajuda de estatísticas de dados, esses processos procuram modelos, fazendo deles regras de decisões. Um exemplo: se muitos candidatos e candidatas, que tiveram então sucesso como empregados, estavam na faixa etária de 25 a 30 anos, essa informação será um dos critérios decisivos para o próximo recrutamento de pessoal.

Não é nenhum problema do sistema de decisão, mas da maneira como ele é empregado.

Katharina Zweig, docente de Informática na universidade TU Kaiserslautern

Quando o emprego de algoritmos se torna problemático?

Já se pode ver no exemplo do mundo do trabalho que as chamadas regras trazem em si o perigo da discriminação. Lá, onde esse perigo pode existir – sobretudo no acesso a serviços do Estado ou no mundo do trabalho –, deverá ser controlado se esses sistemas de decisão, que aprenderam a partir de dados, podem ser discriminatórios. Para tanto, não é necessário que se conheça o código, pois basta verificar os resultados para as pessoas que possuem diferentes atributos, como a idade ou a confissão religiosa. Aliás, este não é necessariamente nenhum problema do sistema de decisão, mas da maneira como ele é empregado. Da mesma maneira, poderíamos aplicar os modelos encontrados para equiparar as desigualdades.  

No seu novo livro “Ein Algorithmus hat kein Taktgefühl” (Um algoritmo não tem tato), a senhora visa capacitar amadores a “manter o controle”. Isso pode funcionar?

Confio em todas as pessoas, pois nós, as peritas e os peritos em informática, podemos disponibilizar a tecnologia necessária. Mas as questões de quais modelos um algoritmo deve procurar em quais dados e o que deverá ser otimizado, não podemos responder sozinhos. É a sociedade que tem de decidir se ela realmente quer que um sistema seja planejado para prever se um delinquente pode se tornar reincidente. E se ela assim o quiser, ela deve decidir se é melhor que o sistema seja construído para poder descobrir todos os criminosos que se tornam reincidentes ou para que se suspeite do menor número possível de criminosos já reabilitados.  Para tanto, a sociedade precisa de uma orientação geral de como funcionam tais processos do aprendizado de máquina e precisa também de uma grande porção de bom senso comum. E este têm todas as pessoas que andam de olhos abertos pelo mundo.

A Profa. Dra. Katharina Zweig é diretora da cátedra de “Teoria Gráfica e Análise de Redes Complexas” na universidade TU Kaiserslautern, sendo também responsável pela concepção do curso universitário de “Socioinformática”, que se ocupa com os efeitos da informática sobre a sociedade.

Entrevista: Martin Orth

© www.deutschland.de

You would like to receive regular information about Germany? Subscribe here: