Algoritmos, viéses e contemporaneidade

Artigos para entender o agora

Em meio às discussões contemporâneas sobre desinformação, polarização e consumo de informação mediado por algoritmos e como estas três coisas estão relacionadas, escolhemos três artigos que nos ajudam a explorar desdobramentos importantes desse assunto:

1. É sabido que superestimamos nosso próprio conhecimento sobre assuntos que temos pouquíssimo domínio (efeito Dunning Kruger) e como esse viés, aliada às bolhas de algoritmo que nos sugerem conteúdos que reforçam nossas crenças prévias (o viés de confirmação) potencializam a desinformação e a disseminação de notícias falsas. Esse estudo mostra como as pessoas que tem menos literácia midiática (capacidade de avaliar qualidade / veracidade da informação que está sendo consumida) tendem tanto a sobrestimar seu próprio discernimento quanto a compartilhar notícias inverdadeiras.

2. Como, em um contexto em que alcance e engajamento parecem importar cada vez mais do que credibilidade, os “fatos alternativos” se espalharam por muitos campos de conhecimento, de nutrição a finanças pessoais, sempre motivados por interesses econômicos e “empacotados” como práticas alternativas. Esse artigo entra em mais detalhes sobre como isso vem acontecendo em uma pauta particularmente delicada (saúde feminina adolescente) e o que pode e e está sendo feito para combater.

3. As experiências pessoais são mais capazes de criar pontes e persuadir do que fatos e dados com quem pensa diferente - um estudo feito sobre isso.Poucos recortes populacionais brasileiros são mais intensamente estereotipados do que os evangélicos. Um excelente artigo da Vice para desafiar nossos lugares comuns sobre essas pessoas e nos mostrar o quanto heterogêneas elas são como grupo.Em linha com algo que acreditamos muito por aqui, um artigo da Emily Chu, gerente de insights no Spotify sobre como maximizar o impacto organizacional de tudo que envolve pesquisa dentro de uma grande empresa, inclusive como tirar o melhor das áreas clientes tanto antes quanto depois dos projetos.

Marca contemporânea: Shein

Enquanto alguns “gurus das tendências” proclamavam a morte do fast fashion, a Shein, considerada a “Zara online chinesa” teve crescimento explosivo no Ocidente, especialmente durante a pandemia e avançou de forma expressiva inclusive no Brasil, já sendo uma referência importante para a geração Z, apesar de supostamente violarem valores considerados geracionais como sustentabilidade e fair trade, mirando em outros três pontos críticos: 

• A precificação muito agressiva, compatível com quem ainda está no começo da carreira (ou nem começou ainda) e privilegia novidade e quantidade sobre durabilidade.

• Talvez, mais importantemente, um entendimento profundo das mídias sociais e do relacionamento dos jovens com elas - eles premiam com descontos os clientes que conseguem maior engajamento em seus posts usando seus hashtags ou a marca e trabalham com um exército de influenciadores de perfis diversos. 

• Um fluxo de novos produtos constante em um ritmo sem precedentes , elevando o gatilho clássico do fast fashion (“compre agora senão não vai ter mais”) e o FOMO à máxima potência . Eles monitoram o Google Trends e as mídias sociais para acompanhar a curva de demanda dos produtos e exigem que seus fornecedores acompanhem as interações e pedidos em tempo real para que sejam capazes de se ajustar às variações, com ciclos de desenvolvimento ainda mais rápidos do que seus principais concorrentes.

Em um ótimo exemplo do espírito de nosso tempo, quando a Jade Picon (que já acusou a Shein de plágio das criações de sua marca em diversas instâncias, mas usa mesmo assim) apareceu no BBB com uma peça da marca de R$55, o estoque no site acabou antes mesmo do término do programa.

Filme para entender o hoje

O Coded Bias é um documentário do Netflix centrado na história da pesquisadora Joy Buolamwini, do MIT Media Lab, que começou a refletir sobre viéses e distorções em algoritmos ao notar que os aplicativos de visão computacional não reconheciam seu rosto de mulher negra como um rosto humano. Desta experiência, surgem muitos questionamentos sobre os problemas da baixa representatividade no setor de tecnologia assim como da autoridade atribuída aos algoritmos e como estas duas coisas estão relacionadas.

 O documentário tem excelente exemplos das consequências desastrosas quando assumimos que “todo mundo é como nós”, tanto pelos criadores dos algoritmos quanto pelos conjuntos de dados que os alimentam. Como os conjuntos de dados que são usados para o aprendizado das máquinas muitas vezes não são representativos (até por um forte déficit de representatividade da própria indústria de tecnologia, de acordo com os entrevistados), os viéses existentes nesses conjuntos são dramaticamente amplificados porque todo o repertório de conhecimento da máquina é construído sobre essas bases. Como a própria Jay Buolamwini diz no filme, “Data is destiny” - dados são destino e isso já prejudica indivíduos no dia a dia - em RH, em concessão e pontuação de crédito, em investigações criminais, entre muitas outras instâncias exploradas no filme.

Muitos dos algoritmos, apesar disso, continuam sendo tratados como a verdade objetiva.

A cientista Cathy O Neil, entrevistada no filme e a autora do Weapons of Math Destruction, fala sobre como a matemática pode ser usada neste caso - como um escudo para práticas corruptas ou que leva a informações simplesmente incorretas, algo que é agravado pela pouca transparência de como os algoritmos chegam aos resultados mesmo para quem os programou. Essa batalha de rap fictícia entre ciência de dados e estatística clássica ilustra muito bem esse aspecto da falta de transparência.

A discussão sobre viéses é muito rica e tem vários desdobramentos que se aplicam diretamente à indústria de pesquisa e insights (onde ela já é bem mais antiga) - em especial mitos sobre precisão, rapidez e infalibilidade de  algumas soluções para análise de dados. Além disso, é pivotal para entender algo muito parte do espírito de nossos tempos: a lógica dos algoritmos e como ela afeta o dia a dia das pessoas e também porque a diversidade importa tanto, para mais além da prerrogativa moral. 

Pesquisa qualitativa pós pandemia - quando vale a pena fazer presencial?

A pandemia e o grande período em que os formatos presenciais não eram possíveis e os online eram a única opção para os estudos qualitativos trouxeram muitas reflexões sobre as vantagens, desvantagens e melhores usos para cada um deles. O online ganhou muito espaço e derrubou alguns preconceitos importantes, e para muitas empresas, pela velocidade e pelo impacto em custos, certamente se tornou o novo padrão. No entanto, existem muitas circunstâncias em que o campo presencial pode ser a melhor escolha, e em alguns países em que as restrições foram reduzidas mais rapidamente do que no Brasil, especialmente nos EUA, os estudos qualitativos presenciais estão voltando rapidamente - o que será que está fazendo falta?

Em grupos focais, os formatos presenciais permitem que estejamos com mais pessoas ao mesmo tempo. Nos digitais, a partir de um certo número de pessoas fica muito difícil gerenciar a vez de falar de cada um e negociar as interrupções de forma a ouvir todos os participantes - por isso, nosso número limite “mágico” é de 5 pessoas para sessões online. Essa alternância mais negociada das vozes acaba atrapalhando um pouco a espontaneidade e faz com que os participantes fiquem mais hesitantes em começar a falar em relação a um grupo presencial, e mais importantemente, diminui as interações entre os participantes. Isso pode ser um problema especialmente em sessões com foco mais criativo.

Nas sessões individuais como entrevistas em profundidade ou trabalhos com um olhar mais etnográfico vemos diferenças mais marcantes entre online e presencial. A própria transição de ambiente (de país, cidade, bairro, vizinhança) já nos traz reflexões sobre contrastes e nossa capacidade de aprender com o não-dito, assim como é bastante amplificada a chance de descobrir algo que não estava previsto ou não estávamos procurando - daí muitas vezes saem as descobertas mais importantes de um determinado projeto! Estar presencialmente no ambiente em que a pessoa mora nos permite enxergar detalhes e nuances (da dinâmica familiar a rastros do estilo de vida espalhados pela casa - coisas inclusive que podem contradizer o discurso da pessoa) muito mais difíceis de capturar no online. As tarefas assíncronas como diários ou exercícios mais visuais, ainda que tenham um caráter inerentemente editorial (o participante mostra o que quer mostrar, não necessariamente o que queremos ver ou a coisa como ela é), tem um papel fundamental em nos ajudar a fechar essa lacuna entre o digital e o presencial nestas circunstâncias.

Deixamos aqui algumas perguntas rápidas para ajudar você a decidir o caminho que faz mais sentido para seu projeto. A ideia não é ter algo absoluto, rígido ou imutável - com certeza existem exceções aos pontos que trazemos aqui, mas ajudar na reflexão sobre a escolha metodológica.

1. As questões de negócio estão centradas no discurso, no comportamento ou no contraste entre os dois? O quanto o contexto (ambiente, situação de uso, interação com outras pessoas) importa? Quanto mais centradas no discurso e menos importante for o contexto, menos perda temos com o online.

2. As questões de negócio do projeto são mais sobre sobre o uso e o dia a dia (tangíveis) ou sobre marca e percepção (intangíveis)? Quanto mais orientadas ao uso, mais o presencial pode fazer sentido

3. O projeto envolve interação física ou sensorial (olfato, tato, paladar) com algum produto? Ainda que seja possível pedir que o participante descreva as sensações, a captura do não verbal e da primeira impressão funcionam muito melhor presencialmente.

4. A realidade do participante é muito distante da dos tomadores de decisão? (Rural x urbano, grandes diferenças etárias, socioeconômicas, culturais, de estilo de vida, etc.) É um público que a empresa já estudou extensivamente ou tem bastante repertório sobre?  Quanto mais distante e menos histórico temos, mais vantagens temos em fazer campo presencial

5. Qual é o nível de literácia digital do público que estamos estudando? Quanto mais baixa, mais perdas potenciais temos no online, especialmente usando plataformas especializadas para pesquisa e não algo como WhatsApp, Zoom, Google Meet, etc..

Por fim, nossa ideia não é advogar pelo presencial em detrimento do online em um momento de derrubada das barreiras e tantas tecnologias aplicadas surgindo, mas sim evitar que o presencial seja descartado por padrão como algo ultrapassado. Em muitos casos, abordagens combinado os dois caminhos podem fazer muito sentido. O que defendemos é que essa decisão seja tomada considerando as questões de negócio de cada projeto e o que funciona melhor metodologicamente caso a caso, não por hype, comportamento de manada ou os interesses econômicos de quem vende soluções empacotadas.