EN PT/BR
Projeto Exch w/ Turkers: Aproximações, individualizações e resistências
Bruno Moreschi, Guilherme Falcão
e Bernardo Fontes [GAIA, c4ai, Inova USP]
[Bruno Moreschi]
Antes do início da apresentação do projeto em questão, gostaria de oferecer um certo contexto de onde ele surgiu.1 O Grupo de Arte e Inteligência Artificial (GAIA) foi iniciado a partir de uma residência artística que comecei a fazer em março de 2019 no C4AI, Inova-USP – Centro de Inovação da Universidade de São Paulo. Inicialmente era para ser apenas um período de trabalho artístico com a equipe deste centro, mas a carência de projetos críticos relacionados com infraestruturas digitais me pareceu tão grande que, estimulado pelo diretor do C4AI, o professor da Politécnica da USP Fabio Gagliardi Cozman, e pela artista e professora da Faculdade de Arquitetura e Urbanismo da USP Giselle Beiguelman, pouco a pouco criamos uma rede maior com mais pesquisadores, de diferentes áreas de conhecimento, mas com um interesse em comum: discutir IA de forma não abstrata, localizando e problematizando de fato seus elementos, organizações e implicações sociais. A lógica segue um misto de engenharia reversa com crítica institucional.2
Em vez de contar todas as nossas frentes atuais de pesquisas (já são sete projetos em andamento), decidimos focar aqui em um específico, relacionado aos trabalhadores remotos que, de forma precarizada, treinam e mantêm os sistemas de IAs. Não sei se todos sabem quem são os turkers, nosso ponto central desta apresentação.
Atualmente, eles já são cerca de 500 mil pessoas que realizam trabalhos digitais na plataforma Amazon Mechanical Turk (AMT), mantida pela empresa norte-americana Amazon. Os turkers no AMT são responsáveis por realizar microtasks que computadores não podem executar com eficiência, conhecidos como HITs (Human Intelligence Tasks – Tarefas de Inteligência Humana). Eles são variados e podem incluir, por exemplo, transcrição de textos, pesquisa de informações na web, resposta a pesquisas e descrição de imagens para projetos como o ImageNet (Gershgorn, 2017).
Uma investigação realizada por Difallah et al. (2018) mostra que 75% deles são dos EUA, 16% da Índia e os 9% restantes de outros países. Estima-se que 2 mil a 5 mil trabalhadores podem ser encontrados na plataforma a qualquer momento (Ipeirotis, 2010). A massa de trabalhadores deste subsolo das práticas tecnológicas aumenta a cada dia e é considerada “o telos final do trabalho algorítmico” (Finn, 2017, tradução minha). Trata-se da nova conquista da economia capitalista algorítmica, a do “não lugar” de trabalho, território tão diluído quanto difícil de se regulamentar. Pesquisadores utilizam termos como “infoproletariado” (Antunes e Braga, 2018; Grohmann, 2018) para caracterizar o conjunto desses trabalhadores. A oportunidade dos turkers se conhecerem e estabelecerem contato entre seus pares é praticamente nula, o que impede a articulação da categoria em torno de uma regulamentação trabalhista, por exemplo.
Nosso projeto dialoga com as ideias de pesquisadores como Gray e Suri (2019), em especial a ideia de que o automatismo total dessas “máquinas inteligentes” não é uma realidade, já que parte
considerável do seu funcionamento só se viabiliza graças a duas práticas relacionadas ao sistema capitalista: primeiro, uma ampla exploração de recursos naturais; segundo, uma maciça utilização
de diversas forças de trabalho distintas, produzidas por humanos.
Nosso interesse aqui é no humano e na forma que ocorre sua exploração de trabalho para processos relacionados ao campo das IAs. No projeto que apresentamos aqui, o Exch w/ Turkers Exchange with Turkers – Trocas com turkers), a postura foi de aproximação com esses trabalhadores em uma lógica complementar aos muitos estudos quantitativos e demográficos sobre o tema. Nosso complemento aqui se dá a partir da decisão de se aproximar de alguns desses humanos de formas específicas, valorizando suas subjetividades. Em resumo, queremos falar desse exército de trabalhadores, mas caminhando entre as trincheiras, seguindo a lógica de que um
grupo social é formado por indivíduos unidos por certos pontos em comum, mas também diversos a partir de suas crenças individuais, gênero, raça, localizações geográficas específicas (ainda mais no
caso de um grupo que se constitui no ambiente online), etc.
Essa aproximação mais singular nos permitiu também não só acessar suas realidades individuais, mas, por conta de um contato mais íntimo, também confabular novas realidades coletivas com
esses trabalhadores. Com Exch w/ Turkers queremos destacar como parte dos sistemas de IAs são, na verdade, não processos resultantes de “máquinas inteligentes”, mas de máquinas com humanos inteligentes.
A página inicial do AMT, que promete trabalho constante, expõe de maneira muito explícita as ideias de Crary (2016) sobre o capitalismo tardio da contemporaneidade e seu contexto de consumo, trabalho, compartilhamento e disponibilidade online 24 horas por dia, sete dias por semana.
Homepage inicial da plataforma Amazon Mechanical Turk (AMT).
Além disso, temos uma segunda página no website, a principal do AMT, com a lista de micro jobs – trabalhos momentâneos que quase sempre oferecem remunerações muito baixas (é comum o pagamento de um centavo de dólar por serviço prestado) e períodos curtos de tempo para serem realizados. Além da baixa remuneração, temos também aqui uma lógica de pertencimento praticamente nulo entre os turkers e o que eles estão ajudando a construir e/ou manter. São raros os HITs que descrevem para quê suas ações solicitadas serão utilizadas ou mesmo um contexto geográfico ou conceitual do projeto que se relaciona com o trabalho oferecido. Em essência, os trabalhadores aqui não sabem o que exatamente estão construindo. Considero este um caso prático do que Marx (2010) chama de externalização (Entausserung), que faz não apenas o trabalho se tornar algo com existência externa, mas também que existe fora do criador.
Página do AMT com a lista de HITs disponíveis. https://worker.mturk.com. Acesso em 01 jun. 2020.
Para entendermos melhor quais tipos de trabalhos são esses oferecidos no AMT, apresento aqui duas listas. Esse material é parte de uma investigação realizada em conjunto com o doutorando Gabriel Pereira (Universidade de Aarhus, Dinamarca), o professor Fabio Gagliardi Cozman (Politécnica, USP) e o graduando Gustavo Aires Tiago (Ciências Sociais, USP) sobre os brasileiros que trabalham no AMT. No artigo que escrevemos juntos, discutimos como esses brasileiros são parte de uma sub-subclasse de turkers, já que são impedidos pela Amazon de receber suas remunerações de forma direta, o que os torna ainda mais explorados do que outros turkers (Moreschi et al., 2020). A primeira lista é um conjunto de HITs considerados estranhos escolhidos por esses 149 turkers brasileiros entrevistados:
“Analisar imagens de zebras”; “jogar videogame por uma hora”; “repetir o que a voz do Google e da Alexa falam”; “assistir filmes e avaliá-los”; “identificar flores e frutas em plantas brasileiras”; “desenhar caixas em ratos de laboratório em diferentes fotos”; “marcar partes de corpos de pessoas lutando”; “responder verdadeiro ou falso em um
questionário sobre maconha”; “circular quais funcionários em fotos estavam usando capacete”; “localizar endereços comerciais difíceis de serem encontrados em seus websites originais”; “fazer expressões faciais na câmera do computador”; “mapear móveis e pisos em uma cozinha”; “modificar frases escritas de forma imperativas como ‘tocar pagode na sala’ para ‘dar play em uma música de pagode na sala’”; “avaliar tweets no Twitter”; “transcrever recibos comerciais”; “descrever o que se vê numa foto do Tom Hanks”; “tirar fotos dos olhos”; “filmar quarenta gestos com a mão”; “dançar na frente da câmera”; “contar quantos grãos de milho havia em uma espiga”; etc.
A segunda é uma lista feita por esses mesmos turkers brasileiros, mas que agora apresenta alguns dos trabalhos que envolveram pornografia, conteúdo violento e/ou invasões de privacidades diversas:
“Apertar um botão pra enviar sms para outras pessoas”; “análise de imagens sexuais”; “moderar fotos de sites de relacionamento adulto”; “produzir vídeos entrando e saindo de casa”; “tirar fotos da calça, muitas vezes com pontos de vistas que incluem regiões íntimas”; “assistir filmes pornográficos de até trinta minutos de duração”; “jogar um
jogo no celular enquanto o rosto do trabalhador está sendo filmado”; “categorizar imagens de sites pornográficos”; “escrever uma história erótica”; “fazer upload de suas fotos pessoais”; “descrever imagens com pessoas mortas, repletas de sangue”; etc.
Sobre as listas acima, é importante destacar que não há nenhum tipo de apoio psicológico oferecido pela Amazon a esses trabalhadores. Os que optam por executar esses serviços precisam passar
por um absurdo e ineficiente controle que consiste basicamente em clicar em um botão de concordância, alegando ser alguém maior de idade e consciente de que pode encontrar algo pornográfico – uma maneira de a Amazon e os solicitantes protegerem-se de ações judiciais.
Este, portanto, é o contexto em que se insere o projeto Exch w/ Turkers. Agora, convido o designer Guilherme Falcão para explicar um pouco como foi a construção de um espaço virtual independente
do AMT para que nos aproximássemos dos turkers selecionados.
[Guilherme Falcão Pelegrino]
Um pouco da lógica foi dar voz a essas pessoas. Por isso, o projeto foi pensado como um ambiente de diálogo, incluindo chats específicos para os cinco turkers selecionados e um chat coletivo, onde
só esses turkers poderiam digitar, mas que poderia ser visto por todos que entrassem no website. Queríamos minimizar um pouco o anonimato dessas pessoas, que ficam no AMT simplesmente apertando botões e respondendo perguntas das mais complexas às mais simples. Queríamos trazê-los para a superfície.
Trabalho com Moreschi há pelo menos quatro anos, e, ao longo desse processo, construímos algumas premissas de como nossos projetos funcionam em termos de design e organização visual. O
que construímos aqui é fruto disso: uma interface que é com poucos elementos e mais essencial, digamos assim.
Em nosso projetos, temos preferência pelo uso de uma tipografia desenhada a partir de uma interpolação de várias tipografias que se pretendem neutras, desenhadas ao longo da história do design – ela se chama Neutral, o que é quase uma anedota para nós. Voltando ao projeto, tem também um desejo de tentar retornar um pouco àquela ideia mais “inocente” da sala de chat dos anos 1990, início dos anos 2000, em que entrávamos para conversar com pessoas distantes, espalhadas pelo mundo, ou talvez na esquina de baixo. Baseado nisso desenhei janelas fáceis de manipular: de expandir e aumentar, de mover no desktop, podendo até criar um certo
caos com um monte de janelas abertas ao mesmo tempo.
Página principal do Exch w/ Turkers – com as janelas de chats dos turkers fechadas.
Página principal do Exch w/ Turkers – com as janelas dos turkers abertas.
Também é possível ficar concentrado só no chat coletivo – em que apenas os turkers podem digitar. Além dessas funcionalidades,uma coisa que achamos importante inserir foi um botão de interrogação em cada janela dos turkers, que abre o perfil do trabalhador participante. Por meio desses perfis, o visitante pode conhecer um pouco sobre quem é aquela pessoa que está ali no dia a dia, trabalhando na plataforma da Amazon. Apresento aqui os perfis dos cinco turkers selecionados para o projeto – dois brasileiros, dois norte-americanos e um indiano.
O projeto também tem um pouco dessa brincadeira do preto e branco – algo muito marcante nas colaborações que o Bruno e eu fazemos, essa redução ao mínimo da informação. Quando se entra
no website pela primeira vez para criar um cadastro é tudo preto, e uma vez que você entra é tudo branco. Tem um pouco dessa ideia de “você está fora olhando para dentro, você está dentro olhando
para fora”, e do que é estar dentro e estar fora, à medida que você se aproxima um pouco de quem são essas pessoas e conhece um pouco mais a respeito delas.
Perfis dos turkers nas janelas de seus chats.
Por fim, é importante registrar que esse projeto foi feito em parceria com a aarea,3 uma plataforma online que apresenta trabalhos de arte concebidos especialmente para a Internet.
[Bernardo Fontes]
Fui responsável pelo processo de programação e criação do website, em parceria com o também programador Luciano Ratamero. Os turkers são trabalhadores em uma posição de extrema exploração no capitalismo. E, claro, isso tem impactos psicológicos nesses trabalhadores. Essa sempre foi uma das preocupações: além do pagamento ser algo mais justo do que no AMT,4
a interface ser algo que não atrapalhe a pessoa no desenvolvimento do seu trabalho. Também consideramos viabilizar esse projeto sem que ele fosse mais um canal para aquelas pessoas ficarem ansiosamente tendo que dar “CTRL+R” na página para ver se tem mensagem nova e tudo mais.
Para evitar esse vício, tomamos a decisão de que iríamos notificá-los de uma maneira assíncrona e não invasiva a partir de e-mails – sempre uma única mensagem por dia, consolidando todas as perguntas enviadas pelos visitantes. Portanto, o website pode dar a falsa impressão de que você envia uma mensagem e, automaticamente, um turker irá responder, mas não é isso que acontece. Os turkers tinham 24 horas para refletir sobre a questões e, só então, responder. A lógica do tempo é mais uma camada do AMT que subvertemos nesse projeto.
Por fim, nosso grupo acredita que precisamos repensar como as máquinas estão sendo treinadas por humanos, entendendo como a precarização dos trabalhos dos turkers interfere diretamente na
qualidade dos sistemas de IAs que são construídos atualmente na sociedade. Caso fossem mais valorizados, esses turkers não poderiam oferecer uma qualidade melhor de trabalho e, assim, construir sistemas tecnológicos melhores? Reside aqui um ponto fundamental para aqueles que almejam infraestruturas digitais mais éticas, justas e também verdadeiramente eficientes.
1 Parte desse texto utiliza trechos de pesquisas anteriores realizadas por Bruno Moreschi, em especial do artigo “Trabalhadores brasileiros no Amazon Mechanical Turk: Sonhos e realidades de ‘trabalhadores fantasmas’”, escrito em parceria com Gabriel Pereira e Fabio Gagliardi Cozman, publicado na revista acadêmica Contracampo (UFF), v. 39, n. 1 (2020).
2 Como nada de fato se faz sozinho no campo da pesquisa acadêmica e das artes, é preciso destacar que o GAIA jamais seria possível sem seus colaboradores. São pessoas comprometidas com a construção de um movimento crítico que tenta entender as transformações causadas ou intensificadas pelas tecnologias atuais para além das reações já tão divulgadas pelo Norte Global. Três apoiadores não poderiam deixar de ser mencionados aqui: o Center for Arts, Design, and Social Research (CAD+SR, Boston), o colecionador Pedro Barbosa, que apoia o GAIA e alguns de seus pesquisadores, a Faculdade de Arquitetura e Urbanismo da Universidade de São Paulo (fauuSP), e os professores já citados Fabio Gagliardi Cozman e Giselle Beiguelman, esta última dividindo comigo a coordenação do GAIA.
3 O projeto ficou em exibição no link https://www.aarea.co/ de 13 a 27 de março – foi neste período que ocorreram os diálogos com os turkers. Após essa data, o site migrou para o endereço https://exchanges.withturkers.net/, de forma estática, como uma espécie de arquivo do que aconteceu no projeto.
4 Os cinco turkers selecionados trabalharam 13 a 27 de março de 2020 em períodos de trinta minutos diários (com exceção de domingo), sempre respondendo as perguntas do público participante. Esse tempo foi estimado de modo a não se sobrepor às jornadas diárias de trabalho deles, e o valor hora/trabalho pago foi de dezesseis dólares – muito acima da média de dois dólares pagos no AMT. Mais sobre as condições de trabalho, contratos e outras informações do projeto, visite o “sobre” no site: https://exchanges.withturkers.net/sobre/
REFERÊNCIAS
ANTUNES, Ricardo (Ed.). Riqueza e miséria do trabalho no Brasil IV. São Paulo: Boitempo Editorial, 2019.
CRARY, Jonathan. 24/7: Late Capitalism and the Ends of Sleep. New York: Verso Books, 2013.
DIFALLAH, Djellel et al. Demographics and Dynamics of Mechanical Turk Workers. Anais da 11th ACM International Conference on Web Search and Data Mining, Los Angeles, 5 a 9 de fevereiro de 2018.
FINN, Ed. What Algorithms Want. Cambridge, MA: MIT Press, 2017.
GERSHGORN, Dave. The data that transformed AI research—and possibly the world. Quartz, 26 jul. 2017. Disponível em: https://qz.com/1034972/the-data-that-changed-the-direction-of-ai–
-research-and-possibly-the-world/ . Acesso em: 17 out. 2019.
GRAY, Mary L.; SURI, Siddharth. Ghost Work: How to Stop Silicon Valley From Building a New Global Underclass. Boston: Houghton Mifflin Harcourt, 2019.
GROHMANN, Rafael. Materialidades do trabalho digital no Sul Global e invisibilidades comunicacionais. Comunicação & Educação, v. 23, n. 2, pp. 153-163, 2018.
IPEIROTIS, Panos. Demographics of mechanical turk. NYU Working Paper No. CEDER-10-01, New York, 6 abr. 2010. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1585030. Acesso em: 15 jul. 2019.
MARX, Karl. Manuscritos econômicos-filosóficos. São Paulo: Boitempo Editorial, 2010.
MORESCHI, Bruno; PEREIRA, Gabriel. COZMAN, Fabio G. Trabalhadores brasileiros no Amazon Mechanical Turk: Sonhos e realidades de trabalhadores fantasmas. Contracampo, Niterói, v. 39, n. 1, pp. 44-64, abr./jul. 2020.
