EN PT/BR
INTRODUÇÃO
Eu, [humano] de cor1, só quero uma coisa:
Que jamais o instrumento domine o [humano].
—Frantz Fanon, Peles negras, máscaras brancas (1952)
Fanon fez esse apelo assim que os primeiros computadores digitais estavam sendo construídos nos EUA. Quase setenta anos depois, as tecnologias da informação construídas com inteligência artificial (IA) e aprendizado de máquina (AM) estão sendo cada vez mais impregnadas nos tecidos sociais e cívicos em todo o mundo, codificando injustiças coloniais em infraestruturas globais de informação. A ferramenta de software passou a possuir o “humano de cor”.
Quem constrói essas ferramentas? Muitos trabalhos novos em IA e AM são informados por um entendimento de IA e AM que está enraizado nos valores culturais e legais do Norte Global. Mas os usos da IA e AM estão situados em diferentes localidades culturais, políticas e geográficas, onde também existem diferenças de poder e agência entre as pessoas que interagem com essas tecnologias. Com demasiada frequência, os futuros tecnológicos são determinados apenas por pessoas com formação avançada em sistemas tecnológicos e com entendimento achatado do cenário social.
Como a escritora Audre Lorde disse em 1979, “as ferramentas do mestre nunca desmontarão a casa do mestre”. Assim, nosso trabalho, como pesquisadores críticos, artistas e ativistas, deve começar desmontando esses clichês, para construirmos juntos um entendimento coletivo dessas ferramentas e instrumentos. Esta publicação é uma resposta coletiva a essas e muitas outras questões, a fim de propor uma ressignificação afetiva das possibilidades de maquinar inteligências.
A origem desta publicação:
O evento Afetando Tecnologias, Maquinando Inteligências
Esta publicação serve como um registro cuidadoso de apenas três dias – período em que um grupo incomum de pessoas estava na mesma sala e iniciou uma conversa tão rica e urgente que nós, como organizadores, pensamos que o grande público se beneficiaria de também participar. Daí este livro.
Nesta obra, coletamos as apresentações e os projetos apresentados pela primeira vez no evento Afetando Tecnologias, Maquinando Inteligências (at/mi), realizado de 5 a 7 de fevereiro de 2020 em São Paulo. Este evento reuniu uma coalizão diversificada de pessoas cujo trabalho une tecnologia, computação, arte e humanidades/pesquisa social. A maioria dos convidados estava ligada ao Sul Global e/ou modos de pensar descoloniais, feministas e indígenas. Eles compartilhavam uma disposição ativista e colaborativa, especialmente por meio de formas participativas e performativas de construção de conhecimento, pesquisa e prática artística. Nosso evento apresentou este trabalho por meio de palestras com os convidados e forneceu tempo para colaboração via perguntas e respostas, discussão e workshops.
No Instituto de Estudos Avançados da Universidade de São Paulo (IEA-USP), durante
as manhãs dos três dias de evento, ocorreram as apresentações mais formais dos pesquisadores convidados.
Fonte: Leonor Calasans/IEA-USP
Esta publicação e suas partes
Em primeiro lugar, esta publicação inclui um resumo do evento colaborativo e das pedagogias nele envolvidas, incluindo o trabalho em grupo que construímos juntos em sessões, workshops e performances. Vale mencionar, esta descrição foi escrita por muitas mãos, incluindo os próprios participantes. Após esta introdução estão os textos de cada um dos participantes que apresentaram seus trabalhos. Textos estes escritos especialmente para esta publicação e, em sua maioria, expansões da palestra proferida no evento. O conteúdo está organizado em quatro seções, cada uma representando uma forma de reimaginar nossas relações com a computação.
A primeira seção, Imaginários e contracorrentes, preocupa-se em desvendar os clichês por trás dos sistemas computacionais contemporâneos para considerar outras maneiras de pensar sobre eles. Esta seção começa com o artigo de Katherine Ye, “O Vale do Silício e a língua inglesa”, que desconstrói uma frase que advém do Vale do Silício, “construímos ferramentas centradas no ser humano que escalam”, para lançar luz sobre uma cultura desenhada lá e propor maneiras de criar novas contraculturas computacionais. O capítulo seguinte, “Superando os limites da racionalidade em humanos e em máquinas racionais por meio da personalidade relacional do Ubuntu”, de Sabelo Mhlambi, repensa a racionalidade incorporando epistemologias e ontologias da África Subsaariana. Para Mhlambi, repensar a tecnologia significa descolonizá-la considerando, por exemplo, perspectivas alternativas que se concentram na pessoalidade, que ele encontra no Ubuntu. Em seguida, em “Ensinando técnicas: Três (re)arranjos e relinguagens”, Dalida María Benfield propõe reflexões para se pensar criticamente sobre o potencial da técnica e da pedagogia na contemporaneidade, quando educação e tecnologia estão sendo “posicionadas como alavancas para a modernização e o desenvolvimento”. Finalmente, em “Uma prévia de buscadores divergentes”, Rodrigo Ochigame mostra alguns experimentos para a criação de algoritmos alternativos para pesquisa tendo como foco perspectivas divergentes, em vez de maximizar uma noção típica de utilidade (por exemplo, encontrar o que é popular ou trending).
A segunda seção, Algoritmos no trabalho, considera as relações entre automação mecânica e trabalho humano. O texto “O que circula sobre trabalho digital, IA e futuro do trabalho”, de Rafael Grohmann, discute as contradições do trabalho na era digital, ao mesmo tempo que aponta possibilidades de formas novas e mais justas de trabalhar junto. Em seguida, o GAIA (representado por Bruno Moreschi, Guilherme Falcão e Bernardo Fontes) apresenta seu projeto Exch w / Turkers, que visa destacar as camadas humanas do gig work no caso das IAs. Por fim, Amanda Chevtchouk Jurno discute em seu texto, “Mediação jornalística × mediação algorítmica”, a plataformização do trabalho jornalístico e como esse processo levou à transformação da mediação de notícias em um processo algorítmico de filtragem e seleção.
A terceira seção, Imagem e inteligências, preocupa-se em pensar sobre como as máquinas veem o mundo, e como podemos criticar ou reimaginar essas visões. O primeiro texto, “As verdades dos deepfakes”, de Giselle Beiguelman, aborda a construção de deepfakes e como estes representam e questionam nossas novas culturas visuais. A seguir, Gabriel Pereira apresenta “Maneiras alternativas de ver-entender algoritmicamente”, em que discute o papel da visão computacional no mundo como uma forma de ver-entender, ao mesmo tempo que pensa em alternativas possíveis. Por fim, Didiana Prata encerra a seção discutindo “Calendário de imagens dissidentes: Uma memória gráfica da política brasileira no Instagram”, apresentando seu projeto artístico, que cria novas formas de visualizar a política no Brasil a partir de dados das redes sociais.
A quarta seção, Comunidade e solidariedade, reúne ideias para repensar nossa relação com a tecnologia a partir de perspectivas feministas e descoloniais de comunidade, solidariedade e pedagogia. O artigo de Jennifer Lee, “Criando uma política de tecnologia centrada na comunidade”, apresenta uma história sobre a tecnologia e o poder nos EUA e, em seguida, discute projetos liderados pela União Americana de Liberdades Civis de Washington (ACLU-WA) que focam nas comunidades para a regulamentação de tecnologias. Na sequência, Taís Oliveira apresenta seu estudo “Uma nova economia é possível? Perspectivas a partir das redes sociotécnicas”, que foca no afro-empreendedorismo no Brasil, propondo possibilidades de criação de novas economias baseadas em solidariedade e identidade. Por fim, Silvana Bahia mostra seu trabalho com o makerspace do Olabi e os diversos projetos apoiados por esta organização em “Por mais diversidade na tecnologia”.
Fonte: Participantes do workshop
A publicação termina com uma experiência textual de Sylvain Souklaye que torna visível o trabalho invisível de produção e facilitação do evento e também desta publicação (mais detalhes sobre a primeira guarda na página 27). Em um único texto, Souklaye combina vários e-mails (trocados pelos organizadores nos quatro meses que antecederam o evento), em uma voz composta que fala do trabalho de organização.
Sessões de criação colaborativa
Começamos no IEA-USP, na sala Alfredo Bosi. Durante as três manhãs do evento, nos reunimos neste local para as palestras, que foram seguidas de perguntas e respostas. Essas apresentações foram todas gravadas e assistidas pelo público. Durante as tardes, nos encontramos no incrível espaço do GAIA (Grupo de Arte e IA) do C4AI / Inova-USP, onde realizamos as sessões de produção colaborativa e workshops. Este espaço, por seu caráter livre e aberto, foi particularmente útil para nós, pois permitiu a fácil circulação de pessoas, e também a formação de diferentes grupos sem que o local ficasse apertado. As sessões colaborativas foram facilitadas por Dalida María Benfield (DMB), Bruno Moreschi (BM), Gabriel Pereira (GP), and Katherine Ye (KYE). Temos diferentes níveis de expertise em facilitação – alguns de nós têm mais experiência em facilitar educação pública, enquanto outros trabalharam mais de perto com organização comunitária ou prática artística.
Dia um
Durante a primeira sessão de criação colaborativa, queríamos que as pessoas se conhecessem, então começamos com dois exercícios destinados a apresentar os participantes.
O primeiro exercício foi denominado “Apresente seu parceiro”. Dividimo-nos em pares e pedimos a cada pessoa para entrevistar brevemente uma outra e, em seguida, apresentar o parceiro ao grande grupo. Convidamos cada pessoa a escrever, durante a entrevista, algumas palavras-chave sobre o trabalho do parceiro em post-its que seriam usados no passo seguinte.
No próximo exercício, chamado “Mapeando uma constelação do nosso trabalho”, dividimos todos em pequenos grupos de cerca de cinco pessoas e, em seguida, pedimos a cada grupo para organizar seus post-its no espaço e desenhar as maneiras que as palavras-chave relacionadas aos seus trabalhos se conectavam às dos outros. Por fim, convidamos cada grupo a apresentar seu mapa ao grande grupo, que discutiu um a um. Essas conversas foram muito envolventes, o que demonstrou que as pessoas estavam se engajando no trabalho umas das outras. Além disso, todas as constelações de mapeamento foram bastante únicas: enquanto algumas dependiam do quadro branco e usavam setas, outras utilizavam o chão e a proximidade.
Como facilitadores desta sessão (KYE+GP), tomamos notas sobre os assuntos que pareciam emergir das discussões e chegamos a seis temas principais:
1. Fugindo da captura institucional (da diversidade)
2. Como o subjetivo se choca com o algorítmico?
3. Modos diferentes de alternativas
4. Como a arte é uma tecnologia?
5. Muito rápido para a linguagem
6. Como você pode hackear se você não pode significar?
Desafiamos os participantes a escolherem um desses temas provocativos e fazerem algo rapidamente no intervalo de meia hora. A ideia era isto servir como um aquecimento para as sessões de colaboração prática que viriam. Os grupos produziram uma coleção intrigante de protótipos.
Para “Como o subjetivo se choca com o algorítmico?”, um grupo propôs uma start-up que “estouraria o filtro-bolha” invadindo seus aplicativos para sugerir coisas que você normalmente não escolheria. Por exemplo, “se você normalmente deslizaria para a esquerda, o sistema deslizará para a direita”.
Para “Muito rápido para a linguagem”, um grupo propôs uma start-up chamada “Otherment”, para nomear sentimentos e situações que a nova tecnologia criou mas que a linguagem ainda não alcançou. Por exemplo: uma fonte feita com a letra de alguém seria chamada “Handtypus”. Um rosto gerado por computador, que você acha real mas na verdade não existe, seria chamado de “cara de Troia”.
Para “Fugindo da captura institucional”, um grupo propôs um mecanismo semelhante a uma caixa que poderia capturar sorrisos da vida real, transformando-os em representações ainda mais realistas.
Para “Modos diferentes de alternativas”, um grupo discutiu o conceito de “Sankofa”, simbolizado pelo ícone africano do ganso que olha para trás enquanto seu corpo move-se para frente, e propôs que uma nova tecnologia fosse desenvolvida por meio de um retorno a raízes ancestrais.
Para “Como a arte é uma tecnologia?”, um grupo saiu da sala e conduziu uma performance participativa centrada em um tronco de árvore presente no campus da universidade. Durante a performance o grupo pediu às pessoas que dissessem palavras para descrever o tronco, juntando-se em um coro, enquanto questionava as relações entre materialidade, tecnologia e prática performática. O tronco, resultado de um raio que caiu em uma árvore próxima, foi levado para a sala GAIA, e nos acompanhou pelo resto do evento.
Dia dois
No segundo dia, queríamos ajudar as pessoas a encontrar parceiros para colaboração, e então começamos as apresentações com a seguinte proposição: “Conte-nos sobre aonde você está tentando ir, do que/de quem você precisa para chegar lá, e o que você pode oferecer”. As pessoas se apresentaram ao grande grupo respondendo a esta questão. Sugerimos que as pessoas observassem aquelas com as quais poderiam querer colaborar ou contribuir.
Então, nós abrimos para algumas horas de tempo não estruturado, onde as pessoas podiam fazer o que quisessem. Sugerimos apenas que as pessoas tentassem falar com participantes diferentes, em vez de trabalhar com os primeiros grupos que se formaram (por exemplo, as pessoas que estivessem sentadas por perto). Nós, facilitadores (GP + KYE), pedimos às pessoas que se deslocassem sempre que percebemos que ficavam muito tempo no mesmo grupo, para criar mais movimento e trocas no espaço. No final do tempo designado, vimos vários grupos se unirem. Esses grupos começaram a trabalhar juntos, pensando também na possibilidade de apresentar o que construíram e discutiram até o final do dia seguinte, quando teríamos performances e apresentações.
À noite, tivemos dois workshops. O primeiro, ministrado por Lucas Nunes e Rafael Tsuha, intitulava-se “Uma brecha dentro do museu – Problematizando a visão computacional das IAs comerciais”. Os dois pediram aos participantes que usassem a plataforma Recoding Art como uma forma de encontrar “resultados inesperados” em uma coleção de museu. Estes resultados foram então usados para criar um zine mostrando essas múltiplas maneiras de ver a arte. O workshop e sua discussão tiveram como objetivo demonstrar os (des-)usos das IAs em um contexto de artes visuais, e possíveis formas alternativas de usá-las considerando seus “erros” como poéticos e cômicos.
O segundo workshop, ministrado por Bernardo Fontes e Bruno Moreschi, pediu aos participantes para atuarem como turkers da Amazon Mechanical Turk, de modo a incorporar o seu trabalho invisível. Os participantes se dirigiam a uma mesa repleta de microtarefas, como “Tire uma foto sua e envie o resultado”, pelas quais recebiam dinheiro imaginário da ordem de centavos, sendo alternadamente repreendidos e elogiados pelos facilitadores, que assumiam o papel da Amazon. No final, os participantes compararam quem havia ganhado mais dinheiro e discutiram quais são os problemas específicos de fazer microtrabalhos online. Houve, por exemplo, muita discussão sobre o potencial dos solicitantes de rejeitar tarefas, a possibilidade de os trabalhadores apoiarem uns aos outros e a dificuldade de entender para que serviam as tarefas. A principal contribuição desta discussão foi pensar sobre como este trabalho virtual é realmente real e opera em uma fisicalidade que não pode ser ignorada.
Dia três
No último dia, os participantes se envolveram em uma sessão final de criação colaborativa. A sala foi tomada pela energia frenética da construção enquanto as pessoas compilavam o trabalho em zines, ensaiavam apresentações e escreviam código. Em seguida, passamos a apresentações e performances dos cinco grupos.
Nas tardes e noites, o grupo trabalhou coletivamente na sala do Grupo de Arte e Inteligência Artificial (GAIA), parte do C4AI, Inova-USP. No local, a rede de pesquisadores não apenas programou e realizou ações digitais, como também experiências corporais no espaço físico do GAIA.
Fonte: Participantes do workshop
Primeiramente, Gabriel Lemos e André Damião executaram uma peça sonora chamada Guerra não linear, baseada na estratégia russa de guerra híbrida, que emprega desinformação e subversão cultural para desorientar alvos militares e civis. Originalmente composta para a 9ª edição do Festival Novas Frequências, realizado na cidade do Rio de Janeiro em dezembro de 2019, a composição participativa Guerra não linear explora diferentes relações entre ruído, (contra)informação, espaço acústico e arquitetura. Através de alto-falantes e dispositivos sonoros portáteis, músicos e público realizam um cortejo guiados por partituras verbais e vias urbanas. Para o nosso evento, o duo adaptou o formato móvel para uma apresentação reduzida, valendo-se de dispositivos eletrônicos e percussão para ocupar o espaço acústico da sala do GAIA.2
Em seguida, Sabelo Mhlambi apresentou um trabalho em andamento em sua plataforma, o CitePOC, para incentivar citações de trabalhos por acadêmicos negros. O CitePOC permite aos usuários criar e encontrar referências a trabalhos acadêmicos de pessoas de cor. A plataforma atualmente se concentra especialmente em ética, tecnologia e política.
Em seguida, um grupo formado por Luciana Santos Barbosa, Amanda Chevtchouk Jurno, Rafael Tsuha e Katherine Ye apresentou uma performance baseada nos temas de oralidade, alfabetização e subjetividade. A questão era: como pode uma transcrição registrar as diferentes subjetividades de cada pessoa que fala, em vez de achatar as palavras em uma escrita sem afeto? Três membros do grupo realizaram leituras de diferentes textos. A cada leitura, o texto lido era transcrito e projetado de acordo com heurísticas do afeto de cada pessoa: a inclinação da palavra ia de acordo com a inclinação da cabeça da pessoa ao dizê-la, o tamanho da palavra se formava de acordo com o volume. (O grupo escreveu um software personalizado para navegadores usando deep learning para transcrição e visão computacional.) Por fim, o grupo convidou os membros do público a se apresentarem na interface. Um deles cantou em espanhol, outro falou em zulu.
Em seguida, um grupo composto por Bruno Moreschi, Rodrigo Ochigame e Bernardo Fontes apresentou uma versão inicial do protótipo de um sistema de mapas chamado DesRota que, em vez de encontrar o caminho mais curto entre dois pontos, encontrou caminhos que tentavam maximizar a serendipidade, para mostrar ao usuário uma nova maneira de viver a vida. A ideia era que, se o software pensasse que você provavelmente iria, digamos, visitar um templo budista em Nova York, ele poderia levá-lo a visitar vários locais de outras religiões no caminho. Em outras palavras, o sistema visava criar caminhos que maximizassem divergência em vez de eficiência.
Por fim, um grupo composto por Dalida María Benfield, Jennifer Lee, Gabriel Pereira e Carol Berger apresentou quatro peças examinando o tema de como os ativistas poderiam intervir nas práticas injustas da Big Tech exercendo seu próprio poder. A primeira peça foi um zine examinando o tema da recusa, para o qual os participantes foram convidados a contribuir livremente com seus pensamentos sobre recusa e resistência às tecnologias, e responder às ideias de outros.
A segunda peça foi uma instalação participativa onde as pessoas puderam escrever do que eram a favor e contra. Marcando em um pedaço de papel branco suas opiniões sobre o que a tecnologia deve ou não se tornar, os participantes discutiram sobre como podemos moldar melhor nosso futuro tecnológico.
O grupo também apresentou uma performance participativa, em que os participantes usaram seus corpos de maneira lúdica para considerar como as tecnologias moldaram sua relação com o mundo e como é possível reformular suas respostas em relação a elas. As questões colocadas em papel tornaram-se materiais para a atuação: concordâncias e divergências movimentaram à mesma área da sala os corpos dos participantes que estavam alinhados.
A última peça foi uma performance participativa que pedia às pessoas que se sentassem à mesa de negociações, como membros de um grupo marginalizado ou como membros de uma grande coalizão de tecnologia. Este trabalho foi inspirado na obra de Augusto Boal Teatro do oprimido. Os membros do grupo facilitaram várias cenas de suas próprias experiências defendendo comunidades marginalizadas, como, por exemplo, encorajando membros da comunidade a pressionarem empresas com boicotes e também mostrando como um representante de uma grande empresa de tecnologia faria uma promessa e depois não a seguiria. Os participantes se revezavam em diferentes posições, vivenciando a sensação de estar em ambos os lados da mesa e imaginando juntos que modos de colaboração e oposição poderiam gerar melhores formas de diálogo.
Ao final, Jennifer Lee e Katherine Ye nos conduziram durante uma sessão colaborativa de “fazer chuva”. Por meio de um crescendo e diminuendo de som junto com nossos corpos (esfregando as palmas das mãos, estalando os dedos, batendo nas coxas, batendo os pés e repetindo), o exercício nos deu uma sensação corporificada de nossa capacidade de trabalhar juntos para criar poder coletivo.
Seguimos madrugada adentro em uma comemoração juntos, em um típico “boteco” no centro de São Paulo. Neste que não foi um fim, mas sim um começo!
Fonte: Participantes do workshop
Em direção a uma contracultura
Esperamos que você sinta vida nestas páginas, uma pulsão que não pode ser capturada em qualquer folha impressa. Essa energia vibrando nas entrelinhas vem daquelas conversas que se iniciaram em São Paulo em fevereiro de 2020, quando começamos a conversar em almoços, jantares, intervalos, no metrô, em quartos compartilhados e por e-mail, desafiando e aprofundando nossos caminhos de pensamento colaborativos. Como organizadores, valorizamos essas trocas como colisões produtivas, como sinais de vida de uma nova contracultura da computação que esperamos nutrir. É um pequeno mundo, e esperamos ser apenas um entre muitos. Como dizem os Zapatistas, “o mundo que queremos é aquele onde cabem muitos mundos”. Convidamos você, leitor, a considerar como o nosso mundo se ajusta ao seu.
Na noite de encerramento do evento, os artistas Gabriel Lemos e André Damião realizaram a performance Guerra não linear.
Fonte: Participantes do workshop
1 Não é possível manter, no português, a articulação entre as palavras “Man” [homem] e “Human” [humano], do inglês. Decidimos, portanto, pela palavra “humano”, visto que engloba mais sujeitos. Ademais, nossa decisão pelo uso da expressão “de cor”, aqui e em outros pontos do livro, é baseada em sua utilização nos movimentos de justiça social nos EUA para centrar a solidariedade entre grupos sociais não brancos. “De cor”, assim, engloba múltiplas identidades racializadas que são marginalizadas em diferentes contextos. Nesse sentido, nosso uso do termo busca preservar esses significados originais em inglês. [N.T.]
2 Um vídeo da performance está disponível aqui:
