Sonae Media Art 2019: Rudolfo Quintas
Selecionado como um dos cinco finalistas do Prémio Sonae Media Art 2019 pelo seu trabalho Keystone I, II, III, IV, V, Rudolfo Quintas discute aqui a nossa cultura mediada pelos dados e a história, a filosofia e a aplicação da Inteligência Artificial nesta era digital.
O trabalho é uma espécie de espelho que reflete não só o artificial, mas antes os conceitos de linguagem, consciência e memória – noções que não são inerentes à tecnologia, mas à humanidade.
Keystone I, II, III, IV, V está patente no Museu Nacional de Arte Contemporânea do Chiado até 2 de fevereiro.
Myles Francis Browne – Nós, no Ocidente, temos sido relativamente lentos a abraçar as tecnologias de IA. Quais são as causas da repentina recetividade à IA?
Rudolfo Quintas – Faz mais de meio século que a “maquina pensante” foi anunciada por Simon e Newell com a criação do programa Logic Theorist em 1956. Desde então a AI passou da academia e da esfera da ficção científica para a engenharia das decisões autónomas aplicadas na sociedade. É sobre o que queremos ou não automatizar na sociedade que devemos estimular a discussão publica. Quando não há discussão nada impede aos governos de avançarem com as tecnologias da forma como entendem. No caso da automação de procedimentos para decisões políticas e classificação dos cidadãos, os países menos democráticos, mais autoritários e economicamente mais poderosos estão na linha da frente, como o caso da China. Há claramente uma relação de poder e controlo desejada com a automação e classificação dos seus cidadãos. Também se comunicam largamente ideias falsas como a de que a AI é menos tendencial. Estas questões têm sido evidenciadas por investigadores que se dedicam à ética da AI. Kate Crawford (Microsoft Research) na palestra intitulada AI and The Rise of Fascism trouxe à consciência do domínio público a atual investigação em AI e o seu impacto político.
Temos que recordar que o problema nunca é a tecnologia. É o que o fazemos com a tecnologia. Se estamos a usar a tecnologia para libertar o homem ou para o condenar. Por exemplo no assunto da privacidade que é um conceito importante no Ocidente tornou-se um problema real porque não existe tal coisa como informação “cega”. Veja-se o caso do “The Privacy Project” um trabalho de jornalismo de investigação que o jornal The New York Times trouxe recentemente a público. A desinformação ou manipulação da opinião publica pelos governos (mais ou menos democráticos) e grandes corporações é o principal problema. Estas questões já têm raízes nos anos 80 com o movimento artístico cyberpunk. Podemos entender este movimento como uma primeira reflexão sobre o impacto das tecnologias no sistema capitalista e no perigo da utilização das mesmas pelos governos (vigilância, controlo, autoridade, classificação). Temos que estar atentos e desenvolver um pensamento critico porque já não estamos na esfera da ficção científica.
MFB – A filosofia ocidental tem também frequentemente considerado o eu como a única forma de consciência, muitas vezes considerando a IA como algo insidioso. De que maneira o trabalho desafia ou reafirma as noções do eu e de consciência?
RQ – Começo por te contar como fiz a minha primeira descoberta relativa à filosofia oriental: quando era criança comecei a praticar karaté. Adquiri por esta via uma nova consciência sobre o entendimento do corpo: como o de ouvir a respiração, o batimento cardíaco e compreender que o corpo continua para lá da minha pele. Uma prática que começa por dar atenção ao interior do corpo. Descobri que na filosofia oriental privilegia-se a relação do corpo com a natureza e o pensamento intuitivo que cresce a partir dessa relação. A consciência não está no Eu, mas desenvolve-se a partir da relação com o meio ambiente. A partir daqui desenvolvem-se entendimentos mais complexos como o de que o objetivo último do individuo é cooperar para o coletivo. Esta forma de pensar a vida faz com que o modelo de consciência no Oriente seja diferente do Ocidente. Neste sentido também a relação entre homem-máquina foi imaginada de forma distinta. O Ocidente assumiu o imaginário da guerra do bem contra o mal, continuando a história da separação entre o corpo e a mente. Veja-se o caso dos filmes de Hollywood. Contribuindo entre outras, a história do cristianismo e a filosofia cartesiana. No Ocidente o AI teve que ocupar um lugar no imaginário e esse foi o lugar do mal. Talvez seja por isso que desenvolvemos uma relação mais insidiosa. No mundo Oriental a relação homem-máquina foi desde cedo vista como uma ideia de cooperação.
Em “Keystone I, II, III, IV” estabelecem-se pontes entre estes dois conceitos: o individual e o coletivo. Uma memoria coletiva é criada e atualizada diariamente e através destas três diferentes esculturas que estão no chão escrevem cada uma ideias distintas. Era importante ter mais do que uma escultura a escrever frases para demostrar a divergência de ideias escritas. Ao desenvolver essa memória coletiva o trabalho fala-nos que a nossa consciência é partilhada e a partir da qual cada um de nós tem de ser critico e estabelecer a sua própria relação.
MFB – Dentro deste trabalho, a IA atua mais como um meio, aparentemente imitando e reproduzindo a linguagem humana, em vez de produzir a sua própria linguagem. De que forma a semântica permite distinguir entre inteligência artificial e natural – se é que o faz?
RQ – O discurso entre o que é natural e artificial pode ser controverso. Na maior parte dos casos a distinção entre os dois conceitos depende da janela temporal com que a observamos. Observando as características deste trabalho existem frases “naturais” que são lidas a partir do Twitter e as frases “artificiais” que são geradas pelas esculturas. A linguagem artificial e a natural alimentam-se mutuamente. As esculturas que estão no chão geram novas frases a partir de uma palavra que a escultura que está suspensa indica. Para esse efeito o sistema de AI teve que aprender a relação entre as palavras e a relação entre os seus significantes para falar dentro de um contexto. Foi decidido que por vezes essas frases eram mais realistas, parafraseando o contexto das frases do Twitter com muito realismo. Outras vezes tendo um grau de autonomia criativa maior. Nessas frases mais autónomas, momentos semelhantes ao de uma escrita criativa, transpõem o que seria espectável entre significantes semânticos. Escrevem coisas que por vezes são absurdas ou nos fazem rir pelas relações que estabelecem.
A questão que me coloco é quando as frases são mal escritas e geram pouco significado, estamos perante um trabalho mal programado, mal conduzido, ou perante uma sociedade que constantemente escreve coisas com pouco significado? Ou no pelo contrário quando essas frases são mais curiosas e criativas, é porque os artistas e os seus programadores fizeram um bom trabalho? É a peça responsável pelo sentido que as frases geram ou a sociedade onde ela aprendeu? Com as Kesytones não estamos a operar no âmbito da literatura. Não estamos a operar na geração do significado do que é escrito. Estamos a criar um dispositivo que nos leva a questionar sobre as relações entre memória coletiva e ação individual. Podemos entre outras coisas pensar qual é o significado de tantas mensagens escritas com pouco sentido. Com tão pouca vontade de esclarecimento sobre a vida. Se a linguagem escrita foi um artificio desenvolvido para comunicarmos melhor, para nos relacionarmos com mais entendimento e para podermos expressar melhor as nossas características individuais, qual é a verdade de milhares de frases todos os dias geradas com tão pouco sentido crítico?
MFB – É interessante que a obra publique no Twitter as suas conceções, muitas vezes absurdas, do que é informação. A plataforma parece um encaixe natural, dada a nossa cultura de “fake news” alimentada pelas redes sociais. O trabalho desenvolveu esta tendência naturalmente ou a produção desses comentários foi um objetivo inicial?
RQ – Ambos. Durante o período de três meses, o sistema colecionou, analisou e avaliou o sentimento de mais de 100 mil tweets na sociedade Portuguesa. O trabalho desenvolveu uma tendência de “Fake News” porque treinamos novamente o modelo de linguagem a partir da base de dados que geramos com os tweets colecionados. Aprendeu por isso a escrever ideias e frases baseado na forma como as pessoas escrevem no twitter: mensagens curtas, muitas das quais sem preocupações na construção semântica e com uma sintaxe pouco clara. Um modelo de AI desempenha melhor quando é treinado dentro de um contexto específico, um tema específico. No nosso projeto não estamos a trabalhar com um tema específico. Todos os dias a Keystone suspensa gera um conjunto representativo das palavras mais frequentes escritas nas últimas 24 horas em Portugal. Cada 30 segundos escolhe uma dessas palavras e verbaliza-a. As esculturas que estão no chão “ouvem” essa palavra e escrevem as suas próprias ideias a partir do que aprenderam sobre essa palavra. Não fazemos ideia de quais serão as palavras de amanhã e é provável que a AI escreva coisas com mais sentido se forem palavras mais referenciadas na memória de longo termo.
Nas frases que são construídas com relações de significantes semânticos mais distantes acontecem ideias curiosas que nós teríamos mais dificuldade em imaginar ou pensar. Dando o exemplo de uma das frases “O natal está a matar as casas de banho”. A frase é tão absurda que se torna curioso pensar sobre ela.
MFB – Apesar de os processos de recolha e de dados, isto é, os tweets, e a sua posterior reprodução analítica, parecerem altamente tecnológicos, também parecem estar relacionados à própria experiência humana que é a memória. De que forma a noção de memória está presente neste trabalho e como é que ela reflete as próprias capacidades de memória?
RQ – A memória é uma das funções cognitivas mais complexas que a natureza produziu. O ser humano tem tanta dificuldade em lidar com a memória que necessitou de criar artifícios para se recordar. Estes artifícios são diferentes consoante estivermos a lidar com a memória biológica (memória celular, sistema motor, orientação espacial, etc.) e memória dos afetos onde ficam sensações positivas ou negativas do que experienciamos ao longo da vida. Estas indicam-nos o caminho a seguir. E depois entramos num nível de memória que é a do coletivo. Esta memória pode ser e foi frequentemente manipulada ao longo da história. É este nível de memória que se demostra mais frágil e controverso para o ser humano. Porque ao longo da história o ser humano tem vindo a esconder, alterar e manipular a memória coletiva. E parece que somos péssimos a lidar com este tipo de memória. As pessoas esquecem rápido a memória que aborda o político e o coletivo. E foi este o nível de memória que me interessou como ponto de partida para a criação deste trabalho.
A peça é uma entidade não humana que desenvolve memória coletiva através da experiência humana. Cria uma memoria que não pertence a um individuo em concreto, não é a minha memória nem a tua, é uma memória do coletivo. Dependendo como esta memória for acedida, lida, visionada, permite-nos diferentes leituras. No final da exposição poderemos aceder a essa memória e saber quais as palavras que ocupam mais presença na sociedade portuguesa. Podemos fazer o raciocínio contrário de descobrir quais as palavras emocionalmente menos frequentes na sociedade portuguesa e pensarmos porquê. São estas as relações entre a arte, tecnologia e ciência que me interessam do ponto de vista artístico. Como o pensamento artístico e as humanidades podem utilizar os dados científicos, que nos possibilitem outras leituras sobre o comportamento humano, para assim nos entendermos um pouco melhor. Essa dimensão de espelho, de retrato, sobre o comportamento humano.