Ameaça ou oportunidade: o que significa a inteligência artificial para as artes?

Click here for the english version

Criada através do uso de ferramentas de inteligência artificial, não passava de uma réplica convincente, mas surpreendia ao reproduzir a voz dos artistas como se de uma produção autêntica se tratasse. Partilhada através da conta anónima Ghostwriter, a música conseguiu milhões de reproduções em plataformas como o Spotify, o TikTok e a Apple Music, até ter sido retirada a pedido da Universal Music Group, a editora discográfica dos dois artistas canadianos, alegando que continha uma sample não autorizada. Ainda assim, Heart on My Sleeve permanece disponível no YouTube, onde já acumulou mais de seis milhões de visualizações.

Este fenómeno não é novo. Com o advento de plataformas de IA (Inteligência Artificial), como a Amper Music ou a AIVA, que permitem a criação de músicas em diversos estilos e a imitação de vozes de cantores e rappers, é possível encontrar no mundo digital inúmeras canções produzidas através destas ferramentas. Em casos mais mediáticos, ouvimos artistas a interpretar obras de outros criadores: Ye (anteriormente conhecido como Kanye West) interpreta Hey There Delilah, dos Plain White T’s; Rihanna e Doja Cat unem-se para cantar o dueto de Brandy e Monica, The Boy is Mine, enquanto Drake colabora com Kendrick Lamar e Ye para interpretarem Fukashigi No Carte, a música dos créditos de um anime japonês.

A polémica em torno da música Heart on My Sleeve suscitou diversas questões que merecem ponderação sobre as possíveis ramificações do uso deste tipo de softwares.

João Gabriel Ribeiro, jornalista e fundador da revista Shifter, escolheu iniciar o debate dedicado ao tema na convenção do MIL 2023 pedindo aos convidados do painel para partilharem a sua definição de inteligência artificial. De que falamos exatamente quando falamos de IA? 

Sónia Queiróz Vaz é advogada e, como tal, a sua lente percetual enquadra-se numa conceção jurídica. Explica que já existe uma proposta de definição jurídica de inteligência artificial, porque já existe um quadro europeu para regular a inteligência artificial, embora esta proposta de legislação, o Artificial Intelligence Act, esteja ainda a ser discutida pela Comissão Europeia e pelo Parlamento Europeu. A advogada da sociedade Cuatrecasas diz que “basicamente, quando falamos de sistemas de inteligência artificial, falamos de software que, com alguns inputs prévios e algumas finalidades pré-definidas, gera e prevê diversos conteúdos e outputs”. A advogada refere-se a algoritmos de machine learning, uma técnica usada para ensinar máquinas através de exemplos. Quantos mais exemplos a máquina tiver na sua base de dados, maior será a sua capacidade de aprendizagem, e maior será a quantidade de artefactos sintéticos que consegue gerar. Atualmente, já existem algoritmos com estas caraterísticas capazes de gerar todo o tipo de conteúdos, desde texto a som, imagem estática a imagem em movimento. 

O raciocínio de Anna Cianuca parte precisamente desta noção. A filósofa e investigadora (atualmente na Universidade de Lisboa e na University College London) acredita que saber do que estamos a falar é muito importante. No caso de IA, temos duas coisas distintas: artificial e inteligência. Logo, antes de qualquer outra coisa, é preciso “deixar muito claro o que exatamente definimos em cada um dos casos”. Artificial, recorda, tem as mesmas raízes que arte e artefacto, o que implica que algo artificial é algo “que os seres humanos fazem”. Inteligência, por sua vez, “é uma das características humanas e é um dos tipos de conhecimento”. Colocando as duas terminologias juntas,

Numa altura em que há tanto desconhecimento, incerteza e suspeita em relação à inteligência artificial (“será que a IA vai levar a humanidade à extinção?, perguntamo-nos”), Anna Cianuca defende que “precisamos de voltar à definição base e de ter consciência de que a IA é simplesmente algo que os seres humanos criaram”. Carincur, artista transdisciplinar portuguesa, reforça esta ideia de não competição. Admite ter uma perspetiva um pouco poética sobre o assunto, dizendo não gostar de pensar em “espécies com dualidades competitivas”, por ver a inteligência artificial como apenas mais um ser com o qual coabitamos, quase natural – ainda que um ser que representa um avanço tecnológico e que é usado como ferramenta.

Aneesh Patel comenta que só o termo “inteligência artificial” consegue sempre deixar as pessoas intrigadas (“talvez por haver muitos filmes de ficção científica que fazem referência a IA”). No entanto, preocupa-se mais com as implicações da tecnologia do que propriamente com a sua definição. Enquanto diretor da AP Associates, uma firma de consultoria jurídica para a indústria da música, está mais interessado “no que distingue a inteligência artificial da produção criativa de um ser humano, e como isso se correlaciona com os conceitos de originalidade, que são exigidos pelas leis de direitos de autor”. Quem partilha estas preocupações é Marko Roca, profissional multifacetado na indústria da música e atual gerente de operações musicais na Collabhouse. Comenta que há atitudes muito diferentes em relação a estas tecnologias por parte dos criadores musicais – uns recebem-nas de braços abertos, outros com grande ceticismo –, mas algo comum a todos é a falta de certezas.

“Acho que não estamos numa encruzilhada, estamos ainda apenas a abrir a porta e a espreitar para o outro lado, a tentar ver o que vem aí. Da minha perspetiva, a inteligência artificial é essencialmente um grande ponto de interrogação”, acrescenta Marko Roca. João Gabriel Ribeiro aponta o que qualquer pessoa que se depare com tais reflexões não poderia deixar de concluir: não temos ainda uma plataforma consensual para falar sobre estes algoritmos, permanecendo, acima de tudo, uma enorme interrogação.

Neste debate surgem vários dilemas.

Afinal, já há programas – também eles algoritmos de machine learning – alimentados com dados neurofisiológicos e com instruções para prever que canções têm capacidade para ser hits, e conseguem fazê-lo com 97% de precisão. Para além disso, apesar de a inteligência artificial ser compreendida como uma ferramenta colaborativa que auxilia no processo criativo, há muitas preocupações éticas e legais, bem como o risco de cada vez mais se homogeneizar a indústria da música, limitando a evolução de novos estilos musicais. 

Wagner Lopes, um artista afro-brasileiro conhecido como Xu, tal como outros músicos, diz em entrevista à MIL Magazine, valorizar todas as ferramentas disponíveis, incluindo a inteligência artificial. Com o avanço tecnológico, casos semelhantes a Heart on My Sleeve têm potencial para se tornarem virais, mantendo vivo o debate sobre a aplicação dessas ferramentas por outros artistas. O artista diz que daria permissão para a utilização da sua voz, dependendo da comunicação e do entendimento sobre a sua aplicação. Afinal, essa permissão pode ser vista como uma estratégia promocional, contando que o artista mantenha a possibilidade de expressar opiniões sobre o produto final.

Plataformas como a Amper Music, a AIVA, a Magenta da Google, a MuseNet da OpenAI, a Amadeus Code, a Jukedeck, a Soundful, a Ecrett Music, a Soundraw, a Boomy, a Loudly e a WavTool ajudam artistas de diversas formas a chegar à criação final pretendida. Artistas como a Grimes e a ARCA usam ferramentas de inteligência artificial abertamente, com a primeira a lançar um software próprio (Elf.Tech) com a sua voz (que artistas podem utilizar inclusive para uso comercial, mantendo metade dos lucros), e a segunda a divulgar um disco com 100 remixes da mesma música gerados pela tecnologia Bronze.

Ainda assim, o mundo da arte pode estar a aproximar-se de uma revolução, após a qual a inteligência artificial não só imita, mas também compete diretamente com artistas. 

Atualmente, qualquer pessoa pode utilizar programas de produção musical, o que possibilita a criação nos mais diferentes estilos musicais, obrigando os profissionais do setor cultural a adaptarem-se a uma tecnologia em permanente evolução, muito mais rápida do que o ser humano, e que está a ganhar terreno a passos largos. Músicas como Heart on My Sleeve podem envolver diversos tipos de software – geradores de letra, de ritmo e de melodia, bem como de clonagem e de síntese vocal –, mas nem tudo é tão complexo. A maior parte dos artistas usa apenas uma dessas ferramentas de cada vez, tendo controlo criativo absoluto; afinal, se falarmos de inteligência artificial não em termos tão restritos, já nos anos 50 do século XX existiam máquinas capazes de gerar composições musicais, e produtores usam softwares capazes de gerar ritmos, sons e letras há décadas – para nem falar das ferramentas de auto-tune.

Wagner Lopes expressa a sua confiança de que os artistas ainda não enfrentam ameaças iminentes provenientes desta tecnologia, uma vez que “entra num campo que ainda não está sendo explorado”. Independentemente disso, afirma que, “na questão da inteligência artificial em relação à arte, ainda não existe legislação que preveja qualquer defesa de direitos sobre alguma obra, sobre a voz, sobre a imagem de alguém”, reconhecendo a complexidade do tema. Para ele, na indústria do entretenimento “o artista é sempre o elo mais fraco”.

Na sua perspetiva, os potenciais problemas que poderão surgir da utilização desta tecnologia apenas serão abordados caso afetem igualmente o lucro da indústria. “Quando uma música tem grande sucesso, quem está realmente a ganhar? Os artistas recebem uma percentagem significativamente menor do que parece”, afirma com convicção. Destaca que os mais afetados serão os artistas menos reconhecidos, que enfrentam dificuldades em reivindicar os seus direitos, devido à necessidade de uma “influência considerável” para financiar advogados e custos legais.

Já Carincur (cujo ‘outro’ nome é Inês Cardoso) conta, em entrevista à MIL Magazine, que a inteligência artificial se tem misturado bastante no seu processo criativo:

Body As A Frozen Metaphor, o seu último trabalho, é um exemplo desta dinâmica. Já trabalhou com programas de inteligência artificial noutras componentes, nomeadamente a nível visual, mas desta vez a IA entrou como colaboradora na vertente sonora – apesar de “o trabalho não crescer da inteligência artificial”, nem o foco do projeto ser o uso destas ferramentas.

“Neste projeto queria mesmo assumidamente que a computação, a programação, fosse um cocriador do meu processo criativo”, diz a também cofundadora da Zabra, editora e centro para criação pós-humana e experimentação que junta arte, tecnologia e ciência. Experimentou uma panóplia de ferramentas em busca das que melhor se adequavam. Na composição final, surgem sons gerados por IA, mas também a sua voz real: “utilizei clonagem de voz, manipulei a voz, e também expandi a minha voz orgânica por outros sentidos, o que não teria sido possível sem inteligência artificial. Usei ferramentas que permitiram transformar o sinal de áudio (que podia ser voz ou instrumentos) em sinal de MIDI, e transformar isso noutros instrumentos. Também utilizei o ChatGPT, que foi extremamente útil até mesmo a nível de desenvolvimento do pensamento, ajudou-me a expandir melhor o conceito por trás do projeto e descobrir com maior clareza o que andava à procura”.

Como Body As A Frozen Metaphor é um disco de música imersiva, uma performance e uma aplicação de realidade virtual, a tecnologia também entrou em domínios para lá do exclusivamente sonoro, nomeadamente na apresentação do projeto ao público. Carincur explica que, para lá da composição e produção musical, desenvolveu, com a ajuda de três outras pessoas, a aplicação de realidade virtual, “que funciona como instrumento de ativação da música neste universo”. A aplicação “ainda permitiu ir mais a fundo nesta questão de abandonar os limites do corpo orgânico, já que há uma realidade mista, então a performance não passa só por habitar esta nossa realidade, há toda uma performance a acontecer no outro lado” – e o público pode, inclusive, interagir e dar forma em tempo real à composição sonora. Carincur comenta ainda que o ChatGPT também foi importante nesse processo, dado não ter “grande formação na área da programação, pouco tempo e poucos recursos” – “porque somos artistas em Portugal”, acrescenta. Trabalhando com Unity, um motor de jogo (ou game engine), a inteligência artificial permitiu compensar essas “faltas”, dando “dicas até mesmo de programação e de possíveis interações com objetos no ambiente virtual”.

Em novembro de 1998, Tom Waits processou a agência de marketing Tracy-Locke e a Frito-Lay, empresa responsável por marcas populares como a Doritos, a Lays e a Cheetos. O motivo foi um jingle publicitário para a SalsaRio Doritos que se inspirou na sua música Step Right Up; a intenção era criar uma paródia tão fiel à música original que os ouvintes não conseguiriam distinguir se seria Tom Waits ou outro artista a imitá-lo de forma perfeita. O escolhido para a reprodução foi Stephen Carter, um músico de Dallas cujo sustento provinha de realizar performances de músicas de Tom Waits.

Ao ouvir o jingle na rádio, que reproduzia de forma exata a sua voz, Tom Waits expressou em tribunal sentir-se chocado, envergonhado e profundamente enervado. O artista responsável pela interpretação do jingle publicitário admitiu ter tentado imitar a sua voz durante a gravação. Após o julgamento, Tom Waits conseguiu não só proteger as suas músicas, mas também contestar o uso não autorizado da sua voz. A cantora e atriz Bette Midler passou por uma situação semelhante na mesma época, depois de a Ford Motor Company ter usado uma voz idêntica à sua numa das publicidades da empresa.

Nessa altura, reproduzir a voz de um artista, mesmo que por meio de um ser humano, era uma questão delicada.

O caso de Tom Waits destacou a importância de proteger as composições sonoras e as características distintivas da voz de um artista. O veredito do tribunal apoiou as suas obras e trouxe para discussão a ética por trás da imitação vocal, questionando até que ponto uma criação deixa de ser uma homenagem criativa e se torna apropriação não autorizada.

Avançando até 2023, processos judiciais de natureza semelhante inundam as notícias, e o fenómeno não é exclusivo ao mundo da música. Já em julho de 2023, mais de 15.000 escritores tinham assinado uma carta aberta da Authors Guild americana – entre eles nomes como Margaret Atwood, Dan Brown, James Patterson e Nora Roberts – endereçada aos diretores executivos de empresas proeminentes como a OpenAI, a Alphabet (Google), a Meta (Facebook, Instagram), a Stability AI, a IBM e a Microsoft. Nela, os autores pediam que as empresas obtivessem o seu consentimento e os compensassem justamente. Desde então, têm sido vários os autores a avançar com ações judiciais contra essas mesmas empresas por violação de direitos; um dos mais mediáticos é o que envolve George R.R. Martin, Jonathan Franzen, John Grisham e Jodi Picoult. No cinema e na televisão, as preocupações e protestos são transversais a argumentistas e atores, motivando em grande parte a greve que paralisou Hollywood durante grande parte de 2023 – o que não impede, no entanto, os estúdios de continuarem a contratar especialistas nestes algoritmos e de tentarem usar softwares de texto, imagem e som para substituir argumentistas e atores nas produções. 

Como qualquer outra tecnologia, a inteligência artificial “pode ser utilizada com boas ou com más intenções”, mas a tecnologia “está aí e é acessível”. Sónia Queiróz Vaz defende “um ponto importante: não faz sentido que se pare a tecnologia e a utilização da tecnologia – seria como tentarmos parar as ondas do mar com as nossas próprias mãos, não vai funcionar. O ideal será conseguirmos tirar o que há de bom da tecnologia, e regular possíveis usos prejudiciais”. 

A advogada diz, em entrevista à MIL Magazine, que é um ponto relativamente assente que, para ser protegida por direitos de autor, uma obra tem de ser humana – logo, “as máquinas e os computadores não podem ser titulares destes direitos”. Ainda em agosto de 2023, um tribunal de Washington, D.C. determinou que uma obra de arte criada por inteligência artificial,sem qualquer intervenção humana, não pode ser protegida por direitos de autor sob a lei dos Estados Unidos da América. Mas e com intervenção humana? A partir de que nível de interposição sintética deixa uma obra de arte de ser humana? 

“Mas também temos o desafio de podermos estar a recorrer a uma tecnologia para criar algo e essa criação, porque usou determinadas fontes e conteúdos que são de terceiros, poder violar os direitos de propriedade intelectual desses terceiros.” Neste caso, e uma vez que na maior parte das vezes quem recorre a esta metodologia fá-lo com a intenção de contar com orçamentos mais baixos, talvez seja mais inteligente pagar efetivamente a um músico para criar a composição do que arriscar processos judiciais longos e dispendiosos – ou, no mínimo, fazer “uma avaliação prévia cuidada sobre o que estamos a utilizar”.

Um dos maiores receios da ‘revolução artificial’ das artes é a substituição de seres humanos por máquinas. A isto, a advogada responde que,

A par de questões financeiras, Sónia Queiróz Vaz acredita que, ainda assim, “a mecanização não vai substituir exatamente aquilo que é a boa arte”. As pessoas gostam de uma música, mas “uma música só por si, feita por uma máquina, não satisfaz aquilo que é a experiência artística”; o público gosta tanto das músicas como de quem as interpreta, gosta de acompanhar a carreira dos artistas, de poder interagir com os artistas e de sentir que os conhece. Esta posição é partilhada por Mathilde Neu, da Resonance – MusicTech Agency, que diz em entrevista à MIL Magazine que “ainda temos um apego muito humano à música e, normalmente, quando gostamos de um artista ou de uma banda, estamos sempre à procura dessa conexão” – ou até só gostamos do artista ou da banda porque sentimos essa conexão. “Portanto”, conclui Sónia Queiróz Vaz,

English Version

Produced by artificial intelligence tools, it was no more than a convincing replica, but it surprised everyone in its ability to reproduce the artists’ voices as if it were an authentic piece. Shared through the anonymous account Ghostwriter, the song was played millions of times on Spotify, TikTok and Apple Music, before being withdrawn on behest of Universal Music Group, the Canadian artists’ record label, alleging that it contained an unauthorised sample. Even so, Heart on My Sleeve remains available on YouTube, where it has garnered six million views. 

This phenomenon isn’t new. With the advent of AI platforms such as Amper Music or AIVA, which enable the creation of music tracks in different genres and imitating the voices of singers and rappers, the digital world is filled with countless songs made with these tools. In the more publicised cases, we can listen to artists interpreting the works of other creators: Ye (previously known as Kanye West) interprets Plain White T’s Hey There Delilah; Rihanna and Doja Cat come together to sing Brandy and Monica’s duet, The Boy is Mine, while Drake collaborates with Kendrick Lamar and Ye in a cover version of Fukashigi No Carte, the end credit song of a Japanese anime. 

The controversy around the song Heart on My Sleeve raised many issues deserving a reflection on the possible ramifications of using these kinds of software.

João Gabriel Ribeiro, journalist and founder of the magazine Shifter, chose to open the debate devoted to this topic at MIL’s 2023 convention, asking the panel’s guests to share their definition of Artificial Intelligence. What exactly are we talking about when we talk about AI? 

Sónia Queiróz Vaz is a lawyer and, as such, perceives this problem conceptually through a legal lens.  She explains that there already is a proposed legal definition of AI, pointing to the European framework that regulates artificial intelligence, although this legislation project, the Artificial Intelligence Act, is still under discussion in the European Commission and EU Parliament. As a lawyer in the firm Cuatrecasas, she explains that “basically, when we talk about artificial intelligence systems, we are talking about software which, based on a set of pre-loaded inputs and predefined settings, generates and predicts a set of contents and outputs”.  The lawyer is referring to machine learning algorithms, a technology used to teach machines through examples. The more examples a machine contains in its database, the greater the quantity of synthetic artefacts it can generate. Currently, some of these algorithms are already capable of generating all kinds of contents, from text and sound, to still and moving images.

Anna Cianuca takes this idea as the starting point for her reflection. The philosopher and researcher (currently at Lisbon University and University College London), believes it is very important to know exactly what we are talking about. AI presents us with two different concepts: artificial and intelligence. Thus, before anything else, we need to “make very clear exactly how we define each of these concepts”. Artificial, she reminds us, is from the same etymological family as art and artefact, implying that artificial is “something made by human beings”. Intelligence, in turn, “is a human feature and a type of knowledge”. Combining both terms,

At a time when there is so much ignorance, uncertainty and suspicion surrounding artificial intelligence (“will AI lead humanity to extinction? we hear ourselves asking), Anna Cianuca argues that “we need to return to the basic concepts and realise that AI is simply something humans have created”. Carincur, a Portuguese transdisciplinary artist, stresses this idea of non-competition. She admits to a rather un-poetic perspective on the subject, claiming not to like thinking in terms of “species with competitive dualities”, and viewing artificial intelligence as just another being we have to coexist with, almost naturally – albeit representing a technological advance and being used as a tool.

Aneesh Patel comments that people are always intrigued by the very term ‘artificial intelligence’ (“perhaps because there are so many Sci-fi movies that allude to AI”).  However, he is more concerned about the technology’s implications than about its definition. As a director at AP Associates, a legal consulting firm for the music industry, he is more interested in “what distinguishes artificial intelligence from a human being’s creative production, and how that correlates with the concepts of originality required by laws governing intellectual property”. These same concerns are also shared by Marko Roca, a multifaceted professional in the music industry, currently working as operations manager at Collabhouse. He comments how, despite the very different attitudes toward these technologies among music creators – some embracing them with open arms while others being extremely sceptical – they all share many uncertainties.

“I think we are at a crossroads; we’re still peeking through the half-open door onto the other side, trying to glimpse what lies ahead of us. From my point of view, artificial intelligence is essentially a great big question mark”, Marko Roca adds. João Gabriel Ribeiro points out what any person faced with these reflections could not help concluding: We still lack the consensus on which to ground a discussion about algorithms, which largely remain a huge enigma.

This debate poses several dilemmas.

After all, there are already some programmes – machine learning algorithms themselves – using neurophysiological data and instructions to predict which songs have the potential to become hits with a 97% accuracy rate. Furthermore, even though artificial intelligence is viewed as a collaborative tool to aid the creative process, it raises many ethical and legal concerns, as well as posing a risk of increasingly homogenising the music industry, limiting the development of new music genres. 

Wagner Lopes, an Afro-Brazilian musician known as Xu, tells MIL Magazine that, like many other musicians, he values all available tools, including artificial intelligence. With technological development, just as Heart of My Sleeve, other cases will have the potential to turn viral, keeping the discussion around the use of these tools by other artists quite alive. This musician says he would give permission for the use of his voice, depending on an agreement about how it would be used. Ultimately, that permission can be viewed as a promotional strategy, as long as the artist reserves the right to express an opinion about the final product. 

Platforms such as Amper Music, AIVA, Google’s Magenta, OpenAI’s MuseNet, Amadeus Code, Jukedeck, Soundful, Ecrett Music, Soundraw, Boomy, Loudly and WayTool, help artists in different ways to reach the desired final creation. Artists like Grimes and ARCA are open about their use of AI tools, the former having launched her own software (Elf.Tech) with her voice (which artists can use, even commercially, in rerun for half the profits) and the latter having promoted a record with 100 remixes of the same song generated with the technology Bronze.

Even so, the artworld may be on the verge of a revolution, in the wake of which artificial intelligence will not only imitate, but also compete directly with artists.

Currently, any person can use softwares that produces music faster than humans and which is rapidly gaining ground. A song like Heart on My Sleeve can involve different types of software – lyrics, rhythm and melody generators, as well as voice cloning and speech synthesis – but not everything is as sophisticated. Most artists use only one of those tools at a time, keeping full creative control; after all, if we think about artificial intelligence in less restrictive terms, as early as the 1950s there already existed machines capable of generating musical compositions, and producers have been using software to generate rhythms, sounds and lyrics for decades – not to mention auto-tune tools. 

Wagner Lopes is confident that artists are not yet facing an imminent threat from this technology, given that “it is still a largely unexplored field”. Regardless, he recognises that “when it comes to the problem of the relation between artificial intelligence and art, there is still no legislation to secure the defence of rights over somebody’s work, voice or image”, he claims, admitting the intricacy of this problem, For the artist, in the entertainment industry, “the artist is always the weakest link”.

From his point of view, the potential problems that might arise from the use of this technology will only have to be dealt with if they also affect the industry’s profit. Lopes is assertive, “When a song becomes a big hit, who is really profiting? Artists receive a significantly smaller percentage than it might appear”. He points out that the most affected will be the less well-known artists, who find it harder to claim their rights due to the “considerable influence” needed to finance lawyers and legal expenses. 

In turn, Carincur (whose “other” name is Inês Cardoso) claims that artificial intelligence has significantly permeated her creative process.

she confides. Body As a Frozen Metaphor, her last work, is an example of that dynamic. She has already used AI software in different domains, namely for the visual element, but in this case, AI contributed to the element of sound – even though “the work doesn’t emanate from artificial intelligence”, neither in terms of the project’s focus or the use of these tools. 

“With this project I was actually intent on making computation and programming co-authors of my creative process,” says the musician, who is also the co-founder of Zabra, a music label and centre for post-human creation and experimentation, combining art, technology and science. She experimented with a myriad of tools, searching for the most suitable. The final composition includes AI-generated sounds, but also her real voice; “I used voice cloning, I manipulated the voice and I also expanded my organic voice in other directions, which would have been impossible to do without AI. I used tools that allowed me to change the audio signal (which could be vocal or instrumental) to a MIDI signal and transform that into other instruments. I also used ChatGPT, which was extremely useful, even in terms of developing my thoughts; it helped me to better expand the project’s underlying concept and define with greater clarity what I was searching for.”

Since Body as a Frozen Metaphor is a record of immersive music, a performance and a virtual reality application, technology also extended to other domains other than strictly sound, namely for its public presentation. Carincur explains that, besides musical composition and production, with the help of three other collaborators, she developed the virtual reality application, “that works as a tool to activate music in this universe”. The application “also allowed to probe further into this question of abandoning the limits of the organic body, since it’s a mixed reality. It extends beyond the reality we inhabit; there is a whole other performance happening on the other side”, – and the audience can even interact and shape the sound composition in real time. Carincur also comments on the importance of Chat GPT in this process, given her “lack of training in this field and the shortage of time and resources at my disposal”, adding that “we are doing art in Portugal”. Working with Unity, a game engine, AI allowed to compensate for those “deficiencies”, “providing clues, even in terms of programming, and possible interactions with objects in the virtual environment”. 

In November 1998, Tom Waits sued the marketing agency Tracy-Locke and Frito-Lay, the company that owns popular brands of snacks such as Doritos, Lays and Cheetos. The reason was the commercial jingle for Salsa Rio Doritos, inspired on his song Step Right Up; the idea was to create such a faithful parody of the original music that listeners would not be able to tell if it was sung by Tom Waits or another artist imitating him perfectly. The artist chosen for the cover was Stephen Carter a professional musician from Dallas who made a living doing Waits impersonations. 

Upon hearing the jingle reproducing his voice so exactly on the radio, Tom Waits testified in court that he felt shocked, embarrassed and deeply outraged.  The artist responsible for singing in the jingle admitted to imitating Wait’s voice during the recording session. After the trial, Tom Waits succeeded, not only in protecting his music, but also in contesting the misappropriation of his voice. The singer Bette Midler went through a similar situation at about the same time, after Ford Motor Company used a voice identical to hers on one of the company’s commercials. 

At the time, reproducing an artist’s voice, even if by means of another human voice, was a delicate matter.

The Tom Waits case highlighted the importance of protecting sound compositions and the distinctive characteristics of an artist’s voice. The court ruling protected his works and brought into the debate the ethics of vocal imitation, questioning when a creation passes from being a creative homage to becoming a misappropriation. 

Fast forwarding to 2023, the news are filled with reports of similar legal cases, and the phenomenon is not limited to the music industry. In July of this year, more than 15,000 writers had signed an open letter to the American Authors Guild – among them names like Margaret Atwood, Dan Brown, James Patterson and Nora Roberts – directed at the executive directors of prominent companies like OpenAI, Alphabet (Google), Meta (Facebook, Instagram), Stability AI, IBM and Microsoft. The authors asked companies that permission be obtained and compensation given when a writer’s work is used by AI. Since then, several authors have pursued legal action against those same companies for breaching their rights; one of the most publicised involved George R.R. Martin, Jonathan Franzen, John Grisham and Jodi Picoult. Within cinema and television, the concerns and protests are shared by screenwriters and actor alike, to a great extent driving the strike that paralyzed Hollywood for a good part of the year – which nevertheless hasn’t prevented studios from continuing to hire experts in these algorithms and from trying to use text, image and sound software to replace screenwriters and actors in their productions. 

Like any other technology, artificial intelligence “can be used with good or evil intentions,” but the technology “is out there and easily accessible”. Sónia Queiroz Vaz makes “an important point: it’s senseless to stop the technology and its use – it would be like trying to block sea-waves with our hands, it won’t work. The ideal thing would be if we could extract the good from the technology and regulate possible harmful uses”.

 In an interview for MIL Magazine, the lawyer claims it has become fairly well established that a work must be produced by a human in order to be protected by intellectual property rights – and thus, “machines and computers cannot own rights”. In August 2023 a Washington D.C court ruled that a work of art created by artificial intelligence without any human input could not cannot be copyrighted under U.S. law. But what about those with human input? What’s the level of synthetic interposition needed for a work not to be considered human?

“But there are also situations in which we may create something with a technology that uses certain sources and contents belonging to others, thus infringing their intellectual property rights.” In this case, and since most times people resort to this methodology as a means to lower budgets, maybe it would be smart to actually pay a musician to create a composition, than risk long and expensive court cases – or at the very least insure “a careful assessment of what we are using”.

One of the biggest concerns about the ‘artificial revolution’ in the arts is the replacement of human beings by machines. On this point, Sónia Queiroz Vaz responds that,

Besides the financial issues, the lawyer believes that, in any event, “the mechanization will not exactly replace what we deem to be good art”. People may like a song, “but a song by itself, made by a machine, doesn’t fulfil the artistic experience”; the audience enjoy songs as much as they enjoy those who interpret them; they like to follow an artist’s career, to be able to interact with artists and feel they know them. Mathilde Neu, from Resonance – MusicTech Agency shared this same opinion in an interview for MIL Magazine, saying that “we still have a very human attachment to music, and usually when we like an artist or a band, we are always searching for that connection” – we actually only like the artist or band due to feeling that connection. “Therefore”, Sonia Queiróz Vaz concludes,

/ Tradução por Diogo Freitas Costa