Amazon testa recurso que Alexa imita voz de parentes que já morreram

Nesta quarta-feira (22), a Amazon realizou o segundo dia do re:MARS 2022 - evento da empresa dedicado ao aprendizado de máquina, automação, robótica e espaço (Machine learning, Automation, Robotics, Space). Um dos recursos apresentados pela companhia foi a capacidade da Alexa, assistente virtual da Amazon, de simular a voz de pessoas, incluindo as que já faleceram.

O exemplo utilizado pela empresa na apresentação foi o de uma criança solicitando à Alexa que lesse um trecho do livro "O mágico de Oz" na voz de sua avó. Rohit Prasad, cientista chefe de Inteligência Artificial da Alexa, explicou que o recurso foi construído sendo capaz de reproduzir uma voz de alta qualidade com menos de um minuto de gravação. O segredo, segundo Prasad, foi enquadrar a situação "como uma tarefa de conversão de voz e não uma tarefa de geração de fala".

Ao introduzir o assunto, o cientista chefe citou a relação de companheirismo com a Alexa construída com os usuários, em especial durante o período pandêmico, quando muitas pessoas perderam entes queridos. Prasad ainda disse que, apesar da IA não eliminar a dor da perda, ela pode fazer as memórias durarem.

Estará disponível?

Não fica claro, no entanto, se a companhia pretende disponibilizar este recurso ao público geral através de sua assistente virtual ou quando fará isso.

A funcionalidade levanta diversas questões entre os usuários e pode dividir opiniões, já que, além de ser difícil de prever como cada um reagirá ao ouvir a voz de alguém que já se foi, por exemplo, existem questões éticas a respeito da reprodução da voz de alguém sem o consentimento.

Já existem diversos produtores de Deep Fakes de imagem que conseguem substituir rostos de pessoas com bastante fidelidade. A execução disto combinado com uma voz similar a real pode facilitar a vida de alguém que pretende se passar por outra pessoa virtualmente, por exemplo.