O texto a seguir contém spoilers da 6ª temporada de Black Mirror, episódio 1, “Joan is Awful”, agora transmitido na Netflix.
Um dos principais temas Preto Espelho sempre foi para lembrar à humanidade que eles são responsáveis pela maneira como usam a tecnologia e pelos possíveis problemas que podem criar. Claro, existem benefícios derivados, mas como acontece com qualquer ferramenta, as pessoas têm uma maneira de comprometer sua bússola ética, mesmo depois de ver esses instrumentos causarem problemas.
Preto Espelho A 6ª temporada segue o exemplo com o episódio de estreia “Joan Is Awful” usando a vida de uma mulher e colocando-a na frente e no centro de um serviço semelhante ao Netflix chamado Streamberry. Enquanto a plataforma satiriza a Netflix e a demanda das pessoas por entretenimento sórdido, ela também lança luz sobre como o público alimenta a inteligência artificial (IA) sem perceber.
‘Joan Is Awful’ do Black Mirror zomba de ignorar as letras miúdas
Em “Joan Is Awful”, Annie Murphy interpreta a titular Joan, cuja vida é capturada por dispositivos que registram sua atividade diária. Os dados são então transferidos para a máquina AI da Streamberry, o computador quântico, que é carinhosamente chamado de “quamputer”. Ele processa seus detalhes cotidianos, exagera alguns deles e, à noite, Streamberry lança um episódio sinistro com todos os seus segredos pessoais expostos.
Quando Joan consulta seu advogado sobre a abertura de um processo, descobre-se que ela não leu os termos e condições quando se inscreveu no serviço de streaming. O contrato dá a Streamberry permissão total para usar sua imagem e os detalhes íntimos de sua vida em seu conteúdo. Coincidentemente, é o mesmo para Salma Hayek, que foi escalada pelo quamputer de Streamberry como Joan. Quando ela assinou o contrato da mesma forma, ela também não leu as letras miúdas. Assim, sua imagem é vista cometendo os atos repugnantes de Joan, o que perturba Salma Hayek. A reviravolta, no entanto, é que ambos estão em um mundo fictício, com o ato final revelando que Joan é na verdade a atriz Annie Murphy, que também foi escalada como Joan pelo quamputer.
Como Salma Hayek, Annie também não leu os termos e condições quando se inscreveu no Streamberry. É a razão pela qual Annie no mundo real acaba ajudando a verdadeira Joan a destruir a máquina. Sua privacidade também foi invadida para criar o programa de TV gerado por IA. Este é um jogo em que os humanos ignoram as minúcias dos contratos, especialmente com a tecnologia de telecomunicações: eles estão ansiosos para se inscrever e aproveitar a mídia com um toque. Quanto aos criativos, é uma lição ler tudo nas letras miúdas. As corporações e o capitalismo em geral sempre encontram maneiras de explorar as pessoas e brechas sistêmicas, que é um tema importante ao longo da 6ª temporada de Black Mirror.
Como ‘Joan é horrível’ critica a criação de conteúdo de IA
No mundo real, o conteúdo gerado por IA é crescente, com negócios e empresas da web impulsionando-o como uma ferramenta para tornar a criação de conteúdo mais eficiente. O CEO da Streamberry menciona como colher a vida das pessoas permite que sua máquina de IA crie shows em meras horas. Não é necessária equipe de produção, cenógrafos ou atores, economizando tempo e dinheiro para produzir conteúdo. Isso fala da realidade das pessoas que trabalham na indústria do entretenimento, que sabem que seus empregos estão em jogo. Em 2023, a IA avançou o suficiente para criar scripts, produzir imagens e cenas deepfake.
No entanto, a maioria dos aplicativos de IA – embora solicitados pelos usuários – extrai material de origem da Internet. Assim, está usando dados e propriedades intelectuais pertencentes a outras pessoas para gerar essencialmente trabalho plagiado. A reviravolta, no entanto, é que o Streamberry permite que os consumidores saibam sua intenção, mas está enterrado em letras miúdas. Dessa forma, a IA explora uma brecha em torno da prática ilegal de plágio e invasão de privacidade, com vítimas inocentes dando-lhes acesso inadvertidamente.
É a mesma coisa que as plataformas de mídia social e outros serviços fazem no mundo real. Termos e condições relativos à transparência e responsabilidade estão sendo promovidos no setor. Por fim, “Joan is Awful” se destaca como um polegar dolorido, mostrando como a humanidade dá à IA esse tipo de poder por conveniência. Infelizmente, isso permite que a IA tire empregos do setor criativo e, com o tempo, de muito mais indústrias.
A sexta temporada de Black Mirror já está disponível na Netflix.