Entre a ficção e a realidade: um alerta sobre IAs e o futuro da humanidade.

Grande parte do receio público em relação às Inteligências Artificiais – e o medo de que elas possam agir contra os interesses humanos – origina-se na mídia mainstream. Filmes como Matrix e 2001: Uma Odisseia no Espaço, assim como séries como Westworld e Black Mirror, têm, ao longo dos anos, construído narrativas que retratam IAs como entidades ameaçadoras. Na área, o termo utilizado para descrever uma IA capaz de realizar tarefas com um nível de cognição humano, mesmo sem treinamento específico, é Inteligência Artificial Geral (AGI, na sigla em inglês).

Russell alerta que a criação de uma AGI é inevitável, e atrai a humanidade com promessas de avanços científicos e econômicos imensuráveis. O cientista ressalta os perigos de perseguir essa meta sem garantias de segurança, ecoando a preocupação de figuras como Sam Altman, CEO da OpenAI, que alertam sobre aqueles que priorizam a criação da AGI antes de assegurar sua segurança.

O desenvolvimento de tecnologias sem transparência e sem alinhamento com os interesses coletivos da humanidade pode ter resultados catastróficos. Para ilustrar esse perigo, o cientista mencionou Thanos, o vilão dos filmes dos Vingadores. Thanos acreditava que a solução para a superpopulação seria adquirir onipotência e exterminar metade de toda a vida no universo, assim evitando a extinção total.

"Ele (Thanos) realmente acredita que fez a coisa certa. Se sistemas de IA obterem o poder equivalente às "Joias do Infinito", não queremos que cheguem às mesmas conclusões. Precisamos resolver esse problema ou garantir que eles nunca enfrentem essa questão."
- Stuart Russell
 

Stuart Russell foi a grande atração na abertura do ciclo Fronteiras do Pensamento 2024. O cientista lotou o teatro B32 em São Paulo e o teatro Unisinos em Porto Alegre. Professor e diretor do departamento de Ciência da Computação da Universidade de Berkeley, Russell trouxe uma reflexão profunda sobre o futuro da inteligência artificial (IA) e a necessidade urgente de sua regulação.

A conferência de Stuart Russell já está disponível para membros na plataforma Fronteiras+. No Fronteiras+, você tem acesso à todas as conferências da temporada 2024, e muito mais: torne-se membro hoje.

Ao longo do ano, a temporada 2024 do Fronteiras do Pensamento terá palestras com nomes como Muriel Barbery, Yascha Mounk, Nouriel Roubini, Anna Lembke e Simon Montefiore.