“Preciso acreditar que existe um futuro para mim, meu marido e meu filho”, disse Black.
Enquanto alguns descartam o pânico existencial, acreditando que seja exagerado ou uma distração dos problemas atuais de IA, outros se veem às voltas com novas questões sobre o significado de trazer uma vida ao mundo e que tipo de ação é necessária diante de um futuro potencialmente catastrófico. Eles têm recorrido a fóruns online em busca de conselhos e apoio, publicando coisas como: “Estou constantemente questionando a realidade, me perguntando qual é o sentido, me sentindo culpado por trazer meu filho a este mundo”. Compartilham podcasts e artigos de notícias em grupos de bate-papo, avaliando se estão sendo levados por hipóteses exageradas ou se têm razão para se preocupar.
Uma mulher, a poetisa e comediante Hayley DeRoche, recorreu ao Instagram para compartilhar um poema que parecia capturar o surrealismo do momento: “O que vamos fazer agora?/Sabíamos que nossos filhos não tinham futuro, mas isso?” Ela intitulou o poema: “Meu grupo de mães está preocupado com a IA causando uma extinção humana em massa”.
O pesquisador e professor de IA David Krueger, que vem alertando sobre o assunto há anos, disse que tentou imaginar como deve ser para aqueles que agora estão percebendo o risco que as empresas de IA de ponta estão correndo. Ele não tem filhos, em parte por causa de sua preocupação com o que acontecerá se os humanos perderem o controle dos sistemas de IA, mas afirmou: “Acho que o desejo dos pais de proteger seus filhos é uma das forças mais poderosas do mundo.”
“Eu ficaria indignada e revoltada com pessoas que, de forma tão evidente, descarada e insensível, colocam a vida do meu filho em risco”, acrescentou Krueger, professora assistente de ciência da computação na Universidade de Montreal.
Ele sempre defendeu a ideia de que a ameaça existencial é real: se as empresas continuarem a correr para tornar a IA mais autônoma e inteligente, o controle humano poderá ser perdido, com o provável desaparecimento da humanidade como consequência. Em 2023, enquanto professor assistente na Universidade de Cambridge, ele iniciou uma declaração de uma frase sobre o risco de extinção, assinada por proeminentes pesquisadores de IA e líderes da indústria. No ano passado, fundou uma organização sem fins lucrativos chamada Evitable , com o objetivo de informar e conscientizar o público sobre os perigos do desenvolvimento de sistemas de IA mais poderosos.
Ao ver o mundo fora da bolha da IA começar a discutir a ameaça existencial, Krueger disse que se sente mais otimista do que se lembra de ter se sentido nos mais de 15 anos em que se preocupa com os riscos para a humanidade. Para ele, o próximo passo é claro: parar o desenvolvimento de sistemas de IA mais autônomos e mais poderosos o mais rápido possível.
“As pessoas costumam falar disso como uma corrida entre os EUA e a China”, disse Krueger. “Eu penso nisso como uma corrida entre pessoas que se apressam para construir essa tecnologia perigosa e pessoas que se mobilizam e correm para impedi-las.”
Alguns no mundo da IA minimizaram o perigo, classificando as previsões apocalípticas como mais ficção científica do que ciência, ou argumentando que os riscos podem ser gerenciados. Mesmo entre pesquisadores e especialistas que acreditam que existe o risco de a tecnologia um dia exterminar a humanidade, não há consenso generalizado sobre quando ou como isso aconteceria. A ideia geral, como afirmou Yoshua Bengio, um dos “padrinhos da IA”, é que, se as máquinas se tornarem mais inteligentes que os humanos, elas desenvolverão sua própria autonomia e objetivos, que podem ser diferentes daqueles pretendidos por seus criadores. Muitos desenvolvedores de IA acreditam que o perigo pode ser mitigado por meio do “alinhamento”, ou seja, trabalhando para imbuir os sistemas de IA com valores humanos, mas Krueger, Bengio e outros não acreditam que as técnicas de alinhamento atuais possam garantir a segurança.
A preocupação com o impacto da tecnologia nas crianças não é nova, embora o foco geralmente tenha sido em como seu uso pode prejudicar o aprendizado ou a saúde mental. Julie Scelfo, jornalista e mãe de três filhos, radicada em Nova York e fundadora da MAMA Mothers Against Media Addiction (Mães Contra o Vício em Mídia), afirmou que a postura de sua organização é “focar nos danos reais que estão acontecendo vamos controlá-los e, assim, protegeremos as futuras gerações”. Ela está mais preocupada com o impacto da tecnologia na educação e na saúde mental das crianças.
Mas para outros pais, a questão existencial não poderia ser mais urgente. Uma mãe da Carolina do Norte, querendo fazer algo a respeito do que considera uma situação desesperadora, viajou a Washington, D.C., no início deste mês com a organização Pause AI US, que defende a suspensão do desenvolvimento de inteligência artificial de ponta. Ela conversou com assessores de seus representantes no Congresso, mostrando uma foto de sua filha de 16 anos e perguntando o que eles estavam fazendo para conter a ameaça da IA. Em todas as reuniões, ela terminou em lágrimas.
“Espero que isso possa ser interrompido, mas estou preocupada que não possa ou não vá ser interrompido”, disse a mãe da Carolina do Norte, que pediu anonimato por não querer que sua preocupação com o assunto afetasse os pacientes que atende como terapeuta. Ela chorou ao dizer que, se isso não for interrompido e a tecnologia avançar além do controle humano, ela teme pelo futuro de sua filha: “Acredito que tudo o que eu desejei para ela não acontecerá”.
Uma nova pesquisa da CNN mostra que a maioria dos eleitores republicanos e democratas acredita que o governo federal não está fazendo o suficiente para regulamentar a IA. A senadora democrata do estado de Michigan, Mallory McMorrow, que propôs um plano federal de segurança para IA como parte de sua candidatura ao Senado dos EUA (agora descartada), disse que o ritmo acelerado de desenvolvimento irritou os eleitores que já desconfiam das grandes empresas de tecnologia. Durante a campanha, muitos eleitores disseram a ela que usavam ferramentas como o ChatGPT, mas questionavam como poderiam ter certeza de que a IA não causaria danos.
“As pessoas comuns estão lá, elas entendem”, disse ela. “Não acho que tenha havido qualquer problema que tenha se tornado mais relevante do que este, porque parece que ele está sendo jogado na nossa cara o tempo todo.”
Será que o sentimento dos eleitores se traduzirá em ação no Congresso? Na semana passada, o senador independente de Vermont, Bernie Sanders, e o deputado democrata do Texas, Greg Casar, apresentaram um projeto de lei que proíbe a “superinteligência” artificial, definida por eles como tecnologia que excede as capacidades cognitivas humanas ou que é capaz de desempoderar a humanidade. Os republicanos expressaram alarme com os alertas preocupantes vindos da indústria, mas defenderam abordagens mais brandas . O presidente Donald Trump, por sua vez, rejeitou categoricamente os apelos por medidas de proteção; em uma publicação nas redes sociais, ele afirmou que tudo o que é necessário é um “PRESIDENTE FORTE E INTELIGENTE (com QI alto!)”.
Kinder, pesquisadora de IA e empregos, ficou impressionada com a falta de regulamentação em torno da IA em comparação com outros produtos que afetam crianças – cadeirinhas de carro, berços, fórmulas infantis. Sabendo o quanto os pais se esforçam para proteger seus filhos, ela tem refletido sobre se mais poderia ser feito para mobilizar as mães. Ela conversou com outras mães sobre a necessidade de uma espécie de “Mães Contra Motoristas Embriagados” para a ameaça existencial da IA – “Mães Contra Riscos Catastróficos”, ou algo assim. Ela se preocupa com o fato de que poucas pessoas estão analisando a questão sob a perspectiva do impacto da IA em seus filhos.
“Este é um assunto complexo”, disse Kinder. “Temos questões geopolíticas. Temos essa corrida frenética entre as empresas. Há um mercado de ações impulsionado por esse boom sabe, há muita coisa em jogo. E se não prestarmos atenção, o fato de que a vida de nossos filhos está em risco pode ser ofuscado por essas outras prioridades.”
Descrevendo as mães como um “grupo realmente poderoso”, ela disse que vê uma lacuna nos esforços para informá-las sobre os riscos extremos e para oferecer soluções. McMorrow, que conhece Kinder por meio de sua pesquisa, concordou, dizendo que “não há força mais poderosa do que mães organizadas”. Ela tem uma filha que acabou de começar o jardim de infância.
Para Kinder, que trocou mensagens de texto de madrugada com outras mães preocupadas, a necessidade de mecanismos de controle é evidente. Ela disse que, quando os pais percebem que algo é inseguro para as crianças, eles lutam para mudar as leis.
“Não podemos permitir que uma tecnologia tão desregulamentada represente um risco não só para os meus filhos”, acrescentou ela, “mas para os filhos de todos”.
