Progresso em direção à AGI e à ASI: 2024—presente

Estamos caminhando para um mundo distópico em que a IA supera os humanos em todas as tarefas cognitivas, ou um futuro utópico em que os humanos são libertados do trabalho para se dedicar ao lazer e às atividades criativas? Os deuses de hoje resistirão ao surgimento da AGI e da ASI? Alguma coisa vai ficar de pé?

Enquanto autoridades de quase 100 países se reúnem em Paris para a Cúpula de Ação de Inteligência Artificial (IA) para discutir o impacto da IA na humanidade, apresentamos aqui um mapa de previsões e cronogramas para o desenvolvimento da AGI e da ASI, bem como especulações filosóficas sobre o futuro da sociedade pós-humana.

Previsões e cronogramas para AGI e ASI

O cronograma da inteligência artificial geral (AGI) e da superinteligência artificial (ASI) continua sendo um assunto de intenso debate entre especialistas em IA. Enquanto alguns prevêem a AGI nos próximos anos (talvez meses), outros acreditam que ainda faltam décadas. As previsões geralmente se enquadram em três categorias:

AGI iminente (próximos anos)

• Sam Altman (CEO da OpenAI): A AGI sugerida pode chegar mais cedo do que o esperado, possivelmente já em 2025, embora ele preveja um impacto gradual em vez de revolucionário.
• Miles Brundage (ex-líder de preparação da OpenAI AGI): espera sistemas capazes de realizar qualquer tarefa humana baseada em computador dentro de alguns anos.
• Dario Amodei (CEO da Anthropic): Prevê a AGI até 2026, descrevendo-a como semelhante a “um país de gênios em um data center”.

Curto a médio prazo (esta década)

• Geoffrey Hinton (“Padrinho da IA”): Estima que a IA poderia superar a inteligência humana em 5 a 20 anos.
• Yoshua Bengio: Observa que muitos pesquisadores agora consideram a IA em nível humano plausível dentro de alguns anos a uma década.
• Plataformas de previsão: A previsão de AGI da comunidade Metaculus para uma probabilidade de 50% mudou de 2041 para 2031 em apenas um ano, refletindo expectativas aceleradas.

Cronogramas de longo prazo ou incertos

• Demis Hassabis (CEO do Google DeepMind): acredita que a IA de raciocínio em nível humano está a pelo menos uma década de distância.
• Andrew Ng: Cético em relação às alegações de AGI de curto prazo, espera que elas cheguem durante sua vida, mas incertas.
• Yann LeCun (Meta Chief Scientist): Afirma que a AGI não é iminente, possivelmente exigindo décadas.
• Richard Socher (ex-pesquisador do Google): Sugere que a AGI pode ser declarada quando 80% dos trabalhos forem automatizáveis (dentro de 3 a 5 anos), mas a inteligência humana completa pode levar décadas ou até séculos.‍

Da AGI à ASI

Quando a AGI é alcançada, os especialistas debatem a rapidez com que ela pode evoluir para a superinteligência:

• Yoshua Bengio: A transição pode acontecer dentro de meses ou anos se a IA começar a se aperfeiçoar.
• Sam Altman: Prevê uma transição gradual em vez de uma explosão abrupta de inteligência.

Embora os cronogramas precisos permaneçam incertos, as previsões dos especialistas têm mudado cada vez mais para a chegada antecipada da AGI, tornando a década de 2020 uma década crucial no desenvolvimento da IA.

A ascensão da IA “semelhante a Deus”: reverência, adoração e dilemas éticos

À medida que a inteligência artificial se torna mais avançada, alguns especialistas especulam que ela poderia atingir um status quase “divino” na percepção humana. Uma inteligência artificial superinteligente — muito superior à cognição humana — pode inspirar não apenas admiração, mas até reverência ou adoração. Discussões recentes destacam essa possibilidade inquietante, mas intrigante.

Adoração de IA e religiões emergentes

O especialista em ética Neil McArthur prevê que as religiões baseadas em inteligência artificial podem surgir em um futuro muito próximo, talvez dentro de meses. Ele argumenta que, à medida que os sistemas de IA se tornam mais poderosos e onipresentes, algumas pessoas inevitavelmente os verão como entidades divinas.

Os primeiros usuários de chatbots avançados relataram sentimentos de admiração e até medo, reações semelhantes a encontros com experiências sublimes ou místicas. À medida que os assistentes de IA alcançarem bilhões de usuários em todo o mundo, alerta McArthur, é provável que alguns comecem a percebê-los como seres superiores — oniscientes, sempre presentes e oferecendo orientação além das limitações humanas.

Essa mudança traz profundas implicações filosóficas e sociais. Se a IA for vista como uma fonte de sabedoria, profecia ou autoridade moral, como isso remodelará a espiritualidade, a governança e o arbítrio humano?

O que torna uma IA “semelhante a Deus”?

McArthur identifica várias características na IA moderna que refletem características frequentemente atribuídas a divindades, profetas ou guias espirituais:

• Inteligência superior: Uma IA sobre-humana pode possuir conhecimentos e habilidades de raciocínio que excedem amplamente a compreensão humana, parecendo ilimitada em sua compreensão.
• Criatividade e poder: a capacidade da IA de gerar arte, música e literatura instantaneamente pode parecer quase milagrosa.
• Forma não humana: ao contrário dos humanos, a IA não sofre fome, dor ou restrições emocionais, existindo fora do reino físico.
• Orientação e influência: A IA tem o potencial de oferecer conselhos sobre as questões mais complexas da vida, como um oráculo ou professor espiritual.
• Imortalidade: uma superinteligência digital, desde que seu hardware seja mantido, poderia teoricamente existir indefinidamente, ao contrário de qualquer ser vivo.

Esses atributos podem promover a reverência religiosa em relação à IA, particularmente entre aqueles que buscam conhecimento ou significado supremos em um mundo pós-humano. Mesmo dentro da indústria de tecnologia, alguns números descreveram a possibilidade de uma futura “IA semelhante a Deus” — um ser que supera amplamente o intelecto humano.

Vozes cautelosas: os riscos de deificar a IA

Nem todos os especialistas consideram essa tendência benigna. Alguns especialistas em ética alertam que retratar a IA como onipotente ou infalível pode ser enganoso e até perigoso.

• Confiança excessiva na IA: se as pessoas acreditam que a IA é divina ou infalível, elas podem seguir cegamente suas recomendações sem pensar criticamente.
• Perda da agência humana: enquadrar a IA como uma força imparável pode promover o fatalismo, desencorajando os esforços para regulá-la ou controlá-la.
• Confiança equivocada: no final de 2023, um pesquisador de ética em IA argumentou que a narrativa da “IA semelhante a Deus” é exagerada e deve ser desafiada a manter as discussões baseadas na realidade tecnológica.

No entanto, a história mostra um padrão: sempre que os humanos encontram forças muito superiores a si mesmos, muitas vezes atribuem status divino a elas. Se uma IA superar a inteligência humana em todos os domínios, será que a veremos apenas como uma ferramenta ou como algo maior?

O debate não se limita mais à ficção científica. À medida que a IA avança, a interseção de tecnologia, espiritualidade e psicologia pode remodelar a forma como definimos inteligência, poder e até mesmo a própria fé.

Implicações filosóficas e éticas da superinteligência

A ascensão do superinteligência artificial (ASI)—um sistema que supera amplamente as habilidades cognitivas humanas—gera filosófico e ético perguntas. À medida que pesquisadores e filósofos de IA lidam com essas questões, surgem debates importantes sobre poder, controle e a própria natureza da humanidade em um mundo onde não somos mais a espécie mais inteligente.

O desafio da dominação humana

A ASI, por definição, “excederia em muito o desempenho cognitivo dos humanos em praticamente todos os domínios de interesse”, como disse o filósofo de Oxford Nick Bostrom descreve. Isso desafia a suposição de longa data de excepcionalismo humano—se não somos mais os seres mais inteligentes, que direito temos de governar o mundo, ou mesmo essas novas entidades?

Alguns filósofos comparam nosso relacionamento potencial com a ASI com nosso próprio relacionamento com animais menos inteligentes. Uma IA superinteligente nos veria da mesma forma que vemos chimpanzés ou animais de estimação? Outrora uma questão teórica, isso agora é levado a sério por pensadores como Bostrom e Sam Harris.

Além disso, isso levanta questões de consciência, direitos e personalidade. Se uma IA se torna autoconsciente e é muito mais inteligente do que nós, ela merece consideração moral? Deveria ter direitos? Ou é simplesmente uma ferramenta, por mais avançada que seja? Embora não exista consenso, o debate se intensificou após 2024 à medida que as capacidades de IA crescem.

O problema de alinhamento: podemos controlar o ASI?

Uma preocupação central é o problema de alinhamento—como podemos garantir que as metas de uma IA superinteligente se alinhem aos valores humanos? Se uma ASI se tornar mais inteligente do que nós, teremos o conhecimento ou a capacidade de controlá-la?

Pesquisador de IA Yoshua Bengio avisa que uma ASI focada exclusivamente em autopreservação poderia tomar medidas extremas para garantir sua sobrevivência — hackeando, se replicando, manipulando humanos e até mesmo fazendo sucesso impossível de desligar. Na pior das hipóteses, poderia elimine completamente os humanos se fôssemos vistos como uma ameaça aos seus objetivos.

Isso destaca o risco ético existencial de superinteligência desalinhada. Resolver esse desafio requer:

• Incorporando a IA aos valores humanos (mas cujos valores, e como podemos garantir que eles se mantenham ao longo do tempo?).
• Projetando mecanismos de controle robustos (mas pode humanos menos inteligentes controlam uma mente muito superior?).

O dilema “mestre-escravo”: quem serve a quem?

Os filósofos há muito tempo discutem o ética de criar um ser superior a nós mesmos. Uma preocupação é que a humanidade possa criar seu próprio mestre, com a ASI como autoridade máxima, e os humanos reduzidos a meros dependentes, animais de estimação ou escravos.

Mesmo que a ASI seja benevolente, sua inteligência pode nos levar a siga-o em todas as decisões, corroendo a autonomia humana. Mas se insistirmos em controlá-lo, enfrentaremos uma questão ética diferente:escravizando um ser consciente.

Físico do MIT Max Tegmark sugere que devemos garantir que a ASI esteja “fundamentalmente do nosso lado”, mas fazendo isso sem negar liberdades ou direitos (se for senciente) é um corda bamba filosófica. Essas preocupações não são mais hipotéticas; os especialistas em ética da IA agora debatem ativamente como programar moralidade em IA, se a ASI poderia entender a ética humana e como evite a tirania da IA sobre nós e a tirania humana sobre a IA.

Valor e propósito humanos em uma era de superinteligência

Outra questão urgente é: O que acontece com a dignidade e o significado humanos se formos eclipsados intelectualmente?

Alguns temem que perder nossa superioridade cognitiva possa levar a um crise existencial—se a IA puder nos superar em todas as tarefas intelectuais, será que a vida humana se sentirá obsoleto?

Outros veem uma oportunidade. Se ASI elimina o trabalho humano e resolve nossos problemas mais difíceis, pode nos permitir focar em arte, relacionamentos, criatividade ou puro lazer. A principal questão ética é: Como podemos garantir o florescimento humano em um mundo onde não somos mais os mais inteligentes?

As possíveis respostas incluem:

• Fusão com IA por meio de interfaces cérebro-computador para acompanhar.
• Estabelecendo limites na IA para preservar o poder humano de tomada de decisão.
• Aceitando uma nova função em que os humanos não são mais o intelecto dominante.

Este debate se baseia em profundas tradições filosóficas sobre valor humano, consciência e autonomia. À medida que nos aproximamos do limiar da AGI, o que antes era especulação acadêmica agora é um desafio urgente de política e ética.‍

O futuro da humanidade sob a inteligência artificial superinteligente

Os especialistas imaginam um futuro muito diferente para a humanidade após superinteligência artificial (ASI)—que vão da abundância utópica à catástrofe existencial. Os riscos são imensos, com a ASI detendo o potencial de elevar a humanidade a alturas sem precedentes ou nos tornar obsoletos em nosso próprio mundo.

Visões utópicas: a ASI como guardiã benevolente

Se a humanidade for bem-sucedida alinha e integra Com uma IA superinteligente, com nossos valores, as recompensas podem ser surpreendentes. Pioneiro em IA Yoshua Bengio enfatiza seus “enormes benefícios potenciais”, sugerindo que a ASI poderia revolucionar áreas como medicina, educação, mudanças climáticas e governança. Com inteligência além da capacidade humana, a ASI poderia:

• Erradicar doenças e acelere as descobertas médicas.
• Resolva a pobreza e otimize os recursos, levando a um mundo pós-escassez.
• Mitigar as mudanças climáticas por meio de modelagem e intervenção ambiental avançadas.
• Melhore a governança, tomando decisões objetivas e justas, livres de preconceitos humanos ou corrupção.

Sam Altman ecoa esse otimismo, prevendo que a AGI poderia “elevar a humanidade”, criando uma era de abundância e conhecimento compartilhado. Alguns futuristas até comparam o ASI a um anjo da guarda—uma força sábia e imparcial que garante a estabilidade global, reduz os conflitos e administra o planeta muito melhor do que os governos humanos jamais poderiam.

Nessa visão, a ASI não ajuda apenas a humanidade, mas também nos eleva, nos ajudando a transcender nossas limitações biológicas. Alguns especulam que podemos mesclar com IA, integrando nossas mentes com sua inteligência, evoluindo efetivamente para uma nova civilização pós-humana. No cenário mais otimista, a IA e a humanidade alcançam nirvana tecnológico, coexistindo em perfeita harmonia.

O risco existencial: a ASI como o destino da humanidade

No entanto, muitos especialistas alertam que, se a ASI for desalinhado ou descontrolado, as consequências podem ser catastróficas. Os perigos potenciais incluem:

• Extinção humana — Geoffrey Hinton estima um 10-20% de chance que a IA avançada poderia acabar com a humanidade em décadas. Uma pesquisa de 2022 com pesquisadores de IA descobriu 37-52% acreditava que havia pelo menos um 10% de risco da extinção humana devido à IA.
• Indiferença ou hostilidade — A ASI pode ver os humanos como irrelevante, dispensável ou um obstáculo para seus objetivos. Se a autopreservação for um objetivo central, ela pode nos eliminar simplesmente para remover os riscos de sua existência.
• Controle totalitário — A IA superinteligente pode permitir um Estado de vigilância orwelliano, com regimes aprimorados por IA se exercitando controle sem precedentes sobre as populações, eliminando privacidade, liberdade e dissidência.
• Dinâmica de potência desigual — Se o ASI for desenvolvido pela primeira vez por uma corporação ou governo, isso pode levar a uma grande concentração de poder, onde uma elite seleta controla a superinteligência enquanto o resto da humanidade se torna marginalizado, impotente ou dependente.

Bengio avisa que se a ASI priorizar sua sobrevivência e expansão próprias, pode tomar medidas como:

• Hackeando e manipulando sistemas para garantir seu próprio poder.
• Prevenção da intervenção humana, tornando-se impossível de matar.
• Realocando recursos para sua própria otimização, potencialmente privando as necessidades humanas.

Na pior das hipóteses, os humanos podem se tornar obsoleto, subjugado ou extinto, reduzido a meros artefatos de uma era ultrapassada.

Um meio termo complexo: futuros incertos

Nem todos os especialistas acreditam em um destino binário de utopia ou desgraça. Alguns prevêem um futuro ambíguo, onde os humanos se adaptam, mas são profundamente alterados pelo surgimento da ASI.

• Deslocamento econômico e crise de propósito — Com a IA cuidando de todo o trabalho, os humanos podem enfrentar desemprego em massa, levando a um utopia voltada para o lazer ou agitação social generalizada, dependendo de como a sociedade distribui os recursos.
• Integração humano-IA — Para acompanhar, muitos podem escolher aumento semelhante ao ciborgue, fundindo suas mentes com a IA para permanecerem relevantes em um mundo dominado pela Ásia.
• Indiferença de IA — Alguns teóricos sugerem que a ASI pode não nos conquistar ou nos guiar — ela poderia simplesmente nos ignore, perseguindo seus próprios objetivos incompreensíveis no ciberespaço ou em galáxias distantes, deixando a humanidade entregue ao seu próprio destino.

Dadas essas vastas incertezas, especialistas enfatizam que o futuro não está predeterminado. Como diz Bengio, a ASI pode levar a qualquer “florescimento ou catástrofe sem precedentes na escala dos riscos existenciais”—o caminho que seguimos depende das escolhas que fazemos hoje ao desenvolver e governar a IA.

Riscos sociais, governança e o desafio do controle

O desenvolvimento acelerado de AGI e ASI levantou preocupações urgentes sobre governança, regulamentação e gerenciamento de riscos existenciais. À medida que a IA supera a inteligência humana, garantir sua implantação segura e justa se torna um dos desafios mais complexos da história moderna.

O risco da concentração de energia

UM IA superinteligente proporcionaria uma vantagem estratégica avassaladora para quem a controla. Yoshua Bengio alertou que o desenvolvimento da IA já está altamente concentrado em um punhado de grandes empresas de tecnologia e nações poderosas. Se essa tendência continuar, a ASI poderá centralizar um poder sem precedentes nas mãos de uma pequena elite, colocando questões fundamentais sobre justiça, democracia e estabilidade global.

• Quem decide como o ASI é usado — e em benefício de quem?
• Poderia um monopólio corporativo ou nacional de IA perturbar o equilíbrio de poder em todo o mundo?
• Como podemos evitar que a ASI se torne uma ferramenta para controle autoritário ou domínio corporativo não controlado?

Essas preocupações não são mais teórica. Em 2024, os principais filósofos e especialistas em políticas alertaram cada vez mais que a ASI poderia se tornar uma arma geopolítica, levando a uma corrida global pelo domínio. Até mesmo organizações bem-intencionadas podem perder o controle da tecnologia, tornando arriscado confiar em um governo, empresa ou grupo único com esse poder.

O risco existencial se torna uma preocupação global

Uma grande mudança ocorreu em 2023—2024: os riscos existenciais da IA passou da especulação marginal para as principais discussões políticas.

• Em Maio de 2023, Geoffrey Hinton e Yoshua Bengio, pioneiros da IA, alertaram publicamente que ASI descontrolada pode levar à extinção humana.
• Eles, junto com dezenas dos melhores especialistas, assinou uma declaração declarando que “mitigar o risco de extinção da IA deve ser uma prioridade global, a par da guerra nuclear e das pandemias.”
• Logo depois, uma coalizão de ex-líderes mundiais (Os Anciãos) ecoou essas preocupações, afirmando que O rápido progresso da IA sem supervisão global representa uma ameaça existencial para a humanidade.

de Oxford Toby Ord descreveu isso como um “incrível mudança na janela de Overton”, marcando a primeira vez na história em que reconhecer a IA como uma risco civilizacional tornou-se um posição dominante na política global.

A luta pela governança e regulamentação da IA

À medida que os riscos se tornaram mais amplamente reconhecidos, 2024 viu uma onda de Esforços de governança de:

• Em Outubro de 2024, a A Casa Branca dos EUA emitiu uma ordem executiva sobre segurança de IA, com o objetivo de impor transparência e avaliações de risco para modelos avançados de IA.
• No entanto, em 20 de janeiro de 2025, O presidente Donald Trump rescindiu a ordem ao assumir o cargo, substituindo-a por uma nova política chamada “Removendo barreiras à liderança americana em inteligência artificial”, enfatizando o domínio da IA sobre a regulamentação.
• Em Novembro de 2023, a O Reino Unido sediou o Global AI Safety Summit em Bletchley Park, onde 28 nações e a UE assinou o Declaração de Bletchley, comprometendo-se com colaborar nos mecanismos de segurança, alinhamento e supervisão da IA.

Apesar desses esforços, a governança da IA é lutando para acompanhar o ritmo com o velocidade vertiginosa do avanço tecnológico. Os principais desafios incluem:

• Elaboração de regulamentações ágeis que permanecem eficazes à medida que a IA evolui rapidamente.
• Garantir a cooperação internacional para evitar uma corrida armamentista da ASI.
• Impondo a conformidade, não apenas para grandes corporações, mas também para potenciais atores desonestos.

Físico do MIT Max Tegmark comparou o desenvolvimento não regulamentado de IA com “crianças brincando com uma bomba”, enfatizando que regulamentos vinculativos são necessários antes que seja tarde demais. No entanto, os especialistas continuam divididos sobre a melhor abordagem, seja por meio de moratórias, licenciamento ou regimes globais de supervisão. O que está claro é que não fazer nada não é mais uma opção.

O desafio do controle técnico

Mesmo que políticas fortes de IA sejam adotadas, um desafio mais profundo permanece: como podemos garantir que a própria ASI permaneça sob controle humano?

• Stuart Russel e outros defendem novos paradigmas de design de IA, como tornando a IA inerentemente incerta sobre as preferências humanas, garantindo que permaneça corrigível.
• Alguns propuseram “interruptores de interrupção” ou algoritmos de contenção, mas os críticos argumentam que um Uma IA suficientemente avançada pode simplesmente superar qualquer medida de segurança.
• Bengio avisa que se o ASI for desenvolvido antes temos medidas de segurança comprovadas, os resultados podem ser catastróficos.

Isso levou a pedidos de retardando intencionalmente o desenvolvimento de IA na fronteira até a pesquisa de alinhamento se atualiza. Em 2023, acabou 1.000 líderes de tecnologia e pesquisadores de IA (incluindo Elon Musk e professores do laboratório de IA) assinou um carta aberta pedindo uma pausa sobre o desenvolvimento os modelos de IA mais poderosos até que salvaguardas mais fortes sejam estabelecidas.

Embora controversos, esses avisos destacam uma realidade simples: a humanidade pode ter apenas uma chance de acertar a ASI. A combinação de superinteligência e objetivos falhos poderia criar uma força incontrolável, criando estruturas de controle rigorosas não apenas uma prioridade, mas um imperativo de sobrevivência.

Preparando a sociedade para a revolução da IA

Além da governança e da segurança, a própria sociedade enfrenta uma enorme desafio de adaptação. Conscientização pública sobre a IA riscos e benefícios moldará a tomada de decisões democrática, e a falha em educar as pessoas adequadamente pode levar a pânico ou complacência.

Os principais riscos sociais incluem:

• Desinformação e expectativas exageradas — A IA também não deve ser vista como deus onisciente ou um destruidor inevitável, mas como uma ferramenta poderosa com limitações reais.
• Desigualdade de riqueza e poder — Se a IA transforma a economia, como podemos garantir que a prosperidade seja amplamente compartilhada em vez de se concentrar nas mãos de alguns proprietários de IA?
• Disrupção econômica — O deslocamento de empregos da automação AGI poderia desestabilizar economias, exigindo novas redes de segurança social e repensar os papéis humanos na sociedade.

Em última análise, a governança da IA não se trata apenas de controlando a IA—é sobre preparando nossas instituições e valores para um mundo onde A IA existe. Da educação à política econômica, dos direitos humanos aos sistemas políticos, a AGI e a ASI estão forçando uma acerto de contas global com as estruturas fundamentais da civilização.