Apocalypse AI: encontro de IA do CloudWalk

“E eis um cavalo pálido; e o nome daquele que estava sentado nele era Morte, e o inferno o seguia.” (Rev. 6:8)

Ao ponderarmos sobre as palavras do Apocalipse, talvez nossos animais de silício sejam os novos quatro cavaleiros.

Nós convidamos vocês a sonhar ou temer o fim dos tempos juntos: a IA do Apocalipse.

‍

No dia 21 de maio às 19h, junte-se a nós no escritório da CloudWalk em São Paulo para uma reunião informal — sem palestras, sem especialistas — apenas humanos reunidos, contemplando as possibilidades fascinantes, assustadoras e fantásticas de um apocalipse impulsionado pela IA. Proteja seu lugar aqui.

Podemos perguntar: seremos as máquinas que perecerão — carentes de dados, sem computação — ou seremos nós, destruídos pelo desemprego em massa, pelo colapso ambiental, pelos sistemas de armas desonestos e por ordens sociais sobrecarregadas? O Apocalipse da IA significará o fim da inteligência artificial ou o fim da ação humana? Ou talvez o fim de tudo, já que a antiga batalha entre o bem e o mal é recarregada na forma de silício. Esse é o nosso Julgamento Final, codificado não nas escrituras, mas na fonte?

Abaixo, você encontrará cinco textos intrigantes para despertar inspiração. Traga seus próprios pensamentos, sonhos e medos; todas as visões do futuro são bem-vindas:

‍

Superinteligência: caminhos, perigos, estratégias — Nick Bostrom (livro, 2014)

Obra seminal do filósofo de Oxford Nick Bostrom, explorando cenários de superinteligência artificial e riscos existenciais. Bostrom argumenta que a IA que supera amplamente a inteligência humana pode se tornar incontrolável e até mesmo “dominar” o planeta, eliminando a humanidade para perseguir objetivos desalinhados (wired.com). O influente best-seller incorporou a ideia anteriormente marginal de que a IA avançada poderia se voltar contra a humanidade e nos “excluir” (wired.com). A superinteligência consolidou as preocupações de que a IA poderia ser a “última invenção” da humanidade, defendendo a pesquisa de alinhamento para evitar um potencial apocalipse tecnológico. Você também pode encontrar no YouTube várias entrevistas com Nick Bostrom, como este.

‍

“Pausar os desenvolvimentos de IA não é suficiente. Precisamos acabar com tudo” — Eliezer Yudkowsky (29 de março de 2023)

Artigo de opinião publicado na TIME, onde Yudkowsky, um pesquisador pioneiro em segurança de IA, defende urgentemente a interrupção completa do desenvolvimento avançado de IA. Ele argumenta que criar inteligência sobre-humana nas condições atuais provavelmente resultaria na extinção humana — “o resultado mais provável da construção de uma IA sobre-humana inteligente... é que literalmente todos na Terra morrerão” (time.com). Yudkowsky chama a situação de emergência global, criticando até mesmo uma carta aberta moderada que pedia apenas uma pausa de seis meses. Este ensaio alarmista se tornou um manifesto proeminente para aqueles que temem um “apocalipse da IA”, exigindo medidas drásticas para evitá-lo.

‍

“O pensamento de 'Não olhe para cima' que poderia nos condenar com a IA” — Max Tegmark (25 de abril de 2023)

Ensaio de opinião do físico Max Tegmark na TIME, comparando a complacência social em relação à ameaça da IA ao filme Don't Look Up. A Tegmark cita uma pesquisa que indica que metade dos pesquisadores de IA acredita que há pelo menos 10% de chance de a IA causar a extinção humana (time.com). No entanto, ele observa, a reação social predominante é a negação ou o ridículo do perigo iminente, em vez de uma ação preventiva (time.com). Tegmark, cofundadora do Instituto Future of Life, alerta que ignorar os avisos científicos sobre a IA não controlada pode “nos condenar”, pedindo a adoção de princípios de segurança e a interrupção voluntária no desenvolvimento de IA superinteligente.

‍

“O chefe de IA da Meta, Yann LeCun, sobre AGI, código aberto e risco de IA” — Entrevista com Yann LeCun (13 de fevereiro de 2024)

Entrevista com Yann LeCun (13 de fevereiro de 2024). Nesta entrevista da TIME, Yann Lecun, cientista-chefe de IA da META e vencedor do Prêmio Turing, assume uma posição cética em relação ao apocalipse da IA. LeCun considera “absurda” a ideia de que uma IA superinteligente desejaria inerentemente dominar ou exterminar a humanidade (time.com). Ele argumenta que inteligência não implica ambição de poder (“A primeira falácia é que, como um sistema é inteligente, ele quer assumir o controle. Isso é completamente falso” (time.com), afirmando que podemos programar metas benéficas em IAs. LeCun afirma que os riscos reais da IA são exagerados e comparáveis a outros perigos gerenciáveis, acreditando que haverá tempo suficiente para a implementação gradual de salvaguardas à medida que a IA avança, refutando assim as visões apocalípticas

‍

“A suposta ameaça existencial da IA à humanidade” — Oren Etzioni e Rich Chen (29 de março de 2024)

Artigo de opinião sobre Medium desafiando previsões catastróficas e fornecendo uma voz cética no debate. De autoria do ex-CEO do Instituto Allen de IA, Oren Etzioni, e do pesquisador Rich Chen, o ensaio argumenta que as especulações sobre a extinção da IA desviam a atenção de desafios mais concretos e imediatos (como perda de empregos e desinformação) (medium.com). Os autores desmontam dois grandes argumentos “condenáveis”, expondo falhas lógicas, como o uso indevido da “utilidade infinita” para justificar medos extremos. Por exemplo, eles contrastam o cenário apocalíptico de “bola preta” de Bostrom com a ideia de uma “bola branca”, em que a IA avançada realmente serve como salvação contra outras ameaças à humanidade (medium.com). Em última análise, esse manifesto argumenta que buscar avanços responsáveis na IA oferece maiores benefícios do que a paralisia devido ao medo de um apocalipse improvável.

‍

Entrevista completa: “Godfather of AI” compartilha previsões e avisos

Nesta entrevista abrangente, Geoffrey Hinton, muitas vezes chamado de “padrinho da IA”, discute sua decisão de deixar o Google e suas preocupações com o rápido avanço da inteligência artificial. Hinton investiga os riscos potenciais associados ao desenvolvimento da IA, incluindo a possibilidade de a IA superar a inteligência humana e as implicações éticas que a acompanham. Ele enfatiza a necessidade de colaboração global para garantir que as tecnologias de IA sejam desenvolvidas com responsabilidade e segurança.

‍

IA e o futuro da humanidade — Yuval Noah Harari no Frontiers Forum

Nesta palestra instigante, o historiador e filósofo Yuval Noah Harari explora as profundas implicações da inteligência artificial no futuro da humanidade. Harari investiga como a IA pode remodelar sociedades, economias e nossa própria compreensão do que significa ser humano. Ele enfatiza a necessidade urgente de cooperação global para garantir que os avanços tecnológicos se alinhem aos valores humanos e às considerações éticas.

‍

AGI de 2027, corrida de superinteligência entre China e EUA e o retorno da história

Nesta conversa instigante, Dwarkesh Patel se envolve com Leopold Aschenbrenner para explorar a trajetória em direção à Inteligência Geral Artificial (AGI) até 2027. Eles investigam as leis de escalabilidade que impulsionam os avanços da IA, a dinâmica geopolítica entre a China e os EUA na corrida pela superinteligência e os padrões históricos que podem estar ressurgindo nesta nova era de evolução tecnológica.

‍

Junte-se ao círculo. Sonhe conosco, ou talvez desperte para um novo entendimento.