“Eu já li aquele livro Superinteligência do Nick Bostrom. Ele fala sobre essa questão de que iria surgir uma superinteligência, mas ele fala de um risco que é real, que é o problema do alinhamento.”
Bruno Perini cita o livro como leitura recomendada ao discutir o problema do alinhamento da IA e o exemplo da maximização de clipes de papel.
Bruno Perini
“Eu li um livro chamado Superinteligência, do Nick Bostrom, que falava sobre a ascensão da IA e como se proteger de uma IA que pudesse ter incentivos contrários à humanidade.”
Citado ao comentar que Elon Musk, que assinava um comentário no livro dizendo que a IA era como invocar o demônio, depois criou a própria empresa de IA.
Bruno Perini
“É aquela história do paper clip maximizer, né? Tipo, ela vai consumir tudo, ela vai nos matar. Nick Bostrom no Superinteligência.”
Citado ao discutir o experimento mental do maximizador de clipes de papel e os riscos de IAs com objetivos desalinhados.
Bruno Perini
“Eu já li aquele livro Superinteligência do Nick Bostrom. Ele fala sobre essa questão de que iria surgir uma superinteligência, mas ele fala de um risco que é real, que é o problema do alinhamento.”
Bruno Perini cita o livro como leitura recomendada ao discutir o problema do alinhamento da IA e o exemplo da maximização de clipes de papel.
Felipe Santana
“Tem um livro muito bom que eu li lá atrás que fala sobre essa questão: Superinteligência. É muito bom esse livro e ele aborda esse problema: como é que você faz para se proteger de uma IA inteligente?”
Citado durante a discussão sobre o avanço exponencial das IAs e o risco de desalinhamento com a humanidade.
Pedro Loos
“O argumento da simulação surgiu com um autor que é o Nick Bostrom. Ele é o autor de vários livros, um deles é o Superinteligência.”
Citado primeiro ao apresentar o autor do argumento da simulação; depois Bruno retoma o livro para discutir os riscos de uma IA superinteligente e as formas de se proteger dela.
Livros que apareceram na mesma conversa.
