Tec > Nada impede a criação de IA que destruirá o mundo, diz professor de Berkeley Voltar

Comente este texto

Leia Mais

  1. MATEUS VAZ DE S Sá

    Na verdade a humanidade está numa montanha russa sem parada e muito menos retorno. Mas sabe-se com segurança absoluta que ao final um precipício aguarda a humanidade, seja por burrice ou excesso de inteligência, ou ainda porque os deuses estarão enojados pelos homens que criaram.

    Responda
  2. Hercilio Silva

    Tem uma pergunta meio fora do quadrado. O Alphago é mais inteligente mesmo o ChatGpt tendo sido treinado por muitos terabytes de dados. Volume de dados é memória, não é inteligência. Confundiu as coisas a reportagem.

    Responda
  3. Douglas Garcia

    I'll be back ;)

    Responda
    1. Alberto Melis Bianconi

      hasta la vista baby.

  4. José Davi

    Uma percepção geral é a falta de criatividade das pessoas no século, houve um empobrecimento da cultura, da arte, do esporte. De um lado lacradores identitários e do outro reacionários com ofensas gratuitas. Sinto falta de um Dias Gomes, Pelé , Sena, Mussum, Chico Anysio, Jô Soares, Beth Carvalho, Dona Ivone Lara, Bezerra da Silva, Lina Bo Bardi, Eva Wilma, Milor Fernandes, Ziraldo tantos outros brasileiros e estrangeiros maravilhosos. Nossa crise é de criatividade e humor.

    Responda
  5. EDUARDO DE MELLO

    O que vai destruir a humanidade é a Burrice Natural, devastando recursos naturais, poluindo rios, estuários e mares. Este diário paulistano não deu nenhuma notícia sobre as eleições municipais do conselho de meio ambiente, contribuindo para o aquecimento global e as inundações.

    Responda
  6. Carlos Amorim

    O maior problema nem esta nas IAs, está no grupo de humanos A, que vai usar IAs para "vencer" o outro grupo de humanos. Isso sem contar que "Maximize a felicidade humana", pode levar a IA a distribuir um super prozac na água...

    Responda
  7. Alexandre Marcos Pereira

    Nem todos os especialistas em IA concordam com a proposta de pausa nas pesquisas. Alguns, como Ben Goertzel, CEO da SingularityNET, argumentam que os modelos de aprendizado de linguagem atuais, como o ChatGPT, não estão no caminho para se tornarem inteligências artificiais gerais (AGIs) e que os esforços deveriam se concentrar em desacelerar o desenvolvimento de armas biológicas e nucleares, em vez IA. A reação ao chamado para uma pausa no desenvolvimento da IA destaca divergências no campo.

    Responda
  8. Valter Iwai

    A IA é artificial, mas não é inteligência. Sem inventividade e sem iniciativa, a dita IA só vai fazer a alegria dos medíocres.

    Responda
    1. Renato Guilherme Vianna

      Cuidado com essa afirmativa. Por enquanto, a inventividade e as iniciativas são humanas, o que é suficiente para tomarmos muito cuidado. As transformações devido à IA serão mais profundas e rápidas do que se pode imaginar. Para entender, é preciso conhecer o que está sendo discutido sobre isso. Sugiro assistir no YouTube entrevistas com o Geoffrey Hinton, Mustafa Suleyman, Mo Gawdat e o próprio Stuart Russell, entre outros.

    2. Dermival Pereira de Macedo

      A IA vai acabar com todas as crenças só haverá certezas

  9. ROBERTO KEN NAKAYAMA

    Como uma criança que não se põe limites, o IA pode crescer sem certos valores humanos bem desenvolvidos, pior sem discernimento para o que pode ser prejudicial à humanidade ou ao meio ambiente, se é que muitos humanos não se dê conta disso também ou prefere ganhos imediatos na maioria das vezes por pura ganância sem se importar com o planeta.

    Responda
  10. JAILSON DE BEZERRA

    Com o abe stalhamento das gerações, até uma calculadora Cássio antiga pode dominar a humanidade.

    Responda
  11. Dermival Pereira de Macedo

    Ideologias,religiões, deuses, alma, é criação da mente humana prova inequívoca que não somos racionais,a IA pode acabar com esses valores

    Responda
  12. Luiz Paulo Tupynambá

    Esta entrevista aponta, com muito propriedade, algumas das principais perguntas do nosso futuro desenvolvimento tecnológico. Quando se começa a produzir algo como a Inteligência Artificial sem que se tenha conhecimento pleno de como ela funcionará e quais são os parâmetros que a limitariam é muito perigoso. O filme Oppenheimer mostra bem esse dilema: a explosão da primeira bomba incendiará todo o planeta? A IA Geral dominará o mundo e destruirá ou escravizará a humanidade?

    Responda
    1. Luiz Paulo Tupynambá

      Se conseguirmos cravar um "não" a essas perguntas, tudo bem, vamos em frente. Porém, estabelecer uma regra assim, pode não ser aceito por determinadas facções humanas, dominadas por elites com convicções políticas ou religiosas sectárias. A IA Geral não é a ameaça. Nós, humanos, é que continuamos sendo a real ameaça.

  13. SEBASTIAO PINTO

    Só assistir a série "The Hundred" da Netflix para ver que uma IA será capaz de acabar o mundo.

    Responda
  14. Alberto Melis Bianconi

    Não sabemos como a IA opera. E por acaso sabemos como nós operamos? Se soubéssemos, faria sentido existirem tantos povos vivendo em sistemas socio-econômicos tão precários? A democracia parece dar certa legitimidade coletiva... mas foram quantos séculos de tentativas e erros? E não sabemos replicar... só o ex-presidente Figuriredo conseguiu fazer deste pais uma democracia quebrando e arrebentando... e no fim pediu para ser esquecido!

    Responda
    1. Alberto Melis Bianconi

      Também não sei se sabemos o que queremos dizer com controlar uma IA. Basta estarmos seguros de que poderemos desplugar da tomada a qualquer momento? E não consigo levar a sério esse negócio de buscar pela própria palavra... Muitas vezes me faltam palavras justamente porque sei (e não si como sei) o que quero dizer. Aliás, já vi que o chatGPT jogando xadrez é uma piada.

  15. Edilberto Patricio

    skynet ? ai é só inventar uma maquina do tempo e enviar um musculoso tipo o schwazneggar e fale com a mão

    Responda
  16. Alek Benito

    Nem percam tempo em se preocupar com AI. Logo entraremos numa guerra atômica. AI vai morrer juntinho com o resto dessa raça humana deplorável. Amém Jesus.

    Responda
  17. ROBERTO CEZAR BIANCHINI

    "Nada impede a criação de IA que destruirá o mundo". Para ser intelectualmente honesto, também precisa ser dito que não há garantias que uma IA deste tipo será criada.

    Responda
  18. felipe teixeira

    Em 1991, o filme Terminator 2 já demonstrava o perigo da IA. Estamos chegando próximo da Skynet.

    Responda
  19. TEDDY LLANO

    É necessário desenvolver comitês mundiais que estruturem o desenvolvimento de IA replicando a mente humana de um neurotípico. Ou seja, não apenas desenvolver a intelectualidade da IA, mas desenvolver aspectos emocionais e éticos da IA (a IA se perguntando: "eu devo ou não devo processar a resposta dessa forma?). Ao meu ver, é necessário criar uma nova profissão dentro da psiquiatria especializada em desenvolver IA. Caso contrário, estaremos desenvolvendo IA com zero empatia pelo ser humano.

    Responda
  20. Gustavo Souza Machado

    Uma vez pedi ao ChatGPT que descrevesse o rinoceronte cor de rosa. Ele o descreveu, falou de seu habitat e ainda afirmou que a espécie corria risco de extinção. Fiz uma pergunta de geometria analítica e ele concluir que 2 rodadas dadas eram paralelas quando tinham um ponto de intersecto. Esse trem parece mais um papagaio. Mas de fato, esse que disponibilizam não passa de um aperitivo; nem sabemos o que essas empresas estão projetando às escondidas.

    Responda
    1. Alberto Melis Bianconi

      Censura aqui! Uma prova da inconsistência da IA é esse bot da Folha. Eu não falei de Isrr@el, juro.

    2. Alberto Melis Bianconi

      Ele nunca fica sem resposta, parece alguém falando a primeira coisa que lhe vem à cabeça. Nesse aspecto, curiosamente, ele simula muito bem a inteligência natural humana.Se ele não sabe, ele fabula a respeito. E acho que esse é o grande perigo, porque somos crédulos, embarcamos fácil em qualquer conversa que pareça fazer sentido. O perigo é perdermos o pé da realidade.

  21. Alexandre Assis

    O homem já está destruindo o mundo. Parem de desviar o assunto para IA que nem existe ainda, e olhem ao seu redor!

    Responda
  22. Marcelo Innecco

    Se em Veneza estão cobrando daqui a um mês 5 Euros por visitante pra fazer caixa, imagina vender um livro a 60 Dólares pra fazer uma rendinha. É o novo anunciador do Apocalipse com plaquinha dependurada no pescoço, na esquina de duas ruas movimentadas do centro de cidade grande. Parece promoção do tipo: É pegar ou largar, venham, venham... Prefiro ver a Sandy cantar com o Andrea, com licença.

    Responda
  23. Athayde Carneiro

    stuart russel e peter norvig são autores dA (THE) maior referência em IA já publicada.

    Responda
  24. Marcos Benassi

    O Seu Russel é um sujeito muitíssimo interessante e prudente, não fala uma única bobagem ou faz alguma ameaça distópica, o que é excelente. É simples: se o objetivo de uma empresa for somente "ganhar o máximo de dinheiro possível" e ela for gerida por uma efetiva inteligência geral, potente e sem controle, o que impedirá que esse programa hackeie o Tesla do principal pesquisador do concorrente e cause um acidente? É esse o ponto. Os objetivos e ética das IAs devem ser análogos aos humanos

    Responda
    1. Alberto Melis Bianconi

      Gostei, mas somos de fato controlados pela ética? E o Carlos coloca um ponto importante, tanto os avanços tecnológicos como os problemas que enfrentamos Aliás, são irmãos gêmeos, decorrem de termos aceitado a legitimidade do lucro. E não estou aqui condenando o lucro! Já Marx sabia das extraordinárias forças produtivas que essa organização social liberava.

    2. Carlos Artur Felippe

      A ética humana tem feito a maioria sofrer carências básicas: comida, água, ar, saneamento, educação, apesar de haver condições tecnológicas para a superação dessas agruras, com o agravante das interferências nos ciclos naturais, e do esgotamento dos recursos. Os avanços e desafios humanos atuais têm a mesma origem: a busca competitiva pelo lucro. Como essa lógica será operada por sistemas mais potentes, sem nenhum freio ético? Qual é a chance disso dar certo?

    3. Alexandre Assis

      Amigo Marcos, a ética das IAs precisa ser melhor que a dos humanos, ou estaremos phudidos quando as máquinas começarem a relativizar.

De que você precisa?

Copyright Agora. Todos os direitos reservados. É proibida a reprodução do conteúdo desta página
em qualquer meio de comunicação, eletrônico ou impresso, sem autorização escrita do Agora.