Tec > Nada impede a criação de IA que destruirá o mundo, diz professor de Berkeley Voltar
Comente este texto
Leia Mais
Na verdade a humanidade está numa montanha russa sem parada e muito menos retorno. Mas sabe-se com segurança absoluta que ao final um precipÃcio aguarda a humanidade, seja por burrice ou excesso de inteligência, ou ainda porque os deuses estarão enojados pelos homens que criaram.
Tem uma pergunta meio fora do quadrado. O Alphago é mais inteligente mesmo o ChatGpt tendo sido treinado por muitos terabytes de dados. Volume de dados é memória, não é inteligência. Confundiu as coisas a reportagem.
I'll be back ;)
hasta la vista baby.
Uma percepção geral é a falta de criatividade das pessoas no século, houve um empobrecimento da cultura, da arte, do esporte. De um lado lacradores identitários e do outro reacionários com ofensas gratuitas. Sinto falta de um Dias Gomes, Pelé , Sena, Mussum, Chico Anysio, Jô Soares, Beth Carvalho, Dona Ivone Lara, Bezerra da Silva, Lina Bo Bardi, Eva Wilma, Milor Fernandes, Ziraldo tantos outros brasileiros e estrangeiros maravilhosos. Nossa crise é de criatividade e humor.
O que vai destruir a humanidade é a Burrice Natural, devastando recursos naturais, poluindo rios, estuários e mares. Este diário paulistano não deu nenhuma notÃcia sobre as eleições municipais do conselho de meio ambiente, contribuindo para o aquecimento global e as inundações.
O maior problema nem esta nas IAs, está no grupo de humanos A, que vai usar IAs para "vencer" o outro grupo de humanos. Isso sem contar que "Maximize a felicidade humana", pode levar a IA a distribuir um super prozac na água...
Nem todos os especialistas em IA concordam com a proposta de pausa nas pesquisas. Alguns, como Ben Goertzel, CEO da SingularityNET, argumentam que os modelos de aprendizado de linguagem atuais, como o ChatGPT, não estão no caminho para se tornarem inteligências artificiais gerais (AGIs) e que os esforços deveriam se concentrar em desacelerar o desenvolvimento de armas biológicas e nucleares, em vez IA. A reação ao chamado para uma pausa no desenvolvimento da IA destaca divergências no campo.
A IA é artificial, mas não é inteligência. Sem inventividade e sem iniciativa, a dita IA só vai fazer a alegria dos medÃocres.
Cuidado com essa afirmativa. Por enquanto, a inventividade e as iniciativas são humanas, o que é suficiente para tomarmos muito cuidado. As transformações devido à IA serão mais profundas e rápidas do que se pode imaginar. Para entender, é preciso conhecer o que está sendo discutido sobre isso. Sugiro assistir no YouTube entrevistas com o Geoffrey Hinton, Mustafa Suleyman, Mo Gawdat e o próprio Stuart Russell, entre outros.
A IA vai acabar com todas as crenças só haverá certezas
Como uma criança que não se põe limites, o IA pode crescer sem certos valores humanos bem desenvolvidos, pior sem discernimento para o que pode ser prejudicial à humanidade ou ao meio ambiente, se é que muitos humanos não se dê conta disso também ou prefere ganhos imediatos na maioria das vezes por pura ganância sem se importar com o planeta.
Com o abe stalhamento das gerações, até uma calculadora Cássio antiga pode dominar a humanidade.
Ideologias,religiões, deuses, alma, é criação da mente humana prova inequÃvoca que não somos racionais,a IA pode acabar com esses valores
Esta entrevista aponta, com muito propriedade, algumas das principais perguntas do nosso futuro desenvolvimento tecnológico. Quando se começa a produzir algo como a Inteligência Artificial sem que se tenha conhecimento pleno de como ela funcionará e quais são os parâmetros que a limitariam é muito perigoso. O filme Oppenheimer mostra bem esse dilema: a explosão da primeira bomba incendiará todo o planeta? A IA Geral dominará o mundo e destruirá ou escravizará a humanidade?
Se conseguirmos cravar um "não" a essas perguntas, tudo bem, vamos em frente. Porém, estabelecer uma regra assim, pode não ser aceito por determinadas facções humanas, dominadas por elites com convicções polÃticas ou religiosas sectárias. A IA Geral não é a ameaça. Nós, humanos, é que continuamos sendo a real ameaça.
Só assistir a série "The Hundred" da Netflix para ver que uma IA será capaz de acabar o mundo.
Não sabemos como a IA opera. E por acaso sabemos como nós operamos? Se soubéssemos, faria sentido existirem tantos povos vivendo em sistemas socio-econômicos tão precários? A democracia parece dar certa legitimidade coletiva... mas foram quantos séculos de tentativas e erros? E não sabemos replicar... só o ex-presidente Figuriredo conseguiu fazer deste pais uma democracia quebrando e arrebentando... e no fim pediu para ser esquecido!
Também não sei se sabemos o que queremos dizer com controlar uma IA. Basta estarmos seguros de que poderemos desplugar da tomada a qualquer momento? E não consigo levar a sério esse negócio de buscar pela própria palavra... Muitas vezes me faltam palavras justamente porque sei (e não si como sei) o que quero dizer. Aliás, já vi que o chatGPT jogando xadrez é uma piada.
skynet ? ai é só inventar uma maquina do tempo e enviar um musculoso tipo o schwazneggar e fale com a mão
Nem percam tempo em se preocupar com AI. Logo entraremos numa guerra atômica. AI vai morrer juntinho com o resto dessa raça humana deplorável. Amém Jesus.
"Nada impede a criação de IA que destruirá o mundo". Para ser intelectualmente honesto, também precisa ser dito que não há garantias que uma IA deste tipo será criada.
Em 1991, o filme Terminator 2 já demonstrava o perigo da IA. Estamos chegando próximo da Skynet.
É necessário desenvolver comitês mundiais que estruturem o desenvolvimento de IA replicando a mente humana de um neurotÃpico. Ou seja, não apenas desenvolver a intelectualidade da IA, mas desenvolver aspectos emocionais e éticos da IA (a IA se perguntando: "eu devo ou não devo processar a resposta dessa forma?). Ao meu ver, é necessário criar uma nova profissão dentro da psiquiatria especializada em desenvolver IA. Caso contrário, estaremos desenvolvendo IA com zero empatia pelo ser humano.
Uma vez pedi ao ChatGPT que descrevesse o rinoceronte cor de rosa. Ele o descreveu, falou de seu habitat e ainda afirmou que a espécie corria risco de extinção. Fiz uma pergunta de geometria analÃtica e ele concluir que 2 rodadas dadas eram paralelas quando tinham um ponto de intersecto. Esse trem parece mais um papagaio. Mas de fato, esse que disponibilizam não passa de um aperitivo; nem sabemos o que essas empresas estão projetando à s escondidas.
Censura aqui! Uma prova da inconsistência da IA é esse bot da Folha. Eu não falei de Isrr@el, juro.
Ele nunca fica sem resposta, parece alguém falando a primeira coisa que lhe vem à cabeça. Nesse aspecto, curiosamente, ele simula muito bem a inteligência natural humana.Se ele não sabe, ele fabula a respeito. E acho que esse é o grande perigo, porque somos crédulos, embarcamos fácil em qualquer conversa que pareça fazer sentido. O perigo é perdermos o pé da realidade.
O homem já está destruindo o mundo. Parem de desviar o assunto para IA que nem existe ainda, e olhem ao seu redor!
Se em Veneza estão cobrando daqui a um mês 5 Euros por visitante pra fazer caixa, imagina vender um livro a 60 Dólares pra fazer uma rendinha. É o novo anunciador do Apocalipse com plaquinha dependurada no pescoço, na esquina de duas ruas movimentadas do centro de cidade grande. Parece promoção do tipo: É pegar ou largar, venham, venham... Prefiro ver a Sandy cantar com o Andrea, com licença.
stuart russel e peter norvig são autores dA (THE) maior referência em IA já publicada.
O Seu Russel é um sujeito muitÃssimo interessante e prudente, não fala uma única bobagem ou faz alguma ameaça distópica, o que é excelente. É simples: se o objetivo de uma empresa for somente "ganhar o máximo de dinheiro possÃvel" e ela for gerida por uma efetiva inteligência geral, potente e sem controle, o que impedirá que esse programa hackeie o Tesla do principal pesquisador do concorrente e cause um acidente? É esse o ponto. Os objetivos e ética das IAs devem ser análogos aos humanos
Gostei, mas somos de fato controlados pela ética? E o Carlos coloca um ponto importante, tanto os avanços tecnológicos como os problemas que enfrentamos Aliás, são irmãos gêmeos, decorrem de termos aceitado a legitimidade do lucro. E não estou aqui condenando o lucro! Já Marx sabia das extraordinárias forças produtivas que essa organização social liberava.
A ética humana tem feito a maioria sofrer carências básicas: comida, água, ar, saneamento, educação, apesar de haver condições tecnológicas para a superação dessas agruras, com o agravante das interferências nos ciclos naturais, e do esgotamento dos recursos. Os avanços e desafios humanos atuais têm a mesma origem: a busca competitiva pelo lucro. Como essa lógica será operada por sistemas mais potentes, sem nenhum freio ético? Qual é a chance disso dar certo?
Amigo Marcos, a ética das IAs precisa ser melhor que a dos humanos, ou estaremos phudidos quando as máquinas começarem a relativizar.
Busca
De que você precisa?
Fale com o Agora
Tire suas dúvidas, mande sua reclamação e fale com a redação.
Tec > Nada impede a criação de IA que destruirá o mundo, diz professor de Berkeley Voltar
Comente este texto