Num mundo repleto de ódios, que possa ajudar a ampliar a paz duradoura para que não se torne altamente destrutiva nas mãos de homens desalmados.

"A palavra mais importante na definição é o termo "agentes", isto é, ferramentas que deveriam agir no nosso interesse." Errado. Agente implica autonomia, não agir em interesse de outrem. O problema todo é: se os modelos de IA forem autônomos, não há como saber o que pode surgir se eles realmente se tornarem sencientes. Porém, do jeito que está agora, a intenção dos que os criaram parece ser o que Wolfram escreveu. Tudo será automatizado. Quero ver quem irá consumir, e pagar, o que será produzido

Excelente análise. No fim das contas, é preciso pensar sobre o futuro do pensamento. Se tudo puder ser extraído de um super bigdata programático, de base heurística, o processo de pensar tende a se atrofiar. Que efeitos isso pode ter?

A IA compartilha com a humana a ausência do disconfiómetro (os humanos, uma parte pelo menos, em grau bastante baixo, possuem). Falam qualquer coisa gramaticalmente correta, consistente ou não com a realidade. A "conversa" humana produziu a civilização mas, como as antigas lâmpadas incandescentes, produzem muito mais calor, confusão. Se não soubermos dizer se a fala vem de um humano ou de IA, desconfio que a confusão cresce exponencialmente.

Por enquanto o debate dessas IAs está no nível da bobagem, do tipo "uma IA consegue passar num vestibular". É óbvio que, tendo acesso a informações, a máquina supera o homem em processar informações existentes, como faz no xadrez há décadas. A questão mais importante do Chatgpt e congêneres é o uso doloso pelos desenvolvedores. Eles podem manipular à vontade os algoritmos, e já o fazem em questões éticas e morais.

IAs são parceiros para elaborar ideias segundos após delineadas, por inteligências não artificiais. Infelizmente, esses IAs não participam ainda de fóruns com múltiplos participantes. Vieram como mais um valor econômico, possível de provar que para maximizar o desenvolvimento da economia e riquezas da humanidade. Positivo porque poderemos construir jogos do tipo ganha-ganha, ao contrário das mudanças climáticas com seu inexorável perde-perde possível demonstrar pelos mesmos teoremas econômicos.

Eu tô mais na onda do Wolfram, caríssimo Ronaldo: vanguardista, genial e sóbrio essa avaliação tem um componente de realidade bastante consubstanciado. O Harari é também sujeito genial, e seus argumentos são de se considerar com muito cuidado, porque de fundo amplo; todavia, prefiro olhar pela perspectiva do factível à do alarmismo: alguém lá consegue impedir este desenvolvimento? Toca regular de modo ferrenho e informado. Ademais, creio que uma dimensão da "agência" é superestimada [continua]

Conversamos conosco (“consciência “) pela linguagem que nos foi passada. E se até essa linguagem for transmitida desde o nascimento pela IA?

4 colunistas da Folha escreverem sobre IA nos últimos dias - cada um dentro do seu quadrado, uns jocosos, outro técnico, outro mais no aspecto das interação humana. Mas fato que (quase) todos levantaram preocupações (apenas o de humor tirou sarro do bicho). Enfim: apertem os cintos, teremos emoção! E uma pequena sugestao: sempre vejo falando da IA mas nunca vi uma reportagem com os desenvolvedores do chatgpt por exemplo. E aí? Como está essa turma? Tem compromisso ético?

Não é difícil perceber que o jogo virou. Até ontem o trabalho era ensinar nossa linguagem à máquina, agora a recomendação é que aprendamos a lidar com o “pensamento computacional”. Sem um regramento internacional, aos moldes do que se fez com a tecnologia nuclear, a coisa desanda.

A coluna de hoje de Antônio Prata dá uma visão complementar e até mais grave. Vale a pena ler.