Autoconsciência envolve a capacidade de um ser entender que existe como uma entidade separada do ambiente e dos outros. Até agora, as IAs, incluindo modelos avançados como o ChatGPT, não possuem essa capacidade. Elas processam informações e geram respostas com base em padrões aprendidos de grandes volumes de dados, mas não têm uma percepção de si mesmas. A subjetividade é a experiência interna e pessoal que cada indivíduo tem do mundo. A IA, até o momento, não possui experiências internas.

ia será perigosa justamente porque não pode sentir.