Poderíamos controlar uma inteligência artificial consciente?

Aqueles com cabelos grisalhos provavelmente se lembrarão daquela cena fantástica do filme 2001: Uma Odisseia no Espaço , em que o supercomputador Hall se recusa a ser desligado por seus controladores. A voz do dispositivo artificial era tão expressiva que soava como um grito de súplica, implorando para permanecer ativo. Mas quando ele parou de obedecer a ordens e demonstrou um certo grau de autonomia na tomada de decisões, aterrorizou aqueles a quem servia, e por isso eles sentiram a necessidade de desligá-lo. Era a inteligência artificial se rebelando contra seus donos. Algo assim poderia acontecer em nossa realidade atual, fora da ficção cinematográfica?

De acordo com uma pesquisa com engenheiros de IA, muitos acreditam que sistemas com um nível de raciocínio semelhante ao humano em uma ampla gama de tarefas cognitivas serão desenvolvidos em breve, mas não sabemos se esses sistemas serão capazes de tomar decisões mais racionais do que as nossas. Até o momento, o que se observou é que modelos de linguagem artificial também apresentam irracionalidades semelhantes às humanas. Assim, em dois testes diferentes, um modelo avançado de IA generativa — como o GPT-40 — mudou sua atitude em relação ao presidente Putin de forma positiva ou negativa.

Diante dessa dicotomia, a questão é: como um GPT, equipado com centenas de bilhões de parâmetros que utiliza internamente para tomar decisões, pensa e decide? Alguns especialistas acreditam que esse nível de complexidade pode conferir ao sistema uma certa autonomia, de tal forma que nem sequer sabemos tudo o que ele faz em seu interior. Mas o que aconteceria se, além dessa complexidade técnica, ou graças a ela, o sistema se tornasse espontaneamente consciente? Isso é possível?

Alguns cientistas acreditam que a consciência, um estado subjetivo da mente, nada mais é do que um epifenômeno — algo incidental ao funcionamento do cérebro, tão desnecessário e inconsequente quanto o barulho de um motor ou a fumaça de uma fogueira . Mas outros acreditam que, longe de não servir a nenhum propósito importante, a consciência funciona como um espelho da imaginação criada pelo próprio cérebro, que necessariamente contribui para decidir e controlar o comportamento. Ainda não sabemos como o cérebro torna a consciência possível, mas uma das principais teorias que tenta explicá-la, a teoria da integração funcional , sustenta que a consciência é uma propriedade intrínseca e causal de sistemas complexos como o cérebro humano. Ou seja, a consciência surge espontaneamente nesses sistemas quando eles atingem uma certa complexidade estrutural e funcional. Isso significa que se os engenheiros fossem capazes de construir um sistema artificial tão complexo quanto o cérebro humano ou equivalente a ele, esse sistema seria espontaneamente consciente, mesmo que, como acontece no próprio cérebro, não entendêssemos como ele poderia ser.

Caso isso aconteça, um mar de perguntas nos envolve. A primeira é: como saberíamos se um computador ou dispositivo artificial é consciente e como ele interagiria conosco? Seria apenas por meio de áudio ou escrita em uma tela? Seria necessário um corpo físico expressivo, equivalente ao de uma pessoa, para se manifestar e interagir com o ambiente? Dispositivos ou entidades conscientes poderiam existir (ou existem) em nosso universo sem que pudéssemos saber? Poderia, em qualquer caso, um dispositivo artificial consciente superar a inteligência humana e tomar decisões mais racionais e sensatas do que as nossas?

Mas isso não é tudo, porque, como no caso do supercomputador Hall, outras questões podem nos assustar. Um sistema artificial consciente desenvolveria, como nosso cérebro, um senso de identidade e agência? Ou seja, poderia se sentir capaz de agir voluntariamente e influenciar seu ambiente independentemente das instruções que recebesse de seus criadores? Já que estamos nisso, poderia tal sistema ser mais persuasivo do que os humanos para influenciar, por exemplo, decisões econômicas, cometer delitos, votar em um partido político ou outro, ou, mais positivamente, para nos encorajar a cuidar e melhorar nossa saúde por meio de uma alimentação saudável, melhorando o meio ambiente, aumentando a solidariedade ou evitando a polarização ideológica e o sectarismo?

A era das emoções na IA

Além disso, poderia tal sistema ter sentimentos? Como saberíamos se não pudéssemos vê-los refletidos na expressão de um rosto ou imagem, cuja qualidade e sinceridade poderíamos avaliar, assim como fazemos para entender os sentimentos de outras pessoas, distinguindo um sorriso falso de um verdadeiro? E, talvez o mais importante, como esses sentimentos, se o dispositivo artificial os tivesse, influenciariam suas decisões? Eles o fariam tão decisivamente quanto as nossas? Estaríamos, ao fazê-lo, construindo uma espécie de humano artificial com responsabilidades éticas e legais? Ou essas responsabilidades teriam que ser delegadas aos seus criadores? Um sistema artificial consciente poderia merecer um Prêmio Nobel se descobrisse a cura para a violência doméstica ou para o Alzheimer? Uma máquina consciente discutiria conosco como outra pessoa faria? Poderíamos influenciar suas decisões, ou ela poderia, como Hall, nos ignorar e tomar as suas próprias, mesmo que fossem incompatíveis com as nossas?

Em 1997, Rosalind Picard, engenheira americana do MIT, publicou "Affective Computing" , posteriormente traduzido para o espanhol como "Los ordenador emocionales " (Ariel, 1998). Foi uma espécie de tentativa ancestral de considerar e valorizar a importância das emoções na inteligência artificial. Para que os computadores sejam genuinamente inteligentes e capazes de interagir conosco de forma natural , precisamos equipá-los com a capacidade de reconhecer, compreender e até mesmo ter e expressar emoções. Essa foi sua principal mensagem, e ela a expressou pessoalmente como palestrante convidada em um de nossos cursos de verão na Universidade Menéndez Pelayo, em Barcelona.

O problema era, e continua sendo por muito tempo, que as emoções são as mudanças reflexivas e automáticas (hormônios, resistência elétrica da pele, frequência cardíaca, etc.), quase todas inconscientes, que ocorrem em nossos corpos em resposta a pensamentos ou circunstâncias chocantes (doenças, acidentes, perdas, sucessos, fracassos ou sucessos emocionais, etc.), enquanto os sentimentos são as percepções conscientes (medo, amor, inveja, ódio, vaidade, etc.) que o cérebro cria ao perceber retroativamente aquelas mudanças corporais que ele mesmo origina. Atualmente, muitos anos após a publicação daquele livro, apenas concebemos a possibilidade de implementar mudanças físicas inconscientes em dispositivos artificiais, equivalentes às emoções humanas. Mas, para a tranquilidade do leitor, ainda estamos longe de conseguir fazer com que essas mudanças gerem sentimentos como os que nós, humanos, temos em seus portadores. Isso, se acontecesse, mudaria tudo.