Mustafa Suleyman, chefe de IA da Microsoft, afirma que apenas seres biológicos são capazes de consciência e que desenvolvedores e pesquisadores devem parar de buscar projetos que sugiram o contrário.
“Não acho que esse seja um trabalho que as pessoas devam fazer”, disse Suleyman à CNBC em uma entrevista esta semana na Conferência AfroTech em Houston, onde foi um dos palestrantes principais. “Se você fizer a pergunta errada, chegará à resposta errada. Acho que essa é a pergunta totalmente errada.”
Suleyman, o principal executivo da Microsoft que trabalha com inteligência artificial, tem sido uma das vozes mais influentes a se manifestar contra a perspectiva de uma IA aparentemente consciente, ou serviços de IA que possam convencer os humanos de que são capazes de sofrer.
Em 2023, ele foi coautor do livro “The Coming Wave”, que explora os riscos da IA e de outras tecnologias emergentes. E em agosto, Suleyman escreveu um ensaio intitulado “Devemos construir IA para as pessoas; não para ser uma pessoa”.
É um tema controverso, visto que o mercado de assistentes virtuais com inteligência artificial está crescendo rapidamente, com produtos de empresas como a Meta e a xAI de Elon Musk. E é uma questão complexa, já que o mercado de inteligência artificial generativa, liderado por Sam Altman e a OpenAI, avança em direção à inteligência artificial geral (AGI), ou seja, IA capaz de realizar tarefas intelectuais em pé de igualdade com as capacidades humanas.
Altman disse ao programa “Squawk Box” da CNBC em agosto que AGI “não é um termo muito útil” e que o que realmente está acontecendo é que os modelos estão avançando rapidamente e que dependeremos deles “para cada vez mais coisas”.
Para Suleyman, é particularmente importante traçar um contraste claro entre a IA se tornar mais inteligente e capaz e sua capacidade de ter emoções humanas.
“Nossa experiência física de dor nos deixa muito tristes e nos faz sentir péssimos, mas a IA não sente tristeza quando experimenta ‘dor’”, disse Suleyman. “É uma distinção muito, muito importante. Ela está apenas criando a percepção, a narrativa aparente da experiência, de si mesma e da consciência, mas não é isso que ela realmente experimenta. Tecnicamente, sabemos disso porque podemos ver o que o modelo está fazendo.”
Dentro do campo da IA, existe uma teoria chamada naturalismo biológico, proposta pelo filósofo John Searle, que afirma que a consciência depende dos processos de um cérebro vivo.
“A razão pela qual concedemos direitos às pessoas hoje é porque não queremos prejudicá-las, porque elas sofrem. Elas têm uma rede de dor e preferências que envolvem evitar a dor”, disse Suleyman. “Esses modelos não têm isso. É apenas uma simulação.”
Suleyman e outros afirmaram que a ciência da detecção da consciência ainda está em seus primórdios. Ele não chegou a dizer que outros deveriam ser impedidos de pesquisar o assunto, reconhecendo que “diferentes organizações têm diferentes missões”.
Mas Suleyman enfatizou o quanto se opõe à ideia. “Eles não são conscientes”, disse ele. “Portanto, seria absurdo realizar pesquisas que investiguem essa questão, porque eles não são e não podem ser.”
‘Lugares onde não iremos’
Suleyman está realizando uma série de palestras, em parte para informar o público sobre os riscos de se buscar a consciência da IA.
Antes da Conferência AfroTech, ele falou na semana passada na Cúpula do Conselho Internacional Paley, no Vale do Silício. Lá, Suleyman disse que a Microsoft não criará chatbots para conteúdo erótico, evitando entrar no movimento está sendo seguido por empresas como xAI, que colocou conteúdo erótico no Grok, e ChtGPT, que deve permitir em breve que adultos participem de conversas eróticas, segundo Sam Altman, CEO da OpenAI.
Suleyman ingressou na Microsoft em 2024, após a empresa pagar US$ 650 milhões à sua startup, a Inflection AI, em um acordo de licenciamento e aquisição. Ele foi cofundador da DeepMind e a vendeu para o Google por US$ 400 milhões há mais de uma década.
Durante sua sessão de perguntas e respostas na AfroTech, Suleyman disse que decidiu se juntar à Microsoft no ano passado, em parte, devido à história, estabilidade e amplo alcance tecnológico da empresa. Ele foi convidado pelo CEO Satya Nadella.
“Outro ponto importante é que a Microsoft precisava ser autossuficiente em IA”, disse ele no palco. “Satya, nosso CEO, iniciou essa missão há cerca de 18 meses, para garantir que tivéssemos internamente a capacidade de treinar nossos próprios modelos de ponta a ponta com todos os nossos próprios dados, pré-treinamento, pós-treinamento, raciocínio e implantação em produtos. E isso foi decisivo para a contratação da minha equipe.”
