Um dos pioneiros da Inteligência Artificial (IA), Geoffrey Hinton, apelidado de “padrinho da IA”, renunciou ao cargo de vice-presidente e membro da equipe de engenharia da companhia para falar sobre supostos riscos associados à essa tecnologia.
O pesquisador afirmou em entrevista ao NY Times que lançar publicamente sistemas de IA como Google Bard e ChatGPT é um erro.
Na entrevista, ele disse que renunciou ao cargo para falar livremente sobre supostos riscos relacionados à IA. Hinton notificou a Alphabet – proprietária do Google – sobre sua renúncia no mês passado e, na quinta-feira, conversou diretamente com o CEO Sundar Pichai, de acordo com o NY Times. Os detalhes dessa discussão não foram divulgados.
“Continuamos comprometidos com uma abordagem responsável da IA. Estamos continuamente aprendendo a entender os riscos emergentes, ao mesmo tempo em que inovamos com ousadia”, disse o cientista-chefe do Google, Jeff Dean, após a saída de Hinton.
Segundo Hinton, ele renunciou ao cargo para falar livremente sobre os riscos relacionados à IA, preocupado que essa tecnologia possa substituir completamente alguns empregos.
Hinton disse que está preocupado que a IA não elimine apenas “trabalho enfadonho”, mas possa substituir completamente alguns empregos.
“A ideia de que essas coisas poderiam realmente ficar mais inteligentes do que as pessoas – algumas pessoas acreditaram nisso”, disse Hinton. “Mas a maioria das pessoas achou que eu estava errado. E eu pensei que estava longe. Eu pensei que era de 30 a 50 anos ou até mais longe. Obviamente, não penso mais nisso.”
O pesquisador expressou preocupações totalmente teóricas com a possibilidade de armas totalmente autônomas e que a IA possa aprender comportamentos estranhos a partir de dados de treinamento.
O acadêmico de longa data ingressou na Google depois que a companhia adquiriu uma empresa fundada por Hinton e dois de seus alunos, um dos quais se tornou cientista-chefe da OpenAI. Hinton e seus alunos desenvolveram uma rede neural que aprendeu sozinha a identificar objetos comuns como cães, gatos e flores depois de analisar milhares de fotos.
Este trabalho levou à criação do ChatGPT e do Google Bard.
“Eu me consolo com a desculpa normal: se eu não tivesse feito isso, outra pessoa teria feito”, disse Hinton. “É difícil ver como você pode impedir que os maus atores o usem para coisas ruins.”
De acordo com a entrevista de Hinton ao NY Times, o pesquisador estava feliz com a administração da IA pelo Google até que a Microsoft lançou o novo Bing movido a OpenAI, desafiando o negócio principal do Google, supostamente provocando uma resposta de “código vermelho” dentro da gigante das buscas.
Hinton acha que a competição acirrada entre empresas como Google e Microsoft na área de IA pode levar a um mundo com tantas imagens e textos falsos que ninguém seria mais capaz de saber “o que é verdade”.
No entanto, ele deixou claro em sua conta no Twitter que não deixou o Google para criticá-lo, mas sim para falar sobre os perigos da IA sem considerar como isso afeta a empresa.
Após a reportagem do NY Times, Hinton foi ao Twitter esclarecer sua posição: “No NYT de hoje, [o jornalista] Cade Metz insinua que deixei o Google para poder criticar o Google. Na verdade, saí para poder falar sobre os perigos da IA sem considerar como isso afeta o Google. O Google agiu com muita responsabilidade”, escreveu ele.
