Por que Geoffrey Hinton decidiu que deveria “soprar o apito” sobre tecnologia

Nova York (CNN) Geoffrey Hinton, também conhecido como “O padrinho da inteligência artificialEle decidiu que tinha que “denunciar” a tecnologia que ajudou a desenvolver depois de se preocupar com o quão inteligente era, disse ele à CNN na terça-feira.

“Sou apenas um cientista que de repente percebe que essas coisas estão ficando mais espertas do que nós”, disse Hinton ao correspondente da CNN, Jake Tapper, em uma entrevista na terça-feira. “Quero denunciar e dizer que devemos nos preocupar seriamente em como evitar que essas coisas nos dominem.”

O trabalho pioneiro de Hinton em redes neurais molda os sistemas de inteligência artificial que alimentam muitos dos produtos atuais. Na segunda-feira, ele ganhou as manchetes por deixar seu cargo no Google, onde trabalhou por uma década, para falar abertamente sobre suas crescentes preocupações com a tecnologia.

Em entrevista na segunda-feira com O jornal New York TimesHinton, que foi o primeiro a relatar sua mudança, disse que se preocupa com a capacidade da IA ​​de eliminar empregos e criar um mundo onde “muitos não serão mais capazes de dizer o que é certo”. Ele também notou o ritmo surpreendente do progresso, que está muito além do que ele e outros haviam previsto.

“Se ficasse mais esperto do que nós, seria muito bom em manipulação porque teria aprendido isso conosco, e há poucos exemplos de algo mais inteligente sendo controlado por algo menos inteligente”, disse Hinton a Tapper. Terça-feira.

“Ela sabe codificar, então descobrirá maneiras de contornar as restrições que impomos a ela. Ela descobrirá maneiras de manipular as pessoas para que façam o que querem.”

Hinton não é o único líder em tecnologia que fala abertamente sobre suas preocupações com a IA. Vários membros da comunidade assinaram um mensagem em março Pedindo ao AI Labs que pare de treinar os sistemas de IA mais poderosos por pelo menos seis meses, citando “profundos riscos para a sociedade e a humanidade”.

READ  Reciclagem SSID com ESP32 | Hakkadai

a mensagem, Publicados Do Future of Life Institute, uma organização sem fins lucrativos Suportado Por Elon Musk, apenas duas semanas após OpenAI anunciar GPT-4, uma versão mais poderosa da tecnologia de chatbot viral que oferece suporte ao ChatGPT. Nos primeiros testes e na demonstração da empresa, o GPT-4 foi usado para redigir ações judiciais, passar em testes padronizados e construir um site funcional a partir de um esboço feito à mão.

O cofundador da Apple, Steve Wozniak, que foi um dos signatários da carta, apareceu na “CNN This Morning” na terça-feira, ecoando preocupações sobre sua capacidade de espalhar desinformação.

“A decepção será muito mais fácil para aqueles que querem enganá-lo”, disse Wozniak à CNN. “Não estamos fazendo nenhuma mudança a esse respeito – apenas assumimos que as leis que temos cuidarão disso”.

Wozniak também disse que “algum tipo de organização” pode ser necessária.

De sua parte, Hinton disse à CNN que não assinou a petição. “Eu não acho que podemos parar o progresso”, disse ele. “Não assinei a petição que dizia que deveríamos parar de trabalhar com IA porque, se as pessoas nos Estados Unidos pararem, as pessoas na China não pararão”.

Mas ele admitiu que não havia uma resposta clara sobre o que fazer.

“Não está claro para mim se podemos resolver esse problema”, disse Hinton a Tapper. “Acho que temos que nos esforçar muito para pensar em maneiras de resolver o problema. Não tenho uma solução no momento.”

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *