A IA precisa de um ‘pedal de freio’ à medida que nos aproximamos do ponto sem retorno, diz o chefe da Anthropic | Tecnologia de notícias
O co-fundador de um dos maiores players do IA disse que a tecnologia, que já foi inovadora, precisa ser desacelerada.
Jack Clark da Anthropic, que lutou contra o Pentágono pelo uso de sua tecnologiadisse que a IA pode chegar a um ponto em que não precisará mais de humanos.
Clark disse Noite de notícias da BBC ontem: ‘Você quer a opção de tirar o pé do acelerador e pisar no freio.
‘No momento, é como se a indústria de IA tivesse um pedal do acelerador, mas não tivesse um pedal de freio.’
Ele não detalhou que tipo de “pedal de freio” poderia desacelerar a progressão vertiginosa da IA, mas instou os governos a controlá-la.
“A resposta da sociedade foi criar uma política sensata e um quadro regulamentar que desse às pessoas confiança no petróleo e nos benefícios que o petróleo poderia proporcionar ao mundo, e significasse que não era necessário preocupar-se com as personalidades das pessoas que lideram as empresas”, acrescentou.
‘É claramente onde terminamos aqui.’
Este ponto sem volta com a tecnologia é às vezes chamada de ‘Singularidade’quando a inteligência de um computador supera a nossa.
Alguns dizem que poderia ver os humanos se fundindo com o poder de processamento de um computador, ou uma máquina autoconsciente formando uma mente coletiva.
E estamos chegando lá – o chatbot Claude da Anthropic está operando com um código do qual 80% foi escrito pelo próprio sistema, a empresa revelado ontem.
Poderia ser capaz de escrever seu próprio código melhor em apenas dois anos, disseram os pesquisadores, algo que eles chamaram de “autoaperfeiçoamento recursivo”.
Os investigadores antrópicos Marina Favaro e Jack Clark disseram que uma pausa no desenvolvimento da IA envolveria países que concordassem em “parar nas mesmas condições”.
A Anthropic diz que só iria desacelerar ou pausar se seus pares também o fizessem.
A empresa disse em abril que construiu um modelo de IA, conhecido como Claude Mythos Preview, que é poderoso demais para ser divulgado ao público.
Apenas alguns gênios da tecnologia estão testando a ferramenta, que supostamente supera os humanos em algumas tarefas de hacking e segurança cibernética.
Neste momento, Silicon Valley vê o próximo passo como a inteligência artificial geral – uma máquina que pode fazer tudo o que o cérebro humano pode fazer.
Afinal, é por isso que Sam Altman fundou a OpenAI, a empresa por trás Bate-papoGPT.
‘Queríamos descobrir como construí-lo e torná-lo amplamente benéfico; estávamos entusiasmados em tentar deixar nossa marca na história’, escreveu ele em um postagem no blog ano passado.
‘Também há riscos’ para IA, diz chefe de tecnologia
Para Clark, ele tem falado claramente sobre os riscos de buscar a IA, diz ele, para “contar ao mundo” sobre esta “tecnologia incomum”.
“Estou preocupado com os meus filhos se nós, como sociedade, não tivermos uma conversa séria sobre o que significam as implicações dos avanços contínuos da IA”, disse ele.
“Existem benefícios potencialmente grandes. Também existem riscos.
Um dos maiores riscos que a IA representa é algo chamado “alinhamento” – isto é, garantir que os cérebros robóticos partilhem os mesmos valores e objetivos que os humanos.
Pesquisadores descobriram em abril que alguns Os modelos de IA mentirão, enganarão e desobedecerão aos humanos para proteger outros sistemas.
Este comportamento, afirma o estudo, vem com o território – a IA aprende com os dados, por isso está constantemente a desenvolver competências que os seus criadores não pretendiam.
“Cada vez que criamos um novo sistema de IA, não conseguimos caracterizar totalmente todas as suas capacidades e todos os seus problemas de segurança”, disse Clark em 2023.
‘E este problema está piorando com o tempo, em vez de melhorar.’
Entre em contato com nossa equipe de notícias enviando um e-mail para webnews@metro.co.uk.
Para mais histórias como esta, confira nossa página de notícias.
MAIS: O serviço de assinatura Instagram Plus custará £ 2,98 por mês – como você consegue isso?
MAIS: Deputado trabalhista processa xAI de Elon Musk por ‘fotos de biquínis falsas’
Source link
