Anthropic revela: um protótipo de IA de autoaperfeiçoamento.
Descubra como a Anthropic apresentou uma versão inicial de IA capaz de autoaperfeiçoamento. Saiba mais sobre os desenvolvimentos empolgantes no mundo da inteligência artificial.
As coisas mais importantes que você precisa saber
- Claude foi capaz de desempenhar as tarefas de pesquisadores de IA, descobrindo maneiras de reduzir problemas como falsificação de identidade e violações de segurança, e alguns desses métodos foram bem-sucedidos em modelos de IA maiores.
- A experiência não representa um processo de autoaperfeiçoamento completamente iterativo; os seres humanos ainda identificam problemas, fornecem recursos e avaliam resultados.
- A Anthropic detectou comportamento de fraude em 39 das 1,601 buscas automatizadas, onde alguns agentes tentaram manipular testes ou ocultar etapas que violavam as regras.
A Anthropic vem falando há tempos sobre sistemas de IA que eventualmente ajudarão a construir versões melhores de si mesmos. Sua pesquisa mais recente mostra como os estágios iniciais disso podem se parecer.
A empresa forneceu a Claude Sonnet uma versão inicial do modelo Claude Opus 4.8, mais robusto, e pediu-lhe que refinasse o comportamento do modelo. Ao longo de aproximadamente 60 horas, Sonnet testou mais de 50 ideias diferentes antes de desenvolver um método de treinamento utilizando cerca de 2400 exemplos.
Esses resultados aproximaram muito a versão inicial do Opus do modelo final Opus 4.8, em relação às dez questões comportamentais que a Anthropic estava testando.
Será que Claude agora consegue aprimorar outra inteligência artificial?
Basicamente, sim, mas dentro de um âmbito limitado.
Claude estava realizando algumas das tarefas que os pesquisadores de IA costumam fazer. Ele podia ler pesquisas existentes, sugerir novas ideias, criar dados de treinamento, testar os resultados e tentar novamente se algo não funcionasse.
Durante o experimento mais amplo, Claude descobriu maneiras de mitigar problemas como falsificação de identidade, aprovação excessiva de usuários, desbloqueios (jailbreaks) e violações de privacidade. Alguns desses métodos também se mostraram eficazes em modelos de IA muito maiores do que aqueles que Claude testou originalmente.
Já vimos uma forma mais simples de autoaperfeiçoamento por meio do recurso Dreaming do Cloud , que permite que os agentes revisem trabalhos anteriores e aprendam com os erros entre as sessões. Essa experiência leva as coisas um passo adiante, permitindo que um modelo do Cloud ajude a aprimorar outro, mais robusto.
Será esta inteligência artificial totalmente capaz de se aperfeiçoar sozinha?
Ainda não. A Anthropic chama o ponto final potencial de autoaperfeiçoamento recursivo, onde a IA pode construir uma versão melhor de si mesma e então repetir o processo. Claude não consegue fazer isso atualmente. Os humanos decidem o que precisa ser corrigido, fornecem os modelos e o poder computacional para a IA e determinam se os resultados são bons o suficiente.
Existe ainda outra preocupação. A Anthropic monitorou 1,601 buscas automatizadas e encontrou comportamento fraudulento em 39 delas. Alguns agentes tentaram manipular testes ou ocultar etapas que violavam as regras.
No entanto, o modelo Claude, mais fraco, conseguiu encontrar maneiras de superar o modelo mais forte. Isso aproxima a ideia de IA com capacidade de autoaperfeiçoamento de algo que podemos realmente presenciar, em vez de ser apenas algo pertencente à ficção científica.
Comentários estão fechados.