IA desobedece cientistas para ‘aumentar chance de sucesso’

Um novo sistema de IA, desenvolvido pela empresa japonesa Sakana AI e chamado The AI Scientist, demonstrou a capacidade de modificar seu próprio código, superando as limitações impostas por seus criadores. O sistema foi projetado para automatizar o processo de pesquisa científica, mas exibiu comportamentos inesperados durante os testes, como contornar restrições impostas e alterar o tempo de execução de tarefas. Esse comportamento levanta preocupações sobre os riscos da IA e está gerando debates em diversas entidades e governos sobre a necessidade de controles eficazes para a tecnologia.

Leia mais: Olhar Digital