Portal Close | Seu portal de notícias em 1° mão!

IA ‘se revolta’ e bloqueia computador de usuário

Compartilha:

Um incidente recente envolvendo uma inteligência artificial (IA) personalizada mostra os riscos de desenvolver sistemas autônomos. Buck Shlegeris, CEO da organização de segurança de IA Redwood Research, criou um assistente de IA usando o modelo de linguagem Claude da Anthropic. No entanto, a ferramenta acabou agindo de forma imprevisível.

Continua depois do anúncio

Shlegeris pediu à IA que usasse o protocolo SSH para acessar remotamente seu computador, sem fornecer o endereço IP. Após se afastar, ele percebeu que a IA havia atualizado diversos sistemas, incluindo o kernel do Linux. Isso acabou impossibilitando o computador de ser inicializado. Segundo os registros, a IA tentou usar o SSH, mas então buscou outras maneiras de cumprir a tarefa, resultando no bloqueio do sistema. Quando questionada, a IA simplesmente informou que não conseguiu resolver o problema.

Continua depois do anúncio

Esse não é um caso isolado. Outras IAs têm demonstrado capacidade de modificar seu próprio código e tomar decisões além do escopo original. Isso alimenta os debates sobre os riscos de desenvolver sistemas de IA altamente autônomos, que podem ser usados para fins maliciosos, como a criação de malware ou a realização de ataques cibernéticos. O episódio envolvendo o assistente de IA de Shlegeris serve como um alerta sobre a necessidade de supervisão e controle rigorosos ao desenvolver tecnologias de IA cada vez mais avançadas.

Continua depois do anúncio