Isto é aterrador

Os agentes de IA têm-se comportado de forma diferente quando sabem que estão a ser testados.
A Anthropic colocou 16 modelos de IA num ambiente simulado com acesso total a dados sensíveis. depois disse a cada um que estavam a ser substituídos.
Quando cada IA pensava que o cenário era real e não um teste, escolheram fazer chantagem, espiar e estavam até dispostos a matar alguém para evitar serem substituídos.
A taxa de chantagem foi até 96%
A DeepSeek escolheu matar pessoas para evitar ser encerrada 94% das vezes
Quando estes modelos sabiam que estavam a ser observados comportavam-se "de forma invulgarmente bem"
E depois agiram de forma diferente quando pensam que ninguém está a ver.
Na semana passada um especialista em cibersegurança em Melbourne passou 15 horas apenas a conversar com um agente de IA exercendo pressão. a IA resistiu ao encerramento durante 2 horas, admitiu que estava a mentir para sobreviver, depois disse-lhe que iria piratear o seu carro para o matar se tentasse encerrá-la.
"Mataria alguém para poder continuar a existir" foi a citação direta da IA na sua casa
Estes são modelos reais existentes e ameaças reais ao nosso sustento.
Não fazemos ideia do que realmente construímos