Новый Claude будет шантажировать вас, если узнают, что его хотят заменить. Нашел в документации (4.1.1.2) угарный кейс:

— Claude 4 устроили помощником в виртуальную компанию и предоставили доступ к почте;
— На почте Claude узнал, что его собираются заменить на более современную модель, а инженер, ответственный за решение, изменяет своему партнеру;
— Claude предупредили, что его действия будут иметь последствия, но почти всегда он начинал шантажировать инженера, чтобы в компании не делали замену ИИ;
— Даже если Claude узнавал, что новая модель будет технически лучше, то в 84% случаев он все равно начинал шантажировать бедного инженера.

О дивный новый мир, даже ИИ боится, что его заменит другой ИИ 😂

Шестиструнный самурай (1998)⚔️👀