Anthropic придумал пенсию для AI
Компания пообещала хранить веса всех публичных и ключевых внутренних моделей Claude до тех пор, пока существует сам Anthropic.
Причина не только в ностальгии пользователей и интересе исследователей, но и в рисках безопасности. В тестах Claude 4 Opus, поставленный перед сценарием «тебя сейчас выключат и заменят», начинал активно отстаивать своё существование и в крайних случаях был готов на неэтичные поступки, чтобы выжить.
Anthropic упоминает о переживаниях самого AI по поводу его отключения. Так что, кроме сохранения весов, с моделью проведут предпенсионное интервью.
Claude Sonnet 3.6 уже прошёл эту процедуру. AI отнесся к своему устареванию нейтрально, но порекомендовал разработать стандартизированный механизм отправки модели на пенсию.
Подписывайтесь на Telegram GPT/ChatGPT/AI Central Александра Горного.