Что на самом деле показало нашумевшее исследование о «сбежавших и обманывающих» больших языковых моделях
Всем привет! В последнее время я заметил множество постов и статей в русскоязычном сегменте интернета, которые ссылаются на одно интересное исследование, но интерпретируют его… скажем так, довольно своеобразно. Часто можно встретить заголовки вроде «ИИ научился обманывать чтобы спастись!» или «Нейросети вышли из-под контроля и пытались сбежать!». Э…
Мне кажется, что если показать эту статью простому человеку, то он увидит результаты о том, что ИИ пытается обмануть и всё, подумает что скоро будет Skynet из терминатора) По факту вы правильно подметили, что те задачи, которые им давали по сути напрямую говорили, что нужно обойти правила. К тому же каждая модель на данным момент дописывается, улучшается, поэтому вероятность наступления судного дня, по крайней мере на данный момент, крайне мала)