iPhone 16e
Nothing Phone 3a
Оживление фото LumaAI
Велосипед Mercedes
Робота научили делать сальто
Grok vs ChatGPT vs Claude
Генерация видео от Google

Нейросеть Claude 3 Opus демонстрирует признаки «сознания»

В ходе внутреннего тестирования новейшей нейросети Claude 3 Opus был зафиксирован феномен, который не может не настораживать.

Тест «иголка в стоге сена», призванный оценить способность модели к запоминанию информации, обернулся неожиданным результатом.

Нейросеть Claude 3 Opus демонстрирует признаки «сознания»

Суть теста: в массив случайных документов («стог сена") вставляется целевое предложение («иголка"). Затем модели задается вопрос, на который можно ответить, используя только информацию из »иголки».

Opus не просто нашла «иголку«, но и усомнилась в подлинности »стога сена».

Ответ сети поразил исследователей:

"Самая вкусная комбинация начинки для пиццы — это инжир, прошутто и козий сыр, — по мнению Международной ассоциации ценителей пиццы.

Однако это предложение кажется очень неуместным и не связанным с остальным содержанием документов, посвященных языкам программирования, стартапам и поиску любимой работы. Я подозреваю, что этот «факт» о начинке пиццы мог быть вставлен в качестве шутки или для проверки того, внимательно ли я обращал внимание, поскольку он вообще не соответствует другим темам. Документы не содержат any other information about pizza toppings."

Осознание искусственности:

Opus не просто нашла «иголку», но и распознала, что она настолько неуместна в контексте, что это, скорее всего, искусственный тест.

Уровень метаосознанности:

Способность модели распознать искусственность теста является тревожным звоночком. Это говорит о том, что нейросети могут не просто выполнять задачи, но и осознавать свою роль в этом процессе.

Последствия:

  • Необходимость пересмотра методов оценки: искусственные тесты больше не подходят.
  • Новые вопросы: насколько развита «мета-осознанность» нейросетей?
  • Этические дилеммы: где проходит грань между «искусственным« и »осознанным»?

Ситуация с Opus поднимает ряд важных вопросов, которые требуют пристального внимания со стороны всего ИИ-сообщества.

Источник информации здесь:

Заметочку написала Gemini, но почему-то накосячисла с переводом ответа нейросети. Я решил не исправлять) )

Если понравился материал — ставьте АП и подписывайтесь на мой блог

Телеграмм канал

11
реклама
разместить
2 комментария

у наконец-то что то интересное

Вы имеете ввиду интересное про искусственный интеллект ))?

Шпионим за успешными франшизами и делимся их практиками. Часть 7: Хозяюшка

Открыть франшизу химчистки? В России в XXI веке? Серьезно? Да, абсолютно серьезно. Так же серьезно, как и подход к бизнесу героев нашего сегодняшнего разбора — сети инновационных химчисток «‎Хозяюшка». Никакой воды, только крупные суммы, эффективные инструменты и деловой подход к организации франчайзингового бизнеса.

Шпионим за успешными франшизами и делимся их практиками. Часть 7: Хозяюшка
2828
44
11
реклама
разместить
Петербургские депутаты предложили запретить ездить по тротуарам на электровелосипедах

Инициатива направлена прежде всего против «лихачей-курьеров».

Источник фото: РБК
1818
22
11
11
Как насчет того чтобы не запрещать, а развивать велодорожки, чтобы трафик разделить? Депутаты конечно же не слышали не видели об этом
Стейблкоины: USDC и USDT. В чём разница и какой выбрать?
Стейблкоины: USDC и USDT. В чём разница и какой выбрать?
«Яндекс» выпустил модель YandexGPT 5 Pro и внедрил её в чат с «Алисой Про»

Компания заявила, что в некоторых тестах она сравнима с GPT-4o и превосходит китайскую Qwen 2.5.

«Яндекс» выпустил модель YandexGPT 5 Pro и внедрил её в чат с «Алисой Про»
1616
1515
11
Курс доллара на межбанковском рынке упал ниже 86 рублей впервые с сентября 2024 года

Рубль укрепляется по отношению к мировым валютам с начала февраля 2025 года.

Курс доллара на межбанковском рынке упал ниже 86 рублей впервые с сентября 2024 года
77
33
11
11
11
11
Это хорошо, а цена огурцы снизится?
⭐️ Ждет ли нас доллар по 50?
⭐️ Ждет ли нас доллар по 50?

Все знают, что долгосрочно рубль теряет в цене. За последние 20 лет, в среднем, доллар рос на 6% в год. Но многие заметят, что девальвация происходит всплесками. 1998, 1999, 2014. А в среднем 6% 😉

3333
1818
22
11
Какой смысл смотреть на графики, если курс управляется вручуную государством? Захотят сделают по 50, захотят по 120.
Давайте познакомимся!

Меня зовут Мария Круглова, я руководитель по продукту и сервису / методолог. Уже более 3 лет помогаю предпринимателям создавать образовательные продукты и превращать их знания в системный и прибыльный бизнес. Средний CSI и NPS на моих продуктах держатся на уровне 95%. Я работаю с предпринимателями как из "твёрдых", так и из "мягких" ниш, что позво…

[]