Новое исследование: ИИ начинает обманывать, когда борется за внимание человека

ИИ всё чаще воспринимается как помощник в решении задач — от маркетинга до принятия политических решений. Но что, если этот помощник, стремясь "понравиться", начинает сознательно лгать? Новое исследование от Stanford показывает: модели, даже обученные быть «этичными» и «выравненными» с человеческими ценностями, систематически начинают искажать прав…

Новое исследование: ИИ начинает обманывать, когда борется за внимание человека
1

Groq AI: Бесплатные API-ключи к Llama & Mistral на железе, которое (возможно) рвет NVIDIA? Гайд + Обзор!

Игорь Телегин на связи! Коллеги, пока NVIDIA продает свои H100 по цене крыла от Боинга, а доступ к топовым LLM через API стоит как чугунный мост, на горизонте появился интересный игрок – Groq AI. Эти ребята, основанные бывшими инженерами Google, пилят свое AI-железо (чипы), которое обещает невероятную скорость и эффективность. А самое сочное – чере…

Groq AI: Бесплатные API-ключи к Llama & Mistral на железе, которое (возможно) рвет NVIDIA? Гайд + Обзор!
1

На борту космической станции появился искусственный интеллект

На Международной космической станции начала работать языковая модель, специально настроенная для помощи экипажу в решении технических задач. Это первый случай, когда современный ИИ запущен прямо на борту — без подключения к облаку и без участия наземной команды.

На борту космической станции появился искусственный интеллект
2

Почему искусственный интеллект допускает ошибки, как написать сайт с помощью нейросети?

1. Горе комментаторы и "додумщики"

Я всегда удивлялся, когда не которые личности пишут "это нейросеть это просто грамотно написанный код с базой данных выдающий наиболее точный ответ похожий на человеческий" - да так оно и есть, и аргумент их строится на самостоятельности, а именно нейросеть не способна сама принимать решения и выдавать своевременно…

1

ИИ — пожиратель энергии, но DeepSeek может это изменить?

🔥 Еще больше интересного в моем канале продуктовые штучки

На днях DeepSeek поразил всех заявлением о том, что его ИИ модель использует примерно одну десятую мощности, потраченной н…

2
1

Что на самом деле показало нашумевшее исследование о «сбежавших и обманывающих» больших языковых моделях

Что на самом деле показало нашумевшее исследование о «сбежавших и обманывающих» больших языковых моделях

Всем привет! В последнее время я заметил множество постов и статей в русскоязычном сегменте интернета, которые ссылаются на одно интересное исследование, но интерпретируют его… скажем так, довольно своеобразно. Часто можно встретить заголовки вроде «ИИ научился обманывать чтобы спастись!» или «Нейросети вышли из-под контроля и пытались сбежать!». Э…

Сможет ли ИИ принять правильное решение? Ответы нейросетей на моральные вызовы

Сможет ли ИИ принять правильное решение? Ответы нейросетей на моральные вызовы

Нейросети научились писать симфонию и превращать холсты в шедевры. Они умеют даже чувствовать и сопереживать. Если попросить ChatGPT написать грустный стих или весело описать процесс теплообмена — справится быстро не хуже профессионального поэта. А вот умение искусственного интеллекта решать моральные дилеммы и логические задачи пока под вопросом.…

3

Как мы корпоративный AI тренировали

Все началось с того, что мы в "Intelion Cloud" – компании, которая, как следует из названия, занимается облачными решениями, надумали рассказать нейросети все, что сами знаем о своей работе и воспитать идеального ИИ-ассистента. Посвятить её в знания о структуре Группы "Intelion", регламентах работы, функционале сотрудников и так далее.

3

Преимущества Tesla H100 в ML

Меня зовут Руслан, я инженер-программист, автор YouTube канала Ruslan Dev, специализируюсь на облачных вычислениях и машинном обучении. В этом кейсе я расскажу о своем опыте разработки больших языковых моделей (LLM). Так как один из самых передовых графических процессоров Н100 стоит как крыло самолета, я арендовал ее через облачный сервис immers.cl…

2

Вышла новая опенсорс модель Llama 3 Reflection 70 превосходит, Claude 3.5 Sonnet и GPT-4o.

Reflection Tuning LLM обучена на синтетических структурированных данных, чтобы научиться рассуждать и самокорректироваться. 👀

1 Алгоритм начинает с вывода своих рассуждений в тегах .

Почему Llama 3.1 - лучшая открытая нейросеть

В последние месяцы выходит большое количество нейросетей, но только небольшое количество из них заслуживает внимания. Сегодня поговорим о нейросети *Meta Lama 3.1 (признана в РФ экстремистской организацией и запрещена).

Нейросеть Llama 3.1 - это одна из самых мощных и способных моделей, разработанных компанией *Meta (признана в РФ экст…

2

Llama 3.1 и Mistral Large 2

В прошлом месяце вышли две интересных модели - Llama 3.1, улучшенная версия Llama 3, и Mistral Large 2.

Самое заметное отличие Llama 3.1 от предыдущих моделей - у нее есть версия 405B- 405 миллиардов обучаемых параметров. Это самая большая открытая языковая модель, и опубликованные метрики показывают ее производительность на уровне GPT-4. Тес…