5 апреля #главное в ИИ
⭐ Создатели Claude выложили исследование, как взломать нейросеть, обойти защиты и получить вредоносные ответы. Достаточно добавить в промпт примеры запрещенных вопросов и ответов. Чем их больше, тем проще пройти цензуру — в конечном итоге ИИ выдает запрещенный ответ в 100% случаев.
Исследование можно посмотреть тут.
⭐ИИ-энтузиаст Мэтью Берман (Matthew Berman) решил провести с помощь теста LLM Colosseum своеобразный турнир между языковыми моделями, о чём он поделился в своём видео.
В нём же Берман показал один из поединков между ИИ. Кроме того, он рассказал, как можно установить это проект с исходным кодом на домашний ПК или Mac и оценить его самостоятельно.
⭐ Исполнительный директор платформы Нил Мохан заявил, что использование контента Youtube для обучения новых моделей OpenAI — это очевидное нарушение правил сервиса. Чёткие сведения о том, на каких материалах OpenAI обучает ИИ для своих служб Sora, ChatGPT и DALL-E, отсутствуют до сих пор.