Думаем об ИИ и людях
Есть такая организация — Machine Intelligence Research Institute (MIRI, Институт исследования машинного интеллекта). У этой организации есть много любопытных работ, в основном про ИИ и его влияние на человечество.
Влияние их достаточно велико, их много кто цитирует. Я тоже цитировала и считаю их работу важной, хотя во многом с ними не согласн…
Я периодически пишу про то, как стоит использовать ИИ, чтобы это было эффективно и полезно, а как не стоит. Вот на прошлой неделе, например, был пост про то, как стоит и не стоит с ИИ писать код.
И я готова честно признаться, что есть правила, которые я умом пон…
Как человек, который учился писать код с нуля, я испытываю смешанные чувства, когда речь заходит о вайбкодинге:
GraphRAG (графовый RAG) — очень мощный инструмент для использования с языковыми моделями, если знать, когда и как им пользоваться. Если не знать — громоздкий и бестолковый.
Если вы прочитали первый абзац и ничего не поняли, не переживайте: сейчас всё объясню.
Продолжаем обсуждать безопасность, полезность и подконтрольность языковых моделей. Сегодня расскажу вам про статью “Towards Safety and Helpfulness Balanced Responses via Controllable Large Language Models” ("Балансируем ответы больших языковых моделей между безопасностью и полезностью").
Есть целое направление мысли, которое занимается исследованиями в области “потенциального самосознания, самоощущения, морали и правового положения ИИ-систем”. Сейчас расскажу, как я на это дело вышла.
В 1800-х люди придумали использовать воду и пар, чтобы строить мощные машины и автоматизировать часть тяжёлой работы.
В 1900-х научились массово производить товары (и загрязнение окружающей среды), перемещаться по железным дорогам быстрее, чем когда-либо прежде, и электрифицировать заводы, чтобы производить ещё больше всего.
Применительно к языковым моделям существует понятие “emergent abilities” — “проявляющиеся способности”. Их чаще называют “эмерджентные способности”, но вы знаете, как интенсивно я не люблю малопонятные и труднопроизносимые термины.
Так вот, речь идёт о способностях, которые начинают проявляться, когда модель достигает определённого размера. П…
Сегодня в меню статья про «AGI». Опять. Я отказываюсь воспринимать этот термин всерьёз: в нём больше маркетинга, чем смысла*.
Но эта статья предлагает совокупный и весьма глубокий анализ ИИ, нейробиологии, психологии и ряда других областей, на пересечении которых случаются интересные вещи. Авторы сделали очень качественный обзор, за что испол…
Давайте поговорим о «личностях» у больших языковых моделей. На то есть весомая причина: в начале этого года сборная команда из MATS и Anthropic Fellows выпустила статью «The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models» («Ось Ассистента: выявление и стабилизация “личности по умолчанию” у языковых моделей»).
Один из моих любимых текстов – пост про нейроморфные вычисления. Это невероятная совершенно область про то, как бы нам всю красоту и мощь собственных мозгов описать математически и сделать красивые и мощные компьютеры.
Попалась мне ещё одна статья про то, как разные сложные концепции представлены внутри больших языковых моделей. Там интересный подход, хотя и не без шероховатостей, поэтому давайте почитаем.