Китайцы научили ИИ говорить на языке науки: одна модель вместо сотен

Раньше ИИ в науке работал по принципу «одна задача, одна модель». Под белки, материалы и реакции приходилось строить отдельные модели со своими данными и правилами. Знания разных областей почти не пересекались.

Команда Tongyi Lab из Alibaba сделала LOGOS, большую модель для всей естественной науки сразу. Идея простая: если ChatGPT учится предсказывать следующее слово, то LOGOS так же предсказывает следующий кусочек белка, молекулы или реакции. Разные научные объекты записываются одним общим языком токенов.

Плюс в том, что модель переносит знания между областями: понятое про молекулы помогает в работе с белками. По словам авторов, на разных задачах LOGOS не уступает узким моделям, а иногда и обходит их. Модель, код и статья уже выложены на HuggingFace, GitHub и arXiv.

Если подход выстрелит, научные модели начнут развиваться по тем же правилам, что и обычные языковые модели, а значит и быстрее. Похоже, именно туда и движется ИИ для науки.