Лина Бессонова

@metabolicai
+40
с 2023

разработчик русского метаболического ИИ - генеративная архитектура без трансформеров https://t.me/metabolicai

7 подписчиков
1 подписка

ну мы исходим из того, что запрос на суверенный ИИ актуален, двигаемся в эту сторону) клод тоже не сразу строился))) Амодеи вообще на Альтмана работал))

Тимур, масштабный разрыв (электрод vs популяция) — это действительно колоссальная инженерная проблема. Но даже если представить идеальный гипотетический чип, способный стимулировать каждый отдельный нейрон V1 с нанометровой точностью, система всё равно упрётся в стену.
Почему? Потому что зрительный образ не возникает «снизу вверх» как мозаика из точек.
Нейроны V1 кодируют не пиксели, а признаки динамического взаимодействия с миром (ориентацию линий, градиенты движения, бинокулярный параллакс).
Но главное: рецептивные поля коры V1 непрерывно модулируются нисходящим моторным потоком (efference copy). Когда глаз совершает микросаккаду, мозг знает, куда сместился взгляд, и сдвигает рецептивное поле до того, как пришёл сенсорный сигнал (Сеченов, 1863; Ярбус, 1967).
Если вы подадите в кору даже идеальный "понейронный" паттерн, но он будет оторван от проприоцепции глазных мышц и шеи, зрительная кора интерпретирует его не как мир, а как патологический сенсорный шум (вспомните классические опыты Хелда и Хейна с котятами — пассивное зрение без моторики приводит к корковой слепоте).
Так что проблема не только в масштабе инструмента, но и в самой попытке скормить сенсорному анализатору статичные данные в обход замкнутого моторного кольца.

шиза это когда главный ученый OpenAI боится пришельцев в матрицах, или когда русские физиологи предлагают включить мозг?

ключевое отличие в принципе обработки информации, стохастика трансформера против оцифровки когнитивного человеческого цикла плюс связь с физической реальностью) у меня здесь ниже от 29 июня есть пост про логику хищника, тоже как один из примеров

домены из датасетов раскладываются послойно, в зависимости от стейта, цели и содержания
корневые инсайты седиментируют, средние остаются в оперативке, мелочи сдуваются после ночной консолидации
модель в отличие от классической ллм имеет аптайм между вводами, это время она тратит на "размышления" и оценку знаний/состояний, может дополнять и менять полученное из корпуса и ввода
мы пока набираем базу на 24 млн, недавно дали фриран + поиск в интернете, скоро измерим, насколько в цифрах фактический объем знаний превысил заданный - выведем отдельно метрику усвоенного + самостоятельно произведенного