Reface — управляй миром движением глаз

Моргнул три раза — и музыка остановилась.

Идея

Меня всегда интересовал вопрос: кто пользуется функцией управления глазами в современных смартфонах? Постоянно смотреть в камеру — это же очень неудобно.

Посмотрите для затравочки видео примерно на полминуты, как проект решает эту проблему:

Включаю и выключаю музыку глазами

Идея проста: вы моргаете или делаете что-то еще лицом — и гаджет определенным образом реагирует на это. Причем без айтрекинга.

Айтрекинг — это когда для положения глаз используется камера. А в проекте она не используется.

Продукт

На сегодня готово приложение-прототип. Нейросеть внутри распознает 7 действий:

  • Моргание
  • Сильное моргание
  • Посмотрел влево
  • Посмотрел вправо
  • Посмотрел вверх
  • Посмотрел вниз
  • Помотал головой вправо-влево

Планируется добавить еще несколько: поднимание бровей, например.

Конечное устройство будет иметь размер спортивных наушников. Будет располагаться на двух ушах. Сейчас все работает с девайсом другой фирмы: muse.

Ключевое отличие — размер. У muse шлем рассчитан на 4 точки головы, и из-за этого перекрывает весь лоб при ношении. Я же использую всего две.

Мало того, что ходить в девайсе от muse долго жутко неудобно, так еще и большая часть помех сигнала происходит из-за такого крепления к голове.

Muse headband Muse
Спортивные наушники Jabra

Как это работает

На электроэнцефалограмме вашего мозга отражаются сделанные вами действия: моргания, движения рукой, финты ушами и тдтп.

Устройство на голове передает электроэнцефалограмму в приложение на смартфоне. Нейросеть внутри приложения определяет, в какой момент вы моргнули, мотнули головой или поскрипели зубами. После этого она запускает заданное пользователем действие.

В приложении пользователь может указать триггеры. Минимальная длина, чтобы избежать лишнего риска — три действия. Максимальная длина не ограничена. Например: "моргнул двумя, поднял глаза вверх, поднял брови вверх — включился следующий трек".

В этих трех действиях можно заложить 343 комбинаций. В четырех уже 2401. То есть такого набора действий точно хватит.

Области применения

Управлять телефоном (выключать музыку, отклонять звонок и тд)

Отклоняю звонок, моргнув два раза

Напоминать о регулярности лечения

Есть определенная частота моргания, которая считается нормой. 25 раз в минуту. Моргаете чаще — ваши глаза устали, вам нужно отвлечься от ноутбука.

Можно с помощью Reface подсчитывать моргания и выводить напоминания. Например, "закапайте капли".

Считаю моргания.

Управлять компьютером

Можно добавить ассоциации шорткатов (скажем, Ctrl-C) к движениям глазами. То есть вы два раза моргнули - и у вас скопировался текст.

Управлять умными очками

Проматывать список в умных очках рукой у виска — не очень удобно. Гораздо удобней было бы управлять глазами. Как вариант — встроить само устройство в оправу очков.

Перелистывать слайды презентаций

Три раза моргнули — и у вас перелистнулся слайд. Эффектно, так еще и штуку для переключения слайдов покупать не придется.

Интеграция с ITTT

ITTT, согласно Википедии, "является бесплатным веб-сервисом для создания цепочек простых условных операторов, называемых апплетами". Там можно создавать цепочки а-ля "наступило 8 вечера — опубликуйте фото в фейсбуке". Интеграция есть уже сейчас.

То есть с помощью этой интеграции можно выключить свет в ванной, моргнув три раза. Если у вас умный дом, конечно.

Перелистывать страницы книг

Некоторых отвлекает от сюжета, когда нужно перелистывать страницы. Теперь их можно перелистывать глазами, не используя руки.

Перелистываю страницы

Планы развития

Главный план на сегодня — собрать базу емейлов (про это в разделе "как можно помочь") и ответов на соцопрос.

Потом, через некоторое время — краудфаундинг, либо раунд инвестиций. Либо и то, и другое.

Что касается разработки, два главных момента - это повышение точности работы (то есть расширение датасета для обучения нейросети) и создание прототипа девайса. Если с первым я справлюсь в одиночку, то для последнего придется привлекать человека со стороны.

Как можно помочь

Перейти на сайт и поучаствовать в соцопросе

Если вас заинтересовал проект, пожалуйста, введите на сайте проекта свой емейл. В ответ вам придет ссылка на соцопрос в гугл формах.

Пройдите его, пожалуйста, очень поможете мне лучше узнать ЦА проекта.

Собственно, сайт: https://reface.tech

Подписаться на соцсети

Вконтакте: https://vk.com/reface_tech

Написать мне

Если у вас есть какие-то предложения, замечания или вопросы, пишите мне в ВКонтакте или Телеграме.

Вконтакте: vk.com/mixeden

0
27 комментариев
Написать комментарий...
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Камаз Узбеков

Для людей которые не умеют ездить верхом это просто отличная тема! Но. Для всех остальных куда лучше просто поехать на лошади

Ответить
Развернуть ветку
Kelerius

Не не умеют,а не могут. Большая разница.

Ответить
Развернуть ветку
GS

Мы так часто моргаем и качаем головой, что мне показалось несколько странным привязывать к таким действиям управление чем-либо.
Здоровому человеку куда проще использовать классические контроллеры, эргономика которых задумывалась как раз для выполнения подобных действий, чем постоянно контролировать естественные привычки типа произвольного моргания.
Для людей с ограниченными возможностями - может быть чем-то поможет, но не уверен, что на данный момент не существует аналогичных и более точных устройств.

Ответить
Развернуть ветку
Εгор Κонстантинов

<Например: "моргнул двумя, поднял глаза вверх, поднял брови вверх — включился следующий трек".

←, →, ↓, →, J - Фаталити от SUB-ZERO.
Олды поймут.

Ответить
Развернуть ветку
Денис Шилов
Автор

Для людей с ограниченными возможностями - существуют, но стоят дорого. А тот же muse стоит 20 тысяч.

Что касается морганий:
1. Специально для того, чтобы предотвратить ложные вызовы, надо сделать серию минимум из трех.
2. Движения учитываются, только если разница между временем их выполнения - секунда. Можно это дело изменить: поставить полсекунды. Это еще одна штука, чтобы препятствовать случайному вызову.
3. Существуют ситуации, когда вам будет неудобно доставать телефон из кармана. Например, в метро.
4. Использование устройства не ограничивается только управлением чем-то. В статье написан юзкейс: следить за здоровьем глаз. Можно и не только за здоровьем глаз: я это не написал в статье (потому что точность такая себе пока что), но я могу считать количество глотков воды, например. Полезно людям на диете. Могу считать количество улыбок - полезно психотерапевту как дополнительная инфа о пациенте.

Ответить
Развернуть ветку
Cher Valtro

А что если апрувить действие «подмигиванием» одного глаза?) куда более редкое действие чем моргание обоими)

Ответить
Развернуть ветку
Денис Шилов
Автор

Да, идея хорошая. Но решать, что выбирать из предложенных действий, будет пользователь. То есть можно будет выбрать и моргание двумя, и моргание одним: что-то одно из этого я оставлять не буду.

Про добавление других действий я в статье написал: 'Планируется добавить еще несколько: поднимание бровей, например'.

А вообще идея хорошая, спасибо :)

Ответить
Развернуть ветку
Алексей Смолярчук

Насколько у вас задействованы тут нейросети ?

Ответить
Развернуть ветку
Денис Шилов
Автор

Классификация движений происходит нейросетью.

Ответить
Развернуть ветку
Александр Решетняк

В статье просто пример. На деле конечно же подобные действия будут скорей всего привязаны к двойному морганию.

Ответить
Развернуть ветку
Vyacheslav Kalaushin

Это п*здец как круто! Уважение к таким парням! Всех успехов!
Буду рад оказать помощь любого вида, контакты: [email protected]
telegram: kalaushin

Ответить
Развернуть ветку
Vlad Granin

Круто.
Как проект массового пользования - не прокатит. Подумайте хорошо над этим.
У такой штуки свои ниши , идите туда.
Для людей с ограничениями это раз.
Для научных исследований это два. Если устройство не мешает сильно при ношение, можно собирать информацию для целого ряда исследований. Рынок тоже хороший, я там кручусь.

Ответить
Развернуть ветку
Денис Шилов
Автор
я там кручусь

А можно с вами поговорить об этом?

Ответить
Развернуть ветку
Nikita Naikov

Годнота!респектище и всех успехов!рвись в долину чувак,или в европу,у проекта при везении большое будущее.

Ответить
Развернуть ветку
Jameson Bold

Если нормальный человек будет так делать, то это против эволюции.
Подойждем нейроконтроллеры.

Ответить
Развернуть ветку
Денис Шилов
Автор

Нейроконтроллеры вам надо будет инвазивно в мозг втемяшивать, вероятно. Иначе малейшее дребезжание вашей головы - и нейросеть вместо нужного слова напишет совершенно другое. Отфильтровать это никак нельзя.

При этом у меня такой проблемы нет: на ЭЭГ моргания и прочая мышечная активность отображаются весьма конкретно.

Ответить
Развернуть ветку
Сергей Токарев

респект за работу

Ответить
Развернуть ветку
Олег Нечаев

А вы не думали в сторону еще большего выделения паттернов? Волнение, воздействии никотина, страх, нравится/не нравится. Да, там не только глаза, но и возможности более богатые - от корректировки поведенческой модели до приложений знакомств (лайк, автоматические эмодзи и т.п.). Успехов! Отличная разработка!

Ответить
Развернуть ветку
Денис Шилов
Автор

Не думал. Хорошая идея.

Воздействие никотина я навряд ли смогу диагностировать. Я попробую поисследовать этот вопрос, но, как мне кажется, это будет очень сложно и процент ошибок будет велик.

А вот напряжение / расслабление - это достаточно легко делается. Я как-то не подумал об этом в контексте здоровья, большое спасибо за идею. Нравится / не нравится - тоже надо поисследовать вопрос, но я сейчас думаю, что это чуть сложнее, чем предыдущий пункт.

Еще раз большое спасибо!

Ответить
Развернуть ветку
Олег Нечаев

Пожалуйста! Никотина воздействие - спазмы сосудов головного мозга и других. А это изменение многих параметров как давление, возможно гормональные(?) изменения и т.д. А так - у вас почти готовый инструмент для психологов, психотерапевтов, для самодиагностики и коррекции. Пациент рассказывает терапевту будничную проблему и тут срабатывает датчик "организм реагирует на событие подсознанием".

Ответить
Развернуть ветку
Денис Шилов
Автор

Тут вопрос в другом (касательно никотина). Спазмы сосудов не являются характерной штукой только для никотина: предположим, у чела заболела голова, а происходит это как раз чаще всего из-за спазма сосудов. В итоге штука сработает ложно.

То есть если это и делать - то в связке с чем-то еще.

Про гормоны - да, идея нормальная, но проблема в том, что гормональная система, в отличие от нервной - штука очень медленная. Кроме того, непонятно, а как эти гормоны неинвазивно доставать.

У меня сейчас предположение, что относительно без ошибок можно определять характер принятого вещества. Принял стимулятор, например.

Ответить
Развернуть ветку
Artem Borodinov

Изучал то, как писал Стивин Хопкинс?

Ответить
Развернуть ветку
Денис Шилов
Автор

Ну да, он движением щеки набирал буковки. Если применительно к гаджету - применимо, но скорость набора будет медленная. Разве что юзать с автонабором.

Ответить
Развернуть ветку
Artem Borodinov

Я эту статью отправил инвесторам. Удачи

Ответить
Развернуть ветку
Serg Ya

Есть чувак, который занимается всякими разработками и строит типа силиконовой долины ) Может тебе ему написать стоит? Вдруг у вас что-то стоящее получится. Было бы круто. Приложу видео про него.

Ответить
Развернуть ветку
Федор Задков

Чувак это супер тема для всех. Особенно если подключить обучение под человека. Чтобы система в будущем определяла обычное моргание и моргание управление без сильного зажмуривания. Подключаю обычным людям и представляю через пару лет на улицах переключение во время бега

Ответить
Развернуть ветку
24 комментария
Раскрывать всегда