Главные новости недели из мира машинного обучения и ИИ.
⚡ Новостной дайджест
✔Google открывает доступ к Imagen 3 для всех американских пользователей.
Google сделала модель ИИ для генерации изображений Imagen 3 доступной для всех пользователей США через платформу ImageFX. Расширение доступа произошло вслед за ограниченным релизом для пользователей Vertex AI в июне. Imagen 3 основана на модели диффузии, способной генерировать высококачественные изображения по текстовым запросам. Получившие доступ пользователи выражают недовольство строгими фильтрами контента, которые блокируют даже безобидные запросы. venturebeat.com (https://venturebeat.com/ai/google-quietly-opens-imagen-3-access-to-all-u-s-users/)
✔Исследование техник и методов слияния моделей ИИ.
Слияние моделей - это экономически эффективный метод машинного обучения, не требующий сбора исходных данных и больших вычислительных затрат. В связи с его растущим использованием в различных отраслях необходимо сформировать понимание методов слияния моделей. Исследование содержит всесторонний анализ методов слияния моделей, их теоретических основ, применения в больших языковых моделях, мультимодальных системах и более чем десяти подобластях машинного обучения, таких как непрерывное обучение и многозадачное обучение. arxiv.org (https://arxiv.org/pdf/2408.07666v1)
✔Medscape запустила поиск на основе ИИ для врачей.
Функция AI Search, доступная в мобильном приложении Medscape, обеспечивает мгновенные ответы на медицинские запросы через интерфейс чата. Сервис бесплатен и направлен на повышение эффективности и точности поиска медицинской информации. AI Search использует собственный контент, регулярно обновляемый медицинскими экспертами, что гарантирует надежность информации. Функция была протестирована и подтверждена сотнями врачей, предлагая краткие ответы с прямыми ссылками на источники. prnewswire.com (https://www.prnewswire.com/news-releases/medscape-debuts-ai-powered-search-transforming-information-access-for-physicians-302223001.html)
✔Критические уязвимости обнаружены в инструментах с открытым исходным кодом, используемых в AI-проектах.
В отчете компании Protect AI Inc. говорится об уязвимостях, которые были обнаружены в рамках программы охоты на ошибки 'huntr'. Отчет содержит 20 уязвимостей, среди которых выделяются проблемы в инструментах Setuptools, Lunary и Netaddr. Уязвимость в Setuptools позволяет злоумышленникам выполнять произвольный код на системе через специально подготовленные URL пакетов. Lunary имеет уязвимость обхода авторизации, позволяющую удаленным пользователям сохранять доступ к организационным шаблонам. В Netaddr обнаружена уязвимость серверного подделывания запросов, которая может обойти защиту и предоставить доступ к внутренним сетям. Все уязвимости были переданы разработчикам за 45 дней до публикации. siliconangle.com (https://siliconangle.com/2024/08/15/new-report-identifies-critical-vulnerabilities-found-open-source-tools-used-ai)
✔Geekbench выпустил приложение для оценки LLM.
Primate Labs выпустила приложение Geekbench AI 1.0, предназначенное для оценки производительности ИИ. Приложение доступно для Android, Linux, MacOS и Windows и применяет принципы Geekbench к задачам машинного и глубокого обучения. Это обновление является преемником Geekbench ML, который был анонсирован в 2021 году и на данный момент находится на версии 0.6. Изменение названия связано с тем, что в последние годы компании начали активно использовать термин "AI" в своих маркетинговых материалах. Primate Labs подчеркивает, что обновление поможет лучше понять функциональность и цели этого бенчмарка. techcrunch.com (https://techcrunch.com/2024/08/15/geekbench-releases-ai-benchmarking-app)
✔Машинное необучение: научить ИИ забывать - это крайне важно.
Концепция машинного "забывания" (machine unlearning) важна для искусственного интеллекта. Оно позволяет моделям ИИ удалять определенные данные из своей памяти без ухудшения производительности. Это становится особенно актуальным в свете растущих требований к конфиденциальности и безопасности данных, а также в контексте юридических обязательств. Модели машинного обучения часто не могут просто "забыть" информацию, что создает проблемы, когда данные устаревают или содержат ошибки. Вместо того чтобы переобучать модель с нуля, что является неэффективным, машинное забывание является единственным выходом. С развитием этой области и стандартизацией метрик оценки, внедрение машинного забывания станет более управляемым процессом для бизнеса, работающего с большими объемами данных. thenewstack.io (https://thenewstack.io/machine-unlearning-why-teaching-ai-to-forget-is-crucial/)
✔Машины изобретают новую математику, которую мы никогда не видели.
"Машины", используя алгоритмы и методы глубокого обучения, начинают создавать новые математические концепции и теории, которые ранее не существовали. Исследователи наблюдают, что ИИ способен находить решения и формулировать математические идеи, которые могут быть неочевидны для человека. Одним из примеров является использование нейронных сетей для решения сложных математических задач, таких как теоремы в алгебре или геометрии. Эти машины могут генерировать новые уравнения и предлагать нестандартные подходы к классическим математическим проблемам. vice.com (https://www.vice.com/en/article/xgzkek/machines-are-inventing-new-math-weve-never-seen)
✔Первая публичная платформа продажи и покупки данных для искусственного интеллекта.
David AI - маркетплейс датасетов, созданный для поддержки разработчиков и исследователей в области искусственного интеллекта. Платформа предлагает доступ к высококачественным наборам данных, которые могут быть использованы для обучения моделей ИИ. Цель проекта - решить проблему доступности данных, которая часто является препятствием для стартапов и исследовательских групп. Сервис позволяет пользователям находить, оценивать и приобретать данные, необходимые для их проектов. ycombinator.com (https://www.ycombinator.com/companies/david-ai)