Новые возможности и тенденции в области искусственного интеллекта

Развитие технологий искусственного интеллекта (ИИ) набирает стремительные обороты, открывая новые горизонты в самых разных сферах. Последние месяцы ознаменовались рядом важных событий, демонстрирующих как перспективы, так и потенциальные риски, связанные с ИИ.

Одной из наиболее интересных новостей стало объявление о партнерстве между компанией Eleve…

Галлюцинации за госсчет: как ведомство в Шотландии написало реформу образования с помощью ИИ и опозорилось на выдуманных источниках

Разбираем кейс. Чиновники осударственного агентства Education Scotland подготовили серию аналитических отчетов для масштабной реформы школьной программы, которая должна заработать с 2028 года. Доказательная база этих документов оказалась сгенерирована нейросетями — со всеми вытекающими галлюцинациями.

Галлюцинации за госсчет: как ведомство в Шотландии написало реформу образования с помощью ИИ и опозорилось на выдуманных источниках

Как баг в CV-пайплайне привел к отмене штрафа в суде: разбор архитектурных ошибок

Когда мы проектируем системы компьютерного зрения (CV) для бизнеса или госсектора, основные метрики в голове — это mAP, Precision/Recall и FPS на инференсе. Но как только модель выходит в продакшн и начинает генерировать юридически значимые решения (штрафы, блокировки, скоринг), на первый план выходят архитектурные вопросы надежности.

Как баг в CV-пайплайне привел к отмене штрафа в суде: разбор архитектурных ошибок

Нейросеть перепутала коробки с мебелью и выписала штраф на 50 000 рублей

Разбираем реальный кейс. Что происходит, когда искусственный интеллект «галлюцинирует», а человек в погонах не перепроверяет его выводы? Недавнее решение Балашихинского городского суда — идеальный учебный кейс по AI Governance (управлению искусственным интеллектом) в реальной жизни.

Нейросеть перепутала коробки с мебелью и выписала штраф на 50 000 рублей

94% компаний не смогут остановить вышедшую из-под контроля нейросеть за час

Свежий отчет компании Gravitee, представленный на конференции Web Summit в Лиссабоне, показывает: технологические лидеры практически не следят за тем, что делают их алгоритмы.

Генеральный директор Gravitee Рори Бланделл

Прогнал судебную экспертизу через ИИ-детектор и проиграл: новый тренд в российских арбитражных спорах

Разбираем реальный кейс, в котором истец прогнал заключение судебных экспертов через сервис detecting-ai.com и заявил, что 42,2% текста сгенерировала нейросеть.

Прогнал судебную экспертизу через ИИ-детектор и проиграл: новый тренд в российских арбитражных спорах

Как ИИ-дипфэйки уничтожают репутацию бренда

Суть инцидента: Известный американский офтальмолог и инфлюенсер Джозеф Аллен обнаружил в социальных сетях десятки видеороликов, где его цифровой клон призывал отказываться от походов к врачам и покупать чудодейственные капли для лечения миопии. Схема приносила китайским продавцам на Amazon миллионы долларов, паразитируя на авторитете доктора.

Как ИИ-дипфэйки уничтожают репутацию бренда

Новая антропологическая угроза: эмоциональная привязанность к ИИ

Разбираем кейс: тридцатилетняя девушка Боуэн Ван, полностью, доверила ChatGPT управление лечением эпилепсии, отказалась от контроля врачей и, в итоге, погибла от тяжелейшего приступа, вызванного «планом снижения дозировки» от чат-бота.

Новая антропологическая угроза: эмоциональная привязанность к ИИ

Смерть на автопилоте: кто ответит за ДТП, если машиной управлял искусственный интеллект?

Водитель легкового автомобиля Chang'an Qiyuan активирует режим интеллектуальной помощи водителю (ADAS), убирает обе руки с рулевого колеса и, на полной скорости, врезается в стоящий в левой полосе тяжелый полуприцеп Dongfeng / Tonghua.

Водитель грузовика выехал в левый ряд для обгона. В процессе маневра его машина начала терять скорость из-за технич…

22

Агенту - решения, РП - ответственность. Смотри, не перепутай

Агенту - решения, РП - ответственность. Смотри, не перепутай

Сказывается юридическое образование: в управлении мне важна связка прав, обязанностей и ответственности. Но в проектах сроки обещают одни, ресурсы распределяют другие, а отвечать головой идёт РП. Полномочия распределённые, ответственность персональная. Знакомо?

11

Ответ без происхождения не заслуживает доверия

Ответ без происхождения не заслуживает доверия

Несколько месяцев назад руководитель показал мне ответ корпоративной AI-системы.

Он выглядел безупречно.

11