Восстание машин или человеческий фактор?
Пока одни с горящими глазами подключают ИИ к каждой дырке в процессах, а другие пророчат падение цивилизации: «железные мозги заменят мясные, и мы все останемся без работы», третьи — успешно проваливают проекты, перекладывая ответственность на нейросеть.
Кто виноват?
Что делать?
Разобрали вместе с экспертами по ИИ.
1. Факап на сотни тысяч долларов💸
Deloitte (монстр консалта из big four, на минуточку) возвращает деньги правительству Австралии за отчёт из «альтернативной реальности»:
ИИ сгенерировал несуществующие источники, фейковые цитаты и «мнения профессоров, которых никто не видел».
Никакой злой воли — просто никто, по всей видимости, не проверил за машиной💀
ИИ не соврал — он придумал то, что статистически похоже на правду.
ИИ поможет написать черновик, структурировать текст, подчистить ошибки. Подготовить отчёт?
Если судить по опыту Deloitte – лучше не пробовать...
💔 Он не виноват. А кто тогда?
ИИ — как шуруповёрт: ускоряет работу, если крутить им шурупы, а не вязать свитер.
Вот несколько примеров, когда компании доверили нейронке больше, чем стоило.
Где компании громче всего ломались об нейросеть:
✳ Air Canada: “Это не мы! Это бот!”
Пассажир зашёл на сайт, задал вопрос чат-боту и получил неверное объяснение правил «скорбного тарифа». Компания отказалась компенсировать, сославшись на «ошибку бота».
Суд сказал: «Публичные ответы — это позиция компании. Хотите, чтобы вас цитировал робот — проверяйте, что он несёт».
➜ ИИ — не стажёр, которого можно «списать». Всё, что он говорит от имени бренда, — юридически ответственность компании.
✳ McDonald’s и трудности перевода
Компания запустила голосовой ИИ для приёма заказов. Идея крутая: быстрее, дешевле, прогрессивней. Но система путала заказы, не понимала акценты и портила нервы клиентам.
В итоге видео с бардаком пошло по соцсетям, а пилот quietly свернули.
➜ В точках с высокой вариативностью речи без грамотной эскалации к оператору и порогов качества — никакой ИИ не вывезет.
✳ Watson for Oncology — витрина вместо пользы
IBM обещала революцию в онкологии: «ИИ даст второе мнение врачу».
На деле: нестыковки, опасные рекомендации, завышенные ожидания, дорогие интеграции и нулевая доказательная база.
Система красиво продавалась, но не лечила.
➜ Даже крутой ИИ бесполезен, если ключевые метрики не понятны врачу и страховщику.
Технология без цели и валидации — просто дорогой PowerPoint.
✳ Amazon и гендерная дискриминация от ИИ
Amazon обучил ИИ-систему подбора резюме. Проблема: обучали на старых данных, где 90% кандидатов были мужчины.
ИИ честно «усвоил», что мужчины — норм, а женщины — «менее подходящие».
Результат — проект закрыли после скандала.
➜ Garbage in — garbage out. Если в данные заложен перекос, ИИ его не исправит, а закрепит — проблема не в алгоритме, а в людях, которые его «кормили».
✳ Robodebt в Австралии — когда государство решило автоматизироваться
Алгоритм проверял, законно ли гражданам назначены пособия. За три года система «нашла» долги у полумиллиона человек, которых на деле не было. Суды признали проект незаконным, правительство выплатило компенсации.
➜ Если не верифицировать ИИ-решения на старте, последствия могут стоить не только бюджета, но и репутации государства.
✳ Google и AI-обзор, который давал опасные советы и нелепые саммари
Новая функция AI Overview генерировала ответы на запросы на основе интернета.
Но без проверки достоверности. Результат — советы уровня «чтобы сыр лучше прилипал, добавьте клей».
Пользователи в шоке, журналисты в восторге, Google делает вид, что это «рандомные ошибки». AI Overviews у Google — общественный щелчок по носу и расследования.
➜ Если ИИ отвечает публично, у него должны быть источники и стоп-фильтры. Пока нет — это генератор бреда.
➡ Вывод
Сыпется не алгоритм, а проектная рамка вокруг него: роли, метрика, границы, верификация, эскалация. А кто виноват? Тот, кто поспешил запустить сырой проект, очевидно.
✨Джун и волшебная кнопка✨
Окей, это не компания профакапилась, это бардак на местах. Но почему так происходит?
Вот история, в разных вариациях знакомая каждому:
Младший разработчик на стажировке спрашивает, можно ли пользоваться нейронкой ➜ Можно ➜ Он пишет код через ChatGPT ➜ Код не работает ➜ Идёт к старшему и жалуется, что код не работает ➜ Старший тяжело вздыхает.
И ты уже знаешь почему ➜
Прогрессивный стажёр (он же школьник на уроке, сммщик с твоими соцсетями, МарьИванна с нейро-открытками ко Дню бухгалтерии) закинул промт в ChatGPT и не глядя скопипастил результат. Не надо так!
➡ Спросили у экспертов зачем нейросети врут, почему люди им верят и что с этим делать.
Модели ничего не “знают” и никак не "думают", они генерят результат по частотности. Если тема узкая и данных мало — получишь фантазии и галлюцинации, хоть и очень реалистичные. Не понимая этого принципа, люди привыкают, что ИИ отлично решает небольшие задачи, и дают всё больше, сложнее, ответственней... Без проверки генерации рано или поздно сядешь в лужу — это одинаково работает и с ленивым стажёром, и с ленивым опытным сотрудником из крупной корпорации.
Языковая модель — это Т9 на стероидах: продвинутый подсказчик следующего слова. Придумывает — уверенно, держит инструкции — плохо. Из каждого утюга продают недельные курсы типа "научись писать промт и работай 15 минут в день" — это так не работает. Если скормить нейронке 33 юридических документа и промт на 3 страницы — получишь салат из складного бреда. Что делать? Режьте задачу на подзадачи, задавайте ИИ роль (редактор, копирайтер и т.п.), кидайте 3–5 референсов и обязательно всё перепроверяйте — особенно цифры. Даже если в предыдущей итерации ошибки не было, в следующей нейронка может заглючить.
➡ Вывод
Нейросеть не думает, и кнопку «сделать зашибись» всё ещё не придумали 😢
ИИ — не замена мозгам: кинуть в GPT своей задачкой, упархнуть за кофе и получить премию — не выйдет. Просить нейронку сделать за тебя работу всё равно что попросить калькулятор доказать теорему.
Ошибки не в машине — ошибка в пользователе, который подумал, что теперь можно не думать вообще. Ответственность за результат всегда — человеческая.
❗Так что не увлекайтесь — делегируйте с умом.
Раньше было лучше! ⭐
Знакомая песня:
Вот время было: все работали руками, каждый работник — 100% натуральный спец в своём деле, что ни проект — то шедевр…
Да бросьте.
⏩Неудачные релизы, кривые пилоты и «у нас есть революционное решение всех проблем!» существовали задолго до LLM.
⏩Что поменялось? Масштаб и скорость:
с ИИ мгновенно и публично тиражируются не только триумфы, но и ошибки.
ИИ усиливает то, что у вас уже есть:
⚡ экспертиза, таланты, идеи — улетят в космос
💩 лень и некомпетентность — разлетятся по интернету
Так что ИИ безусловно наш бро и прекрасный помощник. Пока мы используем его по назначению.
ИИ мгновенно нашлось применение практически в каждой сфере жизни и области деятельности.
Не рискнём давать прогнозы по безработице и "умирающим" профессиям, но без подборки "где нейронки молодцы" вас не оставим:
💫 Наука
AlphaFold раскрыл «чёрный ящик» белков: открытый банк >200 млн предсказаний ускорил исследования и задал новый темп биологии.
Биоинженерия, фарма, физика, космос — революционные открытия одно за другим. А наука сегодня — наша реальность завтра.
💫 Медицина
Метанализы и свежие исследования показывают: при грамотной интеграции ИИ снижают нагрузку врачей при расшифровке снимков (КТ, МРТ) и повышают точность диагностики.
Не «железный доктор» без арбидола и сочувствия, а больше времени и сил для работы у настоящих врачей.
💫 Финансы
Крупные платёжные игроки и банки используют антифрод-алгоритмы и экономят миллионы — в реальном времени ловят мошенников.
Хорошая математика на больших массивах + тщательный контроль = польза win-win
💫 Разработка
В экспериментальных задачах Copilot ускоряет закрытие типовых кусков и значительно снижает рутину, а как следствие — выгорание.
Про ревью — помним.
➡ В чётких рамках и под строгим контролем ИИ на порядки поднимает эффективность и расширяет возможности — не только для разрабов и лабораторных учёных, но и в любой профессии, где важна точность, а рутина отнимает много времени.
➡ Что в итоге?
ИИ — не запасная голова, не лишняя пара рук и совершенно точно не волшебник в голубом вертолёте, который придёт и молча исправит всё.
Это мощный инструмент. И хорошо работает он ровно настолько, насколько адекватен тот, кто им управляет.
Нейронкой не получится заменить ни продажника, ни бухгалтера, ни дизайнера.
Хочешь пользы — оплати им курсы по нейросетям (не недельные, а нормальные, под задачи). Пусть работают быстрее, умнее и безопаснее.
ИИ не спасёт от безделья и безответственности. Но в умелых руках — вытащит бизнес на новый уровень💪 Рекомендуем!
______________________________