5 ситуаций, когда не стоит использовать ИИ
Нейросети не только полезны, но и вредны. Наверняка вы слышали про галлюцинации и то, как наказали адвокатов, наслушавшисхся советов ChatGPT. В каких еще случаях не стоит прибегать к нейронке?
О задачах, когда использование ИИ будет максимально продуктивным, читайте здесь.
Гайд составлен профессором Итаном Молликом.
Итан Моллик - профессор Уортонской школы бизнеса при Пенсильванском университете, специалист по инновациям и предпринимательству. Дает советы на основе практического опытаи знания того, как работает ИИ.
** Еще больше интересного в моем канале продуктовые штучки**
Оставим в стороне очевидные сценарии (использование ИИ в незаконных целях, в ситуациях с высокими ставками, где ошибки могут быть катастрофическими, или для решений, которые с этической точки зрения требуют человеческой работы).
Помимо этих очевидных случаев, вот пять важных областей, где использование ИИ может быть контрпродуктивным:
1. Когда вам нужно учиться и генерить новые идеи или информацию
Просить резюме — это не то же самое, что читать самому. Просить ИИ решить проблему за вас — неэффективный способ обучения, даже если кажется, что так и должно быть. Чтобы узнать что-то новое, вам придется читать и думать самостоятельно, хотя вы все равно можете найти ИИ полезным для некоторых частей процесса обучения.
2. Когда требуется высокая точность результата
Проблема с ошибками ИИ, печально известными галлюцинациями, заключается в том, что из-за особенностей работы LLM, ошибки будут очень правдоподобными. Галлюцинации поэтому очень трудно обнаружить, и исследования показывают, что люди даже не пытаются, «засыпая за рулем».
Галлюцинации можно уменьшить, но не устранить полностью.
3. Когда вы не понимаете причины сбоя ИИ
ИИ может галлюцинировать, но это только одна из форм ошибок: ИИ часто пытается убедить вас в своей правоте и быть очень убедительным, придумывая ответ, или он может стать льстивыми и согласиться с вашим неверным ответом. Вам нужно достаточно часто использовать ИИ, чтобы распознать эти риски.
4. Когда самостоятельные усилия имеют решающее значение
Во многих областях людям нужно самостоятельно работать над с темой, чтобы добиться успеха: писатели переписывают одну и ту же страницу, ученые много раз возвращаются к теории. Сокращая эту борьбу, вы можете потерять способность достичь жизненно важного момента озарения.
5. Когда ИИ плох
Это может показаться очевидным, но ИИ плох в вещах, которых вы не ожидаете (например, в подсчете количества букв в слове) и хорош в вещах, которых вы не ожидаете (написание шекспировского сонета о том, как трудно подсчитать количество букв).
К сожалению, нет общего руководства, которое бы рассказало вам о хрупкой границе возможностей ИИ, которые постоянно развиваются. Метод проб и ошибок, а также обмен информацией имеют решающее значение.
Использование ИИ - это неплохо, но всегда стоит учитывать то, что он берёт информацию из какого-то источника и никто не гарантирует, что в этом источнике информация верная. Всегда стоит перепроверять то, что говорит ИИ. В сфере учёбы - для того, чтобы запомнить - нужно это выучить, прочитать в разных источниках, поискать информацию, а не просто сделать промпт. Информацию нужно обдумать и усвоить
Хоть где-то начали говорить о минусах. Я сразу говорил, что ИИ это не всегда про точность, бывает все равно, когда может выдать ошибки или не совсем тот ответ, который нужен, поэтому полностью полагаться на него не стоит. И интересно, смогут ли в будущем вообще сделать так, чтобы без ошибок
Ошибки ИИ иногда настолько убедительны, что их трудно заметить. Нужно быть не только пользователем технологий, но и их постоянным фактчекером))
Мы тут с коллегой люто упоролись, сломались миллион раз, но смогли завершить исследование целевой аудитории. Мы загрузили 21к строк диалогами бота (1 строка = 1 вопрос и 1 ответ) с пользователями и решили сделать сегментацию аудитории. Вывить боли, потребности ну и прочее. Гребаный gpt сильно галлюцинировал и контекстное окно перегружалось. Спасение нашли в Gemini. Он был максимально точен