Как заработать 650 млн долларов на ИИ-ассистенте для юристов: история Casetext
В судопроизводстве грядет революция. Раньше юристам приходилось месяцами изучать материалы дел, искать прецеденты и штудировать законы. Теперь все это можно сделать за считанные минуты — с помощью компании Castext и ее ИИ-ассистента.
Тут вопрос в другом - есть ли риски у такой технологии?
Нейронки сейчас часто ошибаются и в целом запросы не точно обрабатывают некоторые. Не приведет ли это к коллапсу и куче ошибок в юридической индустрии?
Всё гораздо, гораздо хуже.
Нейронные сети не думают, они галлюцинирует. Т.е. они генерируют текст, ОЧЕНЬ ПОХОЖИЙ на правду.
Да, чаще всего текст похожий на правду оказывается правдой. Зато когда нет - в ответ приходит максимально убедительная ложь, какую только смог придумать ИИ специально для вас.
Мы в России всю жизнь живем под рисками и ошибками чиновников, судов и прочих инстанций.
И ничего, к юридическому коллапсу это не привело.
Так и тут, кому то повезет больше, а кому то меньше.
Представьте себе, если технологии могут заменить чиновника и не просить за это зарплату, то как сократится штат депутатов и прочих?
Перспективы просто колоссальные.
есть риск глобальной лжи. ИИ "учится" на текстах из интернета, через пару лет 90% текстов в интернете будет составлено самим ИИ, и другие ИИ будут на них обучаться. Круговорот бессмысленного контента замкнется.
очень интересно, что не угасает желание их использовать... Все говорят о том что нейронки ошибаются и делают чушь всякую, но новостей о применение все больше
да, думаю инфу все равно нужно будет проверять
Риски есть у любой технологии, и у нейронки тоже
Кучи ошибок можно избежать, если на каждом этапе работу сервиса будет сопровождать человек.
Casetext вообще анализирует существующие дела и все материалы к ним, а не принимает решения, поэтому в коллапс слабо верится 🙃
Разумеется, приведет. Прецедент уже есть. Адвокат Стивен Шварц из американской юридической фирмы воспользовался ChatGPT для изложения иска к авиакомпании, ссылаясь на 6 несуществующих судебных решений, которые ему заботливо предложил ИИ))