В целом, я согласен со всеми упомянутыми рисками, они действительно существуют. Отдельно хочу выделить проблему, которая может возникнуть в будущем — это устаревание обученных моделей.
Технологии искусственного интеллекта ещё относительно новые и не прошли проверку на зрелость. Нет чёткого понимания, как часто нужно дообучать модели. Например, мы создали систему прогнозирования спроса, о которой я уже говорил. Какое-то время она работает отлично, но со временем поведение покупателей меняется, и система перестаёт давать точные прогнозы. Если мы обучили систему один раз, то через 5 лет она может перестать работать по разным причинам: изменится спрос или предпочтения потребителей, или появятся новые товары. Поэтому систему нужно постоянно дорабатывать, необходим хотя бы верхнеуровневый контроль.
С одной стороны, искусственный интеллект может значительно повысить эффективность работы компании. С другой стороны, его нельзя полностью пускать на самотёк.»