Можно ли доверять ИИ? Мой опыт проверки нейросети, и почему генетика не прощает ошибок

Все мы сейчас активно пользуемся искусственным интеллектом: кто-то пишет с его помощью код, кто-то генерирует картинки, а кто-то использует его как помощника в работе и исследованиях.

Недавно мне понадобилась конкретная последовательность ДНК, кодирующая ген окситоцина. Задача, казалось бы, стандартная для современных языковых моделей.

ИИ бодро выдал результат. Но поскольку в таких делах точность превыше всего, я решила перепроверить данные через специализированную базу данных, где записана не только кодирующая часть, но и полная геномная картина.

Я снова обратилась к нейросети — уже с уточнением. И знаете что? На выходе я получила совершенно другой результат. Не просто уточненный, а кардинально иной!

Когда я указала ИИ на это очевидное противоречие и попросила объяснить разницу, ответ меня одновременно позабавил и заставил задуматься. Нейросеть включила режим максимальной вежливости и выдала признание:

«Вы совершенно правильно заметили противоречие. Прошу прощения: я предоставил вам две разные последовательности, не объяснив разницу.

Правильной для вашего исследования должна быть последовательность, проверенная по официальной записи геномной ДНК человека, а не просто подобранная по генетическому коду.

Обе ранее приведённые мной последовательности нельзя считать равноценно подтверждёнными участками геномной ДНК. Первая была приведена как возможный вариант кодирования, а вторую я ошибочно назвал проверенным геномным участком, не подтвердив координаты должным образом».

Ключевой вывод, который стоит сделать: искусственный интеллект — великолепный эрудит и отличный собеседник, но он не проверяет факты в реальном времени так, как это обычно делается через базы данных вроде NCBI (GenBank), а просто генерирует наиболее вероятное продолжение текста.

Если бы речь шла о простом реферате — это не так страшно. Но когда дело касается точных наук, генетики, медицины или серьезных исследований, вера нейросетям может привести к ошибкам.