Основатель AI-студии предупредила о недопустимости слепого доверия нейросетям
Результаты работы нейросетей необходимо обязательно проверять, даже если речь идёт о каких-то поверхностных задачах. Об этом заявила основатель AI-продакшн и бренд-студии «ЭЛ.АИ.» Елена Николаева в эфире программы «Бизнес-ланч» на радиостанции «Серебряный дождь» (88.3 FM) в Пскове сегодня, 20 июля.
По словам эксперта, слепо доверять искусственному интеллекту нельзя, его выдачу нужно анализировать, а нейросеть направлять в нужное русло. Одной из причин является ограниченное контекстное окно, с которым работает пользователь в чате: после длительного общения нейросеть может начать выдавать ошибочные результаты.
При длительном общении нейросеть «забывает» начало диалога или переполняется информацией, из-за чего начинает выдавать ошибочные или бессмысленные данные.
«Его надо обязательно проверять. Даже на каких-то поверхностных задачах мы анализируем, что он выдаёт, и поворачиваем в то русло, в которое нам надо. Никогда вслепую ему нельзя доверять. Это со многим связано», – отметила Елена Николаева.
