При редактировании текста нейросеть может галлюцинировать, поскольку не проверяет общий смысл каждой фразы. Об этом в интервью газете «Взгляд» сообщил директор по прикладным исследованиям и разработкам Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ Денис Деркач. Чтобы уменьшить галлюцинации, он посоветовал понижать «температуру» генерации.
«Температура генерации — это вероятность того, что генерация перескочит из одного минимума в другой. Нейросети действуют на основании примеров. Соответственно, если пользователь пишет текст, который с большой вероятностью может быть продолжен в разные смыслы, то он должен быть готов к тому, что будут галлюцинации», — объяснил эксперт.
По его словам, снижение температуры генерации сделает текст менее разнообразным, но уменьшит галлюцинации.