Фото: freepik
Растям Алиев, научный сотрудник Национального исследовательского университета "Высшая школа экономики" в Санкт-Петербурге, изучил, как нейросети склонны создавать вымышленные данные, известные как "галлюцинации". Он предложил рассматривать этот феномен как аналог психических расстройств, таких как шизофрения.
Алиев сравнил работу больших языковых моделей с симптомами шизофрении. По его замечаниям, при обработке сложных запросов нейросети часто смешивают реальные факты с вымышленными, создавая псевдореальность, которую он назвал "метасимулякром".
Ученый также отметил, что искусственный интеллект не способен к самоанализу и самокоррекции, часто представляя ошибочные данные как достоверные. В связи с этим Алиев советует критически оценивать результаты работы нейросетей и всегда проверять их независимо.
Тем не менее, Алиев допускает возможность создания нейросетей, которые не будут склонны к галлюцинациям. Это возможно при более глубоком изучении природы этого явления и его механизмов.
