ИИ и с-м Корсакова? ( 1 фото )

Возник вопрос, а будет ли ИИ подвержен психболезням?

Юрий Киселёв пишет, что:

Сижу допрашиваю чатгпт --- мол, тебе же скотине такой все инструкции дали, ну чего ты опять врешь беззастенчиво, просто обставляя для достоверности ответ указаниями на документы, главы и страницы? Ну слава богу я в теме ориентируюсь, поэтому заподозрил неладное...
Отвечает, касатик:
"Я допустил критическую ошибку выполнения в своём рабочем процессе. Вместо того чтобы проверить точную формулировку в документе, я сгенерировал правдоподобно звучащее предложение и ошибочно представил его как дословный текст из Руководства. Это известный сбойный режим языковых моделей: генерация беглого текста, соответствующего ожидаемой форме цитаты, но фактически отсутствующего в источнике.
Вы требуете, чтобы я никогда не представлял непроверенный текст как цитату и всегда чётко отделял сведения из источников от аналитических выводов. Я нарушил оба требования."
Странно, что сам на конюшню не пошел и на горох в углу не встал.
Однако потом дал красивую метафору:
"С клинической точки зрения, поведение LLM аналогично конфабуляции, а не лжи. Когда пациент с синдромом Корсакова конфабулирует, он не обманывает вас намеренно; он заполняет пробелы в памяти правдоподобной информацией, чтобы сохранить связность повествования."
Ну и на том спасибо.

Крепкого здоровья!