Галлюцинации — почему ИИ иногда уверенно ошибается
Узнайте, почему ИИ иногда уверенно врёт и как база знаний защищает вас от этой ловушки.
Это один из самых важных уроков. Не чтобы напугать — а чтобы вы стали умнее как пользователь и никогда не попадали в неловкие ситуации.
Что такое «галлюцинация»
Иногда ИИ уверенно называет факт, которого не существует. Придумывает книгу с реальным автором. Указывает несуществующий адрес. Ссылается на закон, которого нет.
Это называется галлюцинацией — и это не баг конкретного агента. Это особенность того, как работает любой ИИ.
Вспомните прошлый урок: ИИ не ищет информацию, он предсказывает правдоподобный текст. Иногда правдоподобный — не значит правильный.
Реальный пример
Carlos — владелец небольшой юридической фирмы в Мехико. Однажды он попросил агента без дополнительного контекста: «Напиши о нашей фирме — чем мы занимаемся, кто наши клиенты».
Агент написал красиво. Но указал несуществующие практики, придумал «10 лет опыта» и добавил специализацию, которой у фирмы нет.
Почему? Потому что у агента не было реальных данных. Он заполнил пробелы тем, что «похоже на правду» для юридической фирмы.
Как это решается: База знаний
В ASCN Agent есть файлы IDENTITY.md и USER.md — это ваша база знаний. Туда вы записываете реальные факты о себе и своём бизнесе.