Как проверять то, что говорит ИИ

Чему вы научитесь

• Что такое галлюцинация и почему она возникает
• Какие части ответа проверять в первую очередь: имена, числа, даты, цитаты и ссылки
• Как попросить источники и затем проверить их самостоятельно
• Как отделить факты от догадок ИИ

Идея

ИИ-инструменты пишут гладкий, уверенный текст независимо от того, верно ли его содержание. Когда инструмент выдаёт что-то правдоподобное, но ложное, например несуществующую книгу или цитату, которую никто не произносил, это называют галлюцинацией: уверенный ответ, который неверен или выдуман. Это происходит потому, что модель предсказывает вероятный текст. Она не лжёт и не знает, когда ошибается.

Проверять каждое слово не нужно. Проверяйте те части, которые навредят, если окажутся неверными. Обычные зоны риска — имена, числа, даты, цитаты и ссылки, а также всё, что касается права, медицины или финансов. Для каждой такой части обратитесь к первоисточнику: исходному документу, официальному сайту, самому закону или публикации самого человека. Запись в блоге, которая повторяет утверждение, подтверждением не считается.

Можно попросить у ИИ источники. Это помогает, но это не последний шаг. Указанный источник может не существовать, быть о другом или не говорить того, что утверждает ИИ. Откройте его и найдите предложение, на котором основано утверждение. Если найти его не удаётся, считайте утверждение неподтверждённым.

И наконец, попросите ИИ разметить собственный ответ: какие части взяты из источника или из материала, который вы дали, а какие — общие знания, догадки или мнения. Эта разметка не всегда верна, но она показывает, куда смотреть в первую очередь.

Пример

Владелица небольшого бизнеса спрашивает:

Какой крайний срок подачи моей квартальной декларации по налогу с продаж
и какой штраф за просрочку? Дай ссылку на официальное правило.

В ответе есть дата, сумма штрафа и ссылка. Читается хорошо. Она проверяет каждую часть:

• Ссылка открывает страницу на сайте налоговой службы, но речь там о другой форме.
• На собственной странице налоговой службы для её декларации указан другой срок для её региона.
• Штраф за просрочку не упоминается ни на одной официальной странице, которую ей удаётся найти.

Она отправляет уточнение:

Какие части твоего ответа взяты из источника, на который ты можешь
указать, а какие — общие знания или догадка? Раздели их на отдельные
списки.

ИИ переносит штраф в список догадок. Срок она берёт с официальной страницы, а насчёт штрафа звонит в налоговую. ИИ помог ей понять, что нужно проверить, но каждый факт, на основе которого она действовала, взят из первоисточника.

Попробуйте сами

1. Задайте любому ИИ-инструменту фактический вопрос о том, что вы хорошо знаете, например о вашем городе, работе или хобби.
2. Попросите указать хотя бы два источника со ссылками.
3. Подчеркните в ответе каждое имя, число, дату и цитату.
4. Откройте каждый источник и найдите точное предложение, которое подтверждает каждый подчёркнутый пункт.
5. Отметьте каждый пункт: подтверждено, неверно или не найдено.

В итоге у вас должен быть короткий список утверждений со статусом для каждого и первое представление о том, насколько тщательно нужно проверять этот инструмент в вашей области. Для более объёмного поиска информации переходите к уроку Поиск информации с ИИ и проверка ссылок.

Скопируйте этот шаблон

Ответь на вопрос: [ваш вопрос].

Затем раздели ответ на три списка:
1. Факты с источником, который я могу проверить. Для каждого укажи
   название источника и ссылку.
2. Общие знания, которые ты взял не из конкретного источника.
3. Догадки, предположения или мнения.

Если ты не уверен в имени, числе, дате или цитате, отметь это рядом
с ними. Не выдумывай источники.

Просьба отмечать сомнительные места не делает ответ ИИ верным. Продолжайте проверять то, что важно.

Проверьте результат

• Открывается ли каждая ссылка, и ведёт ли она на исходную или официальную страницу?
• Говорит ли источник своими словами то, что утверждает ИИ?
• Правильно ли написаны имена, и точно ли даты и числа совпадают с источником?
• Приведены ли цитаты слово в слово, и сказал ли их названный человек?
• Достаточно ли свежий источник для вашей цели? Поищите дату на странице.
• Чётко ли догадки отделены от фактов?

Частые ошибки

• Проверять только то, что ссылка открывается. Настоящая страница может быть совсем о другом. Найдите предложение, которое подтверждает утверждение.
• Спрашивать тот же ИИ, уверен ли он. Он может согласиться или изменить ответ без каких-либо новых доказательств. Вместо этого проверьте первоисточник.
• Принимать уверенный тон за признак точности. Тон ничего не говорит об истинности. Оценивайте каждое утверждение по его источнику.
• Проверять всё с одинаковой тщательностью. На это не хватит времени. Начните с того, что навредит, если окажется неверным: деньги, здоровье, юридические вопросы и всё, что вы опубликуете или отправите.