Что ИИ может и чего не может сделать для вас

Чему вы научитесь

• В чём сильны инструменты генеративного ИИ и где они слабы
• Почему ИИ-инструмент может звучать уверенно и всё равно ошибаться
• Как выбрать первую задачу, которая подходит к тому, как работают эти инструменты

Идея

ИИ-чаты, с которых начинает большинство людей, относятся к генеративному ИИ: они создают новый текст, изображения или другой контент по вашему запросу. В основе большинства текстовых инструментов лежит большая языковая модель — система, обученная на очень большом объёме текста предсказывать, какие слова вероятнее всего будут следующими. Она не «знает» факты так, как это делает справочник. Она выдаёт ответ, который подходит под шаблон вашего вопроса.

Из-за такого устройства эти инструменты полезны там, где хороший первый вариант важнее точного факта: черновик письма, объяснение идеи простыми словами, краткое изложение длинного текста, который вы вставили, поиск названий или подходов к теме, превращение беспорядочных заметок в таблицу или список.

То же устройство объясняет и слабые места. Точные факты, имена, цены и даты могут оказаться неверными, хотя звучат уверенно. Недавних событий может не быть, потому что знания модели заканчиваются на её дате среза знаний — моменте, после которого её не обучали на новой информации. В вычислениях бывают ошибки, поэтому проверяйте каждое важное число. И модель не может знать о вашей ситуации ничего, о чём вы ей не сказали.

Некоторые инструменты умеют искать в интернете или читать загруженные вами файлы. Тогда инструмент может работать с более новой или более конкретной информацией, но всё равно может неправильно прочитать или пересказать найденное. Поиск меняет то, что видит ИИ. Необходимости проверять он не отменяет.

Пример

Студенту нужно написать преподавателю о просроченном задании. Вот неудачный способ использовать ИИ:

Какие правила сдачи работ после срока действуют в моём университете?

Инструмент никак не может знать правила вашего университета, если только он не выполнит поиск и не найдёт нужную страницу. Без этого он может написать правила, которые звучат правдоподобно, но не существуют. Лучше разделить работу: правила найти самостоятельно, а ИИ использовать для текста:

Помоги мне написать короткое вежливое письмо преподавателю. Я сдал эссе
на два дня позже срока, потому что болел. У меня есть справка от врача.
Я хочу спросить, можно ли ещё сдать работу на этой неделе. Уложись
в 120 слов.

Второй запрос использует то, что инструмент делает хорошо: черновик, тон и структуру. Факты — даты, справку и саму просьбу — дал студент.

Попробуйте сами

1. Откройте любой доступный вам ИИ-чат. Если его у вас пока нет, раздел Помочь с выбором подскажет, с чего начать.
2. Попросите его объяснить тему, которую вы уже хорошо знаете, в трёх коротких абзацах.
3. Прочитайте ответ и отметьте каждое предложение: верно, отчасти верно или неверно.
4. Задайте тому же инструменту вопрос о том, что произошло в последние несколько дней.
5. Сравните два ответа. Отметьте, где он был полезен, а где угадывал или сказал, что не знает.

В итоге у вас должен быть короткий список того, что этот инструмент сделал хорошо, и хотя бы одна вещь, в которой он ошибся или которую не мог знать.

Скопируйте этот шаблон

Мне нужна помощь с [задача, например: черновик, объяснение, краткое
изложение, поиск идей или переформатирование].

Вот что тебе нужно знать: [факты и детали от меня].

Пожалуйста, дай мне [нужная форма, например: короткое письмо, пять
пунктов, таблица].

Если какая-то часть ответа зависит от фактов, которых нет в моём
сообщении, перечисли эти части отдельно и скажи, что ты в них не уверен.

Просьба отмечать сомнительные места не делает ответ ИИ верным. Продолжайте проверять то, что важно.

Проверьте результат

• Придерживался ли ИИ фактов, которые вы дали, или добавил новые?
• Можете ли вы подтвердить имена, цифры, даты и цитаты в другом источнике?
• Зависит ли что-то от недавних событий, о которых инструмент может не знать?
• Если он что-то считал, проверили ли вы результат сами?
• Действительно ли результат полезен для вашей задачи или он только гладко читается?

Частые ошибки

• Использовать ИИ как поисковик для точных фактов. Гладкий ответ — ещё не проверенный ответ. Ищите факты в надёжном источнике, а ИИ используйте для текста и размышлений вокруг них.
• Считать, что ИИ знает о вас. Он знает только то, что есть в разговоре. Дайте ему нужные детали, но не передавайте личные данные: номера документов, пароли или персональные данные других людей.
• Доверять числам, потому что они выглядят точными. Цифры, которые выглядят точными, всё равно могут быть неверными. Пересчитайте всё, на что будете опираться.
• Сдаваться после одного слабого ответа. На расплывчатый запрос приходит расплывчатый результат. Попробуйте ещё раз с более понятной задачей, как показано в уроке Ваш первый вопрос.