ChatGPT просто калькулятор слов: как устроен ChatGPT

Данная статья написана на базе публикации Саймона Уиллисона, вот несколько поясняющих тезисов, которые вы можете использовать как информацию для размышления и формированию своих навыков по работе с ChatGPT:

Одна из самых распространенных ошибок, заключается в том, что люди используют с большие инструменты языковых моделей, такими как ChatGPT, пытается использовать их в качестве поисковой системы.

Если вы зададите LLM вопрос, он ответит на него — независимо от вопроса!

• Использование их в качестве альтернативы поисковой системе, такой как Google, является одним из самых очевидных приложений, и для многих запросов это отлично работает.
• Модель ChatGPT огромна, но она недостаточно огромна, чтобы сохранить все точные факты, с которыми она столкнулась в своем тренировочном наборе.
• ChatGPT может дать убедительный ответ на что угодно, но это не значит, что он отражает фактические факты в своих ответах.

Вы всегда должны оставаться скептически и проверять факты, что он вам говорит.

Языковые модели также известны «галлюцинацией» — изобретением новых фактов, которые соответствуют структуре предложений, несмотря на отсутствие оснований в базовых данных.

LLaMA 7B может быть представлен в виде файла объемом 3,9 ГБ — он содержит удивительный объем информации, но, очевидно, этого недостаточно места для хранения, чтобы точно ответить на каждый ваш вопрос.

Хотите, чтобы вы работали с конкретными фактами и снизили вероятность ошибки? — вставьте их в языковую модель как часть стандарта, описав «как должно быть».

Помните, что всегда существует риск галлюцинации, даже если вы «кормите» языковую модель фактами, которые вы хотите использовать.

Эффективное использование языковых моделей обманчиво сложно — они выглядят намного проще в использовании, чем на самом деле.

Чтобы получить максимальную отдачу от них и избежать многих ловушек, которые они устанавливают для неоостегаемого пользователя, вам нужно провести с ними время и работать над созданием точной ментальной модели того, как они работают, на что они способны и где они, скорее всего, пойдут не так — и в этом плане мои консультации по ИИ могут помочь адаптировать вам свои потребности к существующему инструментарию.

Все аналогии несовершенны, но некоторые из них более несовершенны, чем другие.

• Калькуляторы всегда дают вам один и тот же ответ на данный вход.
• Языковые модели этого не делают.
• Если вы запустите одно и то же приглашение через LLM несколько раз, вы каждый раз будете получать немного другой ответ.