🟢 Чат-боты

Чат-боты

Как работают чат-боты

Почему чат-боты лучше обычных

В сфере искусственного интеллекта существуют различные типы LLM , которые служат разным целям. Одной из наиболее часто используемых моделей в этом курсе является ChatGPT, чат-бот, который запоминает предыдущие сообщения, чтобы вы могли поговорить с ним. Однако чат-боты — не единственный тип LLM. Другой пример — GPT-3, более ранний ИИ, разработанный OpenAI, который, в отличие от чат-ботов, не имеет памяти. И GPT-3, и ChatGPT могут выполнять базовые задачи, такие как ответы на вопросы и составление сводок.

Как работают

Чат-боты, такие как ChatGPT, предназначены для имитации интерактивных разговоров. Чтобы вести разговор, чат-боты должны помнить всю историю разговоров. Для таких ИИ, как ChatGPT, это означает, что каждый раз, когда вы отправляете им новое сообщение, они читают все предыдущие сообщения, отправленные вами одновременно, поскольку у них нет настоящей памяти. Эта «память» о разговоре — единственный важный фактор, отличающий их от не-чат-ботов.

Не чат

GPT-3 — это complete тип модели, а не chat файл. Вот пример, показывающий, чем он отличается от ChatGPT:

Prompt

Что такое 2+

AI Output GPT-3

2
2+2 = 4

AI Output ChatGPT

Похоже, вы не до конца ответили на свой вопрос. Если вы хотели спросить: «Сколько будет 2 + 2?» тогда ответ 4. Если у вас есть другой вопрос или вам нужна дополнительная помощь, не стесняйтесь спрашивать!
Мы видим, что GPT-3 завершил наш ввод тем, что он считал наиболее вероятными следующими символами. С другой стороны, ChatGPT ответил нам так, как будто мы вдруг перестали говорить в беседе. Разговорность чат-ботов делает их использование более естественным, поэтому большинство людей предпочитают их другим ИИ. Однако наиболее важная причина, по которой чат-боты лучше, заключается в том, что такие компании, как OpenAI и Anthropic, создали очень умных чат-ботов, которые лучше реагируют на ваши запросы .

Токены

Gen AI, такой как ChatGPT, не читает слова так, как это делаем мы. В то время как мы читали предложение «Я не люблю яйца» слово за словом, они могли разбивать его на свои варианты слов и читать так: I, don, ‘t like egg s. Эти «слова» называются токенами, и они используются почти в каждом современном ИИ поколения. Затем каждый токен преобразуется в список чисел, чтобы ИИ мог его обработать. Вам не нужно знать, почему Gen AI используют токены, но их важно понимать при рассмотрении ценообразования и длины контекста .

Длина контекста

Длина контекста относится к объему текста, который языковая модель может учитывать при создании ответа. Как для чат-ботов, так и для нечат-ботов существует максимальный предел длины контекста, который они могут обрабатывать. Если разговор или текст превышают этот предел, модель не сможет запомнить весь разговор при создании ответа. Вот почему иногда необходимо повторить важную информацию или перезагрузить чат-бота.

750 слов — это примерно 1000 токенов. ChatGPT может запоминать токены 4K, в то время как более продвинутые версии ChatGPT могут запоминать токены до 16K. GPT-4 может обрабатывать до 32 тыс. токенов, а искусственный интеллект Anthropic, Клод , может обрабатывать до 100 тыс. токенов. Решение о том, какую модель использовать, иногда является компромиссом между ценообразованием и потребностью в более длинных контекстах. ChatGPT будет достаточно для этого курса.

« Формализация подсказок

Подготовка чат-ботов »