1990-е годы принесли революцию в виде Всемирной паутины и поисковых систем. Хотя мы редко думаем об этом в контексте промпт-инжиниринга, формулировка поисковых запросов стала своего рода искусством, предвосхитившим многие принципы современного промпт-инжиниринга. Пользователи учились создавать все более сложные и специфичные запросы, чтобы получить нужную информацию из огромного массива данных.
Начало 2000-х годов ознаменовалось бурным развитием машинного обучения и, в частности, нейронных сетей. Это привело к созданию более продвинутых систем обработки естественного языка, способных понимать контекст и нюансы человеческой речи. Однако взаимодействие с этими системами все еще оставалось областью специалистов, требуя глубоких технических знаний для формулировки запросов и интерпретации результатов.
Настоящий прорыв произошел в середине 2010-х годов с появлением трансформеров и моделей, основанных на архитектуре BERT (Bidirectional Encoder Representations from Transformers). Эти модели продемонстрировали беспрецедентные возможности в понимании и генерации естественного языка.
2018 год стал поворотным моментом с выпуском GPT (Generative Pre-trained Transformer) от OpenAI. Эта модель и её последующие версии (GPT-2, GPT-3) открыли новую эру в области ИИ, где сложные задачи могли быть решены с помощью простых текстовых инструкций. Именно здесь начинается современная история промпт-инжиниринга.
Эволюция от простых команд к сложным промптам происходила постепенно, но неуклонно. Если ранние системы ИИ требовали строго форматированных инструкций или выбора из предопределенных опций, то современные языковые модели способны понимать и выполнять задачи, описанные свободным, естественным языком.
Эта эволюция может быть проиллюстрирована на примере задачи классификации текста:
1. Ранние системы: Требовали предварительно размеченных данных и специфического программирования для каждой новой задачи классификации.
2. Системы машинного обучения 2000-х: Нуждались в больших объемах обучающих данных и ручной настройке признаков для каждой конкретной задачи.
3. Современные языковые модели: Могут выполнять классификацию на основе нескольких примеров или даже просто описания категорий, предоставленных в промпте.
Например, современный промпт для классификации отзывов о ресторане может выглядеть так: