В начале года я, как и многие, собирал «крутые промпты». Искал формулировки, которые заставляют нейронку отвечать лучше. Использовал манипулятивные техники типа «от этого зависит моя карьера» — и это реально влияло на результат.
Сейчас это всё потеряло смысл.
Что изменилось?
Нейронки стали умнее. Требовательность к формулировкам снизилась не в разы — на порядок. Те лайфхаки, которые год назад давали заметную разницу, сейчас не дают почти ничего.
Более того, нейронки сами отлично пишут промпты. У меня есть промпт для написания промптов — и он собран с помощью нейронки. Такая рекурсия.
Что стало важнее?
Две вещи: понимание процессов и управление контекстом.
Первое — понимание процессов
Чтобы нейронка выдавала хороший результат, нужно чётко понимать: какая последовательность действий ведёт к результату, как мы оцениваем что хорошо, а что плохо, какие нюансы важны.
Проблема в том, что у большинства людей это понимание неосознанное. Человек делает работу хорошо, но делает «как научился». Спроси его — не сможет объяснить алгоритм. А значит, и нейронке объяснить не сможет.
Очень мало компаний, где процессы реально прописаны. Где есть понимание, как и что делается, в какой последовательности, и почему именно так.
Второе — управление контекстом
Какие данные ты даёшь нейронке, какую структуру, какие примеры.
У нас в агентстве сейчас по каждому проекту есть файлы с описанием целевой аудитории, продуктов, особенностей клиента. Эти файлы по умолчанию подгружаются в нейронку при работе над проектом. И это даёт гораздо больше, чем любой «волшебный промпт».
Новая проблема: данных слишком много
За год у меня накопилась база из транскриптов звонков — больше 15 миллионов токенов. Ни одна нейронка не может с этим работать целиком.
И это касается не только звонков. Внутренние документы, накопленные знания в гугл-доках, разрозненная информация в разных местах. С этим сложно работать.
Поэтому я сейчас перестраиваю подход к работе с контекстом. Формирую локальную базу знаний, структурирую информацию так, чтобы нейронка могла быстро находить нужное, не перебирая всё подряд.
Это новый вызов. И он гораздо важнее, чем поиск очередного «крутого промпта».
В следующем посте — про главное заблуждение, с которым сталкиваюсь при внедрении нейронок в команды.
