Большинство интерфейсов LLM позволяют редактировать последнее приглашение. Гораздо меньше возможностей позволяют редактировать историю, которую унаследует приглашение. Я хотел протестировать простой режим отказа: что происходит, когда в длительном разговоре остается одна неверная исследовательская заметка...
Большинство интерфейсов LLM позволяют редактировать последнее приглашение. Гораздо меньше возможностей позволяют редактировать историю, которую унаследует приглашение.
Я хотел протестировать простой режим отказа: что произойдет, если в длительном разговоре останется одна неверная исследовательская заметка?
Небольшое контекстное вмешательство
Я построил контролируемый сценарий в ThoughtDAG.
Исходный узел сообщил о снижении производительности на 17%. Намеренно искаженная заметка изменила этот результат и сообщила, что он на 17% лучше. Эта записка затем переросла в более позднюю рекомендацию.
Поскольку неверная ветвь все еще была подключена, модель повторила неправильный вывод.
Я тогда:
сохранил модель без изменений;
оставил последний вопрос без изменений;
удалил единственный край, несущий зараженную ветку;
восстановил ответ.
Рекомендация изменилась.
В этом прогоне единственным преднамеренным вмешательством был контекст, выбранный графиком.
Провода — это контекст
ThoughtDAG представляет повороты разговоров, выдержки из документов и извлеченный материал в виде узлов на холсте.
Края не являются декоративными. Когда пользователь запрашивает у узла, ThoughtDAG просматривает восходящий граф и сериализует только подключенных предков в следующий запрос модели.
Это делает три операции конкретными:
филиал