Рассуждающие модели
Модели бывают двух видов: быстрые и рассуждающие (reasoning). Быстрая модель отвечает сразу – хороша для простых вопросов и болтовни. Рассуждающая перед ответом строит логическую цепочку: сама формулирует для себя план, подвергает скепсису собственный вывод и только потом отвечает.
Первая заповедь ИИ-юриста: для рабочих задач используем только рассуждающие модели. На практике reasoning резко сокращает неточности и галлюцинации.
Нюансы
- Рассуждение расходует токены и время: мощные модели могут думать десятки минут над сложной задачей. Это плата за точность.
- Появление рассуждающих моделей в 2024 году «убило» классический промпт-инжиниринг: заклинания вроде «думай по шагам» модель теперь применяет сама – см. мифы промптинга.
- Быстрая модель уместна там, где важна скорость: ответы в реальном времени, черновики, быстрая сортировка.
Связанные заметки: Большая четверка · Приемы против галлюцинаций · Мифы промптинга
Материалы по теме: видео о быстрых и reasoning-моделях – исторический материал (2025)