Всем привет. С вами Human Loop Weekly — раз в две недели я собираю сюжеты об AI, которые сначала кажутся маленькой функцией в приложении. Потом выясняется, что за этой функцией стоят процесс, касса, очередь, жалобы и отношения людей с компанией.

В этом выпуске — три истории из общепита. В одном из ресторанов Taco Bell голосового AI попросили принять заказ на 18 тысяч стаканов воды. Во второй DoorDash предлагает написать «закажи как обычно» и поручить сбор корзины агенту. В третьей McDonald’s оказался в центре иска о системе, которая, по версии истцов, помогала координировать цены франчайзи.

Taco Bell: когда вежливый голос готов принять 18 тысяч стаканов воды

Летом 2025 года голосовой AI Taco Bell стал героем роликов, в которых посетители намеренно проверяли его на прочность. Один из наиболее обсуждавшихся эпизодов — запрос на 18 тысяч стаканов воды. После волны таких сбоев компания стала пересматривать, где использовать систему. К тому моменту голосовой AI работал более чем в 500 drive-thru. BBC и The Verge передавали комментарии CTO Taco Bell Дейна Мэтьюса: технология иногда приятно удивляет, иногда подводит.

История смешная ровно до момента, когда представить её на кухне. Один интерфейс услышал шутку как заказ. Второй интерфейс мог бы отправить его в кассу. Третий — в производство. Там уже никто не обязан понимать культурный контекст ролика из TikTok.

Это хороший пример разрыва между разговором и операцией. В разговоре AI старается быть полезным и не спорить. В операции системе нужен предел: когда запрос стал настолько странным, дорогим или необратимым, что его следует остановить и передать человеку.

DoorDash: «закажи как обычно» становится интерфейсом покупки

В сентябре 2026 года DoorDash запустил тест AI-агента в Apple Messages. Пользователь может написать «закажи как обычно». Агент поднимает историю заказов, уточняет детали, предлагает рестораны и собирает групповой заказ. Дальше он показывает итог перед подтверждением.

Сценарий выглядит гораздо спокойнее Taco Bell. Здесь AI не сидит за решёткой drive-thru, где шум мотора смешивается с голосом. У него есть история заказов, текстовый диалог и экран подтверждения. Именно поэтому этот кейс интересен. Агентный заказ уже не выглядит фантастикой. Он становится удобной функцией повседневного сервиса.

Удобство строится на сокращении выбора. Человек больше не листает меню, не вспоминает модификаторы и не сводит предпочтения коллег в общий заказ вручную. Вместо длинной последовательности кликов появляется короткая фраза. Цена такой экономии — необходимость ясно показать, что именно система решила считать «обычным», что она добавила сама и в какой момент заказ превратился в деньги и работу кухни.

McDonald’s: иск об AI-инструменте и цене до того, как клиент увидел меню

В октябре 2026 года против McDonald’s подан предложенный коллективный иск в федеральный суд Чикаго. Истцы утверждают, что AI-инструмент использовался для координации цен между франчайзи и собственными ресторанами. Компания это оспаривает и говорит, что цены определяют франчайзи. The Guardian описывает обвинения, ABC News приводит позицию McDonald’s.

Это пока не установленный судом факт. Из иска нельзя сделать вывод, что любой алгоритм цены ведёт к сговору. Сам сюжет важен по другой причине. AI влияет не только на то, как клиент формулирует заказ. Он может войти в условие сделки ещё до появления заказа: в цену на табло. В других коммерческих системах AI также может влиять на размер скидки или доступность предложения.

Покупатель видит итог. Логика расчёта остаётся внутри системы. Для такси и авиабилетов это давно привычный опыт. Для привычного обеда он ощущается острее: вчера комбо стоило одну сумму, сегодня — другую, объяснение помещается разве что в маленький шрифт на витрине.

В организациях эти истории продолжаются в процессе

Общепит здесь полезен своей наглядностью. В инженерной, банковской или продуктовой организации AI редко стартует с 18 тысяч стаканов воды. Он начинает с безобидного поручения: подготовить письмо, составить подборку, создать заявку, обновить карточку клиента, предложить цену, собрать отчёт, открыть доступ.

Дальше любой такой сценарий проходит знакомый путь. Сначала возникает намерение человека. Потом AI интерпретирует его и собирает результат. Затем результат попадает в соседнюю систему, где цена ошибки становится выше: он превращается в платёж, задачу в очереди, коммуникацию с клиентом, юридическое обязательство или репутационный риск для команды.

Именно здесь процессы важнее красивого демо. Нужны точки, в которых намерение становится проверяемым объектом: что именно попросили, что система поняла, что она изменила, кто увидел итог до выполнения. DoorDash строит это через текстовый диалог и подтверждение. Эпизод Taco Bell показывает риск: в голосовом канале намеренная шутка или необычный запрос могут быть интерпретированы как заказ. Публичные ролики не дают оценки частоты таких ошибок. Иск к McDonald’s показывает ещё один сложный слой: решение может влиять на человека, даже когда он видит лишь готовую цену.

Проверка делает AI-сценарий частью продукта

При внедрении AI легко спорить о точности модели. Для реального процесса важнее другая цепочка: сколько ошибок система создаёт, где их замечают, можно ли исправить результат без лишней работы и кто несёт цену, если исправить уже поздно.

Проверка имеет разную форму в зависимости от действия. Черновик письма можно перечитать. Изменение в системе клиента требует сравнить исходные данные и результат. Платёж, цена, доступ или отправленное сообщение нуждаются в ясном моменте подтверждения и следе решения. Запрос на 18 тысяч стаканов воды требует ещё более простого механизма: ограничителя, который не ждёт от модели здравого смысла.

Это влияет и на стоимость. Экономия нескольких минут на входе быстро исчезает, если за ней приходят ручные исправления, отмены, поддержка, возвраты и разбор жалоб. В подобных сценариях цену ошибки может нести ресторан — через отмены и ручную обработку; в доставке она может распределиться между клиентом, рестораном, курьером и поддержкой. Публичных данных этих двух кейсов о фактическом распределении потерь в тексте нет. В корпоративном процессе её часто получает сотрудник, который увидел неверный результат слишком поздно и теперь отвечает за него перед коллегой или клиентом.

Красная линия: AI может ускорять выбор, ответственность за последствия остаётся у людей

Во всех трёх историях система участвует в формировании действия или его условия. Различается главное: где человек видит результат, может ли его проверить и успевает ли остановить процесс до необратимого шага. Поэтому полезно проектировать AI-сценарий вокруг нескольких вопросов.

  • Видимость. Что именно AI понял из запроса и что собрал в итоге?
  • Обратимость. В какой момент результат можно отменить без потерь?
  • Порог полномочий. Какие действия допустимы автоматически, а какие требуют явного подтверждения?
  • След решения. Можно ли восстановить, кто дал намерение, какие данные использовала система и что произошло дальше?
  • Человеческая цена. Кому достаётся работа по исправлению ошибки: клиенту, оператору, сотруднику поддержки или автору поручения?

Для таких сценариев обычно используют текстовые подтверждения до оплаты, лимиты на сумму и объём, передачу сложных случаев человеку, журналы действий, возможность быстро отменить сделанное.

Для сценариев, где система рекомендует или рассчитывает цену, этого недостаточно: нужны заранее заданные правила полномочий, отдельный владелец ценового решения, журнал входных данных и рекомендаций, регулярная проверка отклонений и юридическая оценка рисков конкуренции. Это не отдельная «AI-этика». Это обычная инженерия процесса, когда в нём появился новый исполнитель.

Для организации полезно начинать с малых и обратимых действий. Для первого сценария подойдёт маршрут, где можно увидеть решение, остановить его и понять стоимость сбоя. Сотрудникам важно знать границы своей ответственности. Клиентам — видеть, где сервис действует от их имени. Обе группы быстро замечают разрыв между обещанием удобства и реальным устройством процесса.

Вопрос выпуска: где в вашей работе или клиентском пути AI уже превращает намерение человека в действие — и в какой точке это действие всё ещё можно спокойно проверить?

Human Loop Weekly выходит раз в две недели, по понедельникам.

📱 Telegram: @predictableteam 🌐 Сайт: maratkee.com