asterisk.ru

Вот тут я сомневаюсь. Что-то мне подсказывает что speech to speech начинает готовить ответ не до конца получив вопрос.

Вот тут я сомневаюсь, в корректности такого подхода

Вот тут я сомневаюсь, в корректности такого подхода

Даже старые роботы так делали извлекали намаерение ещё до того как человек закончит говорить и готовили ответ

Даже старые роботы так делали извлекали намаерение ещё до того как человек закончит говорить и готовили ответ

юзер: "- я хочу ...", робот: "- ни слова больше!"

Может llm модели могут начать работу и корректировать результат? Тут для меня тёмный лес

Вот тут я сомневаюсь. Что-то мне подсказывает что speech to speech начинает готовить ответ не до конца получив вопрос.

Если на логи разговора смотреть, то текст ответа бота появляется там после того как он уже часть реплики проговорил

юзер: "- я хочу ...", робот: "- ни слова больше!"

ну не настолько, но хотя бы фраза "Я хочу" может сразу передаваться, на подготовительную обработку дальше

Слишком много токенов на такое нужно.

ну не настолько, но хотя бы фраза "Я хочу" может сразу передаваться, на подготовительную обработку дальше

и что же он там наподготавливает? Это же безумная огромная, а главное, пустая работа

и что же он там наподготавливает? Это же безумная огромная, а главное, пустая работа

Мне казалось она всё равно берёт по одному токену, как компилятор.
Тебе как программисту, можешь представить это как машину состояний.

Мне казалось она всё равно берёт по одному токену, как компилятор.
Тебе как программисту, можешь представить это как машину состояний.

если бы, это не конечный автомат, тут совершенно другой принцип. Но вот если объединить ...