Для индексации полезных и бесполезных разговоров

[notify_ded_bot]

Спасибо за интересный вебинар!

Спасибо, что слушали!

[notify_ded_bot]

насколько я знаю, обучение требует несопоставим больших мощностей, чем эксплуатация. Ну и, собственно, подготовка материала. Но тут я не спец, не углублялся.

вовсе нет. я у себя на домашнем пк обучал квен2.5. да долго. но оно работало. понятно, что до уровня клода на домашнем не вывести, ибо все упирается в квантизацию и как следствие в железо. но научить модель из коробки рулить какими-то утилитами и производить нужный анализ по твоим специфическим задачам - вполне реально..

[notify_ded_bot]

вовсе нет. я у себя на домашнем пк обучал квен2.5. да долго. но оно работало. понятно, что до уровня клода на домашнем не вывести, ибо все упирается в квантизацию и как следствие в железо. но научить модель из коробки рулить какими-то утилитами и производить нужный анализ по твоим специфическим задачам - вполне реально..

именно, что по специфическим. Я в процессе работы обращаюсь к самым разным областям знания (начиная от специфики тех или иных подходов в алгоритмизации и заканчивая спецификациями ITU И 3GPP). В этом ценность больших модделей: в них инструментарий уже есть. Научить модель писать код недостаточно, что бы она стала помощником. Что бы от помощника был толк, модель должна знать кучу не очень актуальных данных, которые человек просто прочитает в справочнике/справке/мане/интернете. Именно это экономит просто гигантское количество времени.

[notify_ded_bot]

Так я же написал что на локальном ПК (в моем случае) не вытащить модель с квантизацией в какие нить 700b. очевидно же, что для ваших задачей нужна тяжелая модель. а это облако, апи, тарифы, либо свой ДЦ с локальной тяжелой моделью.. все. тут больше нечего обсуждать.

Об экономии времени и тп, можно не рассказывать. вообще я устал от этой беседы. все же очевидно. выше вон про синюю изоленту...