IPB

Здравствуйте, гость ( Вход | Регистрация )

История благодарностей участнику ASIDS ::: Спасибо сказали: 2 раз(а)
Дата поста: В теме: За сообщение: Спасибо сказали:
12.07.2023 - 15:24 Системы искусственного интелекту
Всё что представляет из себя ChatGPT так это обученную модель, которая выполняет то на что была обучена, она не умеет думать, она только реагирует на те запросы которые были ей даны, просто ChatGPT-4 стоила компании больших денег, и если брать обучать ChatGPT-5 то она будет стоить ещё 2 раза больше, да и чем больше модель, тем она медленнее, и конечно же прожорливее при поддержание её в работе, особенно когда задаешь ей вопросы, они просто не хотят тратить столько бабок в пустую, когда в принципе ChatGPT-4 выполняет все нужные требования.
Кстати если вы хотите запустить аналог ChatGPT то можете загрузить себе LM Studio(среда для запуска обученных моделей) она работает пока только на CPU и жрет конешн оперативку компа, разные обученные модели так же можно скачать через неё.
И чем модель тяжелее, тем мощнее, и тем медленнее, я как-то ждал 250 слов 2,3 ⌛ часа... LM Studio Представляет из себя один exe файл, больше для него ничего не нужно делать.
Насчет тяжести, есть модели 7b самые легкие и самые тупые, даже инглиш бывает плохо знают, а вот 30b знает даже русский но на начальном уровне, есть и больше, но и для них нужно больше оперативки. (Обычные стандарты 3B, 7B, 15B, 30B, 65B, 175B)
Так же для работы LM Studio нужен набор команд AVX2, так что процы нужны посвежее(можно посмотреть через CPUZ), и конечно же есть и другие проекты которые позволяют запускать любые модели, но они в основном работают на GPU и для них конечно же нужна хорошая видюха, с более большей оперативкой, типа 3090, 4090, а вот LM Studio она скачивается и запускается без доп. пердолинга, не нужно работать в консоли, скачивать доп. пакеты для питона.
П.С: Есть модели без цензуры как у ChatGPT или YandexGPT, так что с ними можно говорить на ЛЮБЫЕ темы, в полном привате.

И ещё, в основном все модели делают зарубежные юзеры, по этому большая их часть не знает русского языка, а вот инглиш, испанский и другие это они умеют, а русский там появляется для доп. количества, все модели можно скачать на Hugging Face, и там также можно обучить свою модель, даже обучить модель используя уже существующую модель как основу, но для в этом нужно разбираться и обладать данными для кормления этих моделей, и конечно же деньгами для их обучения.
ДОП:
https://huggingface.co/TheBloke (Этот чел конвертирует модели под формат GGML с которым работает LM Studio, и я так понял что у него есть свой патреон где он по запросу конвертит модели) И как по мне WizardLM Uncensored Falcon 30B+ неплохо говорит по русски, но медленно... Но я так же не смог проверить все модели, так как они не влезают в мои 12гб озу, так что те у кого больше, тэстите модели 30B+ на русиш лангуаге и выкладывайте сюда результаты. ╰(▔∀▔)╯
苏卡捕猎, Stuart1974,

RSS Текстовая версия Сейчас: 18.06.2025 - 15:04