dok34.ru
Moderator

Models - Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
huggingface.co
Follow along with the video below to see how to install our site as a web app on your home screen.
Примечание: This feature may not be available in some browsers.
Я не цитировал тут, вчера с несколькими моделями пообщался 🙂
Там и настроек побольше, не только в командной строкеПоставил LM Studio и выяснил что она может использовать память компа для нейросети, то есть может запускать сеть большую чем память видеоплаты. (т.е. дает мне 64+12 гб памяти для запуска сети). Потом там есть опции перенести часть обработки на процессор (экспериментальная опция, но можно попробовать, он у меня с 24 потоками, 12 ядер) Для сравнения с олламой поставил тот-же чат gpt-oss 20b который у меня еле ползал на олламе, и он заработал с приличной скоростью, правда есть вопрос насчет контекстного окна - оно заполнилось слишком быстро.
В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.