Обсуждение Linux и ИИ | Сообщество FriendZone
Краткое содержание
FriendZone | Знакомства и общение ⋅ Активность ⋅ Чилл ⋅ VC — идеальное место для технарей. В этом обсуждении участники делятся страстью к дистрибутивам Linux, таким как EndeavourOS, и техническими нюансами запуска локальных ИИ-моделей с открытым кодом. Будь то программирование, железо или прогресс в ИИ, этот тред отражает живую культуру нашего сервера.
snowyotter-47
OP
amd ryzen 7, rtx 4060, 16 gb ram
daringmartin-48
Nice
daringmartin-48
Ты можешь юзать 3.8 max онлайн бесплатно
daringmartin-48
Ты что-то делаешь с этим?
snowyotter-47
OP
Но нельзя использовать локально, да?
daringmartin-48
Да
daringmartin-48
Но ты можешь использовать мощную модель онлайн
daringmartin-48
Модель на 2.5 трлн параметров с контекстом 1M
snowyotter-47
OP
Я хочу запускать локально, поэтому выбрал qwen2.5
daringmartin-48
Зачем ты используешь локально для разработки
snowyotter-47
OP
Чтобы я мог дообучить ИИ под свои нужды
daringmartin-48
Какие у тебя нужды
