Discussion Linux & IA | Communauté FriendZone

Résumé

FriendZone | Make Friends & Chat ⋅ Active Social Fun ⋅ Chill ⋅ VC est l'endroit idéal pour les passionnés de tech. Cette discussion met en avant l'intérêt commun pour les distributions Linux comme EndeavourOS et les nuances techniques de l'exécution locale de modèles d'IA open-source. Que vous soyez intéressé par le code, le matériel ou les dernières avancées en IA, ce fil illustre la culture dynamique de partage de connaissances de notre serveur.

@daringmartin-48 C'est quoi tes specs
snowyotter-47 OP

amd ryzen 7, rtx 4060, 16 go ram

daringmartin-48

Sympa

daringmartin-48

Tu peux utiliser la 3.8 max en ligne gratuitement

daringmartin-48

Tu as fait un truc avec ?

snowyotter-47 OP

Mais on ne peut pas l'utiliser en local, non ?

daringmartin-48

Oui

daringmartin-48

Mais tu peux utiliser un modèle puissant en ligne

daringmartin-48

Modèle à 2,5 billions de paramètres avec 1M de contexte

snowyotter-47 OP

Je veux le faire tourner en local donc j'ai choisi qwen2.5

daringmartin-48

Pourquoi tu utilises le local pour construire quelque chose

@daringmartin-48 Pourquoi tu utilises le local pour construire quelque chose
snowyotter-47 OP

Pour pouvoir entraîner l'IA selon mes besoins

daringmartin-48

C'est quoi tes besoins

linux ia codage communauté tech serveur discord qwen modèles locaux programmation

Les dernières actus de FriendZone | Make Friends & Chat ⋅ Active Social Fun ⋅ Chill ⋅ VC