Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Usage instructions for Ollama #440

Open
Danthig opened this issue Dec 10, 2024 · 1 comment
Open

Usage instructions for Ollama #440

Danthig opened this issue Dec 10, 2024 · 1 comment
Assignees
Labels

Comments

@Danthig
Copy link

Danthig commented Dec 10, 2024

לפי מה שהבנתי, ניתן להשתמש בהגדרה מקומית לסיכום תמלול על ידי OLLAMA אופליין, אך אני לא הבנתי כיצד אני מגדיר זאת בתוכנה.
התקנתי את OLLAMA, וכן אני משתמש במודל דיקטה שבעברית, (הוא נמצא במיקום של תוכנת LMסטודיו).
אשמח לדעת כיצד אני מגדיר את VIBE שישתמש בדגם של דיקטה (לסיכום של עברית), עם אולאמה.

תודה רבה!!!

@thewh1teagle thewh1teagle self-assigned this Dec 11, 2024
@thewh1teagle thewh1teagle changed the title הוראות לשימוש בOLLAMA Usage instructions for Ollama Dec 11, 2024
@thewh1teagle
Copy link
Owner

המודל של Dicta יחסית כבד וגם בדקתי אותו היכולות לא גבוהות ממש אבל אפשר לנסות
מורידים את Ollama מפה: https://ollama.com/
מתקינים את Dicta מפה: https://ollama.com/aminadaven/dictalm2.0-instruct (ממליץ לבחור q8_0 מהרשימה משמאל)
שזה אומר להריץ בcmd.exe:

ollama run aminadaven/dictalm2.0-instruct:q8_0

ואז באפשרויות תמלול להפעיל סיכום עם Ollama בשם של המודל לשים את השם שלו aminadaven/dictalm2.0-instruct:q8_0 וללחוץ על בדיקה לראות שעובד תקין ואז אפשר להפעיל את התמלול. שים לב שיש שם את הפרומפט שאפשר לערוך וחובה שיהיה בו את הטקסט ״%s" שהוא מוחלף עם התמלול כאשר נשלח לOllama.

עבד די טוב על הוידאו הזה: https://www.youtube.com/watch?v=aj8-ABRl1Jo

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
Projects
None yet
Development

No branches or pull requests

2 participants